


随着大模型能力不断提升,智能体(Agent)正加快从概念走向应用。因贴近用户、使用频率高,手机终端智能体被视为AI时代最具潜力的形态之一。围绕这一话题,政协委员、阿里巴巴集团高级安全研究员薛晖表示,手机智能体发展不能只追求“快落地”,更要守住安全与责任底线,避免“越界创新”透支行业信任。
薛晖表示,手机智能体主要有两种实现方式:一是通过系统接口协同运行,二是模拟人工操作。后者成本低、上线快,但风险更高,还会削弱现有隐私授权机制。用户只能在“授权智能体”,却难以了解其具体调用的应用、数据和操作,风险难以感知和控制。
薛晖认为,当前问题的关键不在技术,而在责任边界不清。对此,他建议尽快明确各方责任:终端厂商夯实系统和数据安全底座;智能体服务方对决策和执行行为负责,做到过程可追溯、用户可接管;应用服务方依法维护平台规则,对核心功能和高风险场景保留必要控制权。同时,在资金交易、账号安全、身份认证等关键场景中,应明确禁止自动化模拟操作,防止技术越界引发系统性风险。
薛晖提到,规范并非限制创新,而是为发展划清边界。在安全底线之上,应鼓励通过规范接口开展合作,对主动遵守安全标准、接受评测、公开隐私承诺的主体给予正向引导,推动产业在规则内协同发展。“手机终端智能体是AI走向大众的重要一步,越贴近用户,越要谨慎,不能以短期体验换取长期安全和信任。”