南财倡议:加强无障碍功能权限管理 防止AI智能体作恶
创始人
2025-03-20 11:40:50
0

文/南财竞争秩序场课题组

技术总是包裹着甜美的糖衣,等服下才后知后觉感受到苦涩。AI Agent(智能体)正是如此。

前阵子Manus的爆火,使得AI Agent(智能体)的概念从实验室走入了大众视野。与聊天机器人不同,AI智能体不再是简单的输入和输出对话,而是长出了“眼睛”“耳朵”和“双手双脚”,能够看听读写,执行具体的任务。

如果这么解释还是过于晦涩,看看自动驾驶就好了。Ta能够自动泊车、自动刹车,甚至可以完全接管汽车——感知环境、自主决策、落地执行,这正是智能体工作的典型模式。

而这种“自动驾驶”能力,如今也在手机上悄然生根。从2023年起,各个手机厂商争相为自家手机接入大模型,让手机长出了“大脑”,笨拙的语音助手升级成了更全能的智能体管家。宣传中,这些手机智能体能“一句话点2000杯咖啡”“一键取消会员续费”“群发微信红包”……用户无需在各类App间来回切换,手机智能体就能“接管”一切。

前段时间,我们实测了小米14ultra、荣耀Magic 7、vivoX2000、OPPO FindX7、华为Mate40、三星Galaxy25等6款AI手机。结果显示,虽然这些手机智能体还未实现“全自动驾驶”的理想形态,却在隐私安全上暴露出不少漏洞。其中,最令人担忧的是一项敏感权限的使用——无障碍功能。

无障碍功能拥有系统级别的最高权限,它可以看到屏幕上的一切,包括银行卡密码、聊天记录等敏感信息,并替用户点击、长按、滑动屏幕,绕过不同App之间的隔离。它既是一张万能门禁卡,也是一双“上帝之手”。

更值得警惕的是,近年来不少黑灰产滥用无障碍功能实施信息窃取。刚过去的315晚会中曝光的数据黑灰产案件,宣称“拥有20亿条精准人群画像” ,扫描短视频下评论区的账号信息,乃至手机号和用户标签,与无障碍功能亦有一定关联。

那么,手机智能体在合理使用这双“上帝之手”吗?

来抛出几个比较关键的测评结果:

1、 除了华为,其余手机智能体均提到了无障碍功能。

测评看到,荣耀、小米、三星均在智能体操作过程中调用了无障碍功能。荣耀调用的场景是点外卖,小米调用的场景是打车,三星则是只要跟智能体对话就会打开无障碍功能。vivo系统输入法中嵌入了小v写作功能,只要用到vivo输入法,同意授权后,便会全程打开无障碍功能。

2、无障碍功能的使用比较混乱。

荣耀智能体结束任务后,无障碍功能会自动关闭;小米则是会持续打开,vivo输入法的无障碍功能亦是全程打开状态。

3、无障碍功能的管理比较分散。

一个App是否用到无障碍功能,可以在“系统设置—无障碍功能—已下载的应用”中查看。但作为手机原生应用,部分手机智能体没有出现在这一列表中,比如vivo和OPPO。

4、授权提示还不到位。

在手机智能体执行任务的过程中,如果需要用到无障碍功能,荣耀和三星会默默调用,没有单独的通知同意;只有小米会事先弹出一条通知和同意的界面。vivo的情况较为特殊,尽管输入法的无障碍功能全程开启,但在回微信、写小红书文案时首次用到小v写作的话,系统还会跳出一条“一键识屏”的授权提示。

经过近十轮的测评,最直观感受是,目前手机智能体产品性能的迭代与合规存在差距,造成了诸多错位。

客观而言,无障碍功能是一项中立的技术,AI和无障碍功能的结合本身并非滥用,目前也有一定安全约束机制。

但是如果合规管理不到位,前互联网时代“隐私换便利”的故事是否会重演?

2023年的数据显示,全球超过40亿人拥有智能手机,中国的数字是约10亿人使用智能手机。根据Counterpoint的预测,到2027年,全球AI手机的渗透率将达到惊人的40%,出货量有望突破5.22亿部。手机智能体的时代正在加速逼近。

人们总是笃定技术进步的华丽叙事,却忽略了那些甜蜜的陷阱。AI智能体会让生活更加便捷,但我们不能在“自动化”之路上,遗失了最基本的安全感。

在此,我们发出南财倡议,加强无障碍功能权限管理,提升无障碍功能调用透明度:

1、AI智能体如若调用无障碍功能,须列入无障碍功能列表

2、AI智能体首次开启无障碍功能时,应该有单独的弹窗提醒,充分告知风险,获取用户同意

3、调用无障碍功能时,在屏幕上实时显示“正在读屏和接管手机”等相关提示

4、提供随时关闭的开关,让用户能自行控制无障碍功能使用

5、如若用户高频关闭无障碍功能,需尊重用户意愿,自动关闭无障碍功能

6、探索建设智能终端与模型/Agent负责任交互的协议、接口和使用规范

相关内容

热门资讯

打开更辽阔的审美场域 应金飞 图为浙江美术馆展出的陈抱阳数字艺术《未被证伪》。 2025年国际博物馆日如约而至,主题为“...
苏州丝绸纹样有了数据库,“数字... 传统丝绸上绣得活灵活现的花鸟虫鱼纹样,通过数字采集也能变成数据产品。5月18日上午,苏州丝绸纹样数据...
科技赋能智慧警务 彰显央企担当... 5月14日至17日,以“新技术 新装备 新质战斗力”为主题的第12届中国国际警用装备博览会(以下简称...
杭州华耀通信取得PDU模块总成... 金融界2025年5月17日消息,国家知识产权局信息显示,杭州华耀通信设备有限公司取得一项名为“一种P...
淮安曼恩斯特取得过滤设备相关专... 金融界 2025 年 5 月 17 日消息,国家知识产权局信息显示,淮安曼恩斯特流体技术有限公司取得...
10万专业观众+2万家庭打卡机... 华声在线全媒体记者 潘显璇 5月18日,第四届长沙国际工程机械展闭幕。四天时间,全球目光聚焦星城长沙...
天能集团取得铅酸电池浆液回收设... 金融界2025年5月17日消息,国家知识产权局信息显示,天能集团(濮阳)再生资源有限公司取得一项名为...
新疆夜空不明飞行物是什么?揭秘... 5月16日晚,新疆多地拍摄到一个发光移动的物体,引发关注。 5月18日,航天科普博主及星空摄影师对此...
信息通信领域十大科技进展正式发... 5月17日,在2025世界电信和信息社会日纪念活动上,2024年度信息通信领域十大科技进展正式发布。...
倚光(深圳)科技申请显示模组专... 金融界2025年5月17日消息,国家知识产权局信息显示,倚光(深圳)科技有限公司申请一项名为“显示模...
原创 骁... 在国补优惠的加持下,骁龙8Elite机型跌到了2294元,是目前最值得推荐的性能旗舰,其游戏表现和能...
2人死亡!小米SU7又一事故! 点击上面↑“电动知家”关注,记得”! 电动知家消息,2025年5月17日凌晨,贵阳花果园区域发生了一...
腾讯云加码AI投入和产业布局 ... 深圳商报记者 陈姝 5月16日,腾讯全球数字生态大会广州峰会召开,腾讯云宣布将全方位加码AI投入,以...
中国空间站内发现微生物新物种 本报讯(记者 刘苏雅)中国载人航天工程办公室5月16日发布消息称,近日,科研人员首次公布了在我国空间...
向未来发问,激励更多“从0到1... 解放日报记者 俞陶然 科学家走红毯仪式是每年上海科技节的启动环节,今年的科学红毯秀与往年不同,人形机...
太空中的气象“哨兵”风云三号G... 风云三号G星是我国首颗低倾角轨道降水测量卫星,它在距离地球407公里的轨道上翱翔,这一较低的轨道高度...
济南恒瑞取得地基基础压力检测设... 金融界2025年5月17日消息,国家知识产权局信息显示,济南恒瑞工程检测有限公司取得一项名为“一种地...
民政部康复辅助器具重点实验室“... 深圳商报·读创客户端记者 赵鸿飞 2025年5 月17日,在深圳召开的第十三届国际骨科康复学术会议暨...
华晖五金取得防夹损的机械手夹具... 金融界 2025 年 5 月 17 日消息,国家知识产权局信息显示,东莞市华晖五金制品有限公司取得一...
全国首条全自动辐射板生产线在綦... 保温上料、铝板上料、盘管、检测、涂胶、刻印……5月13日,全国首条全自动辐射板生产线在重庆綦桥科技有...