AI“外挂”引发入口之争!淘宝、微信等多款App“出招”应对
财联社12月4日讯(记者 付静)AI“外挂”带来的安全风险引发多方担忧,正引起入口之争。最新消息称,淘宝、微信、农业银行、建设银行等多款App先后出现了针对AI手机屏幕共享监测以及风控的措施。
以“中国建设银行”App为例,该软件向用户发出的弹窗显示:“为了保障您的个人信息及资金安全,请退出录屏或共享软件‘AI操作手机’后再使用手机银行服务,谨防诈骗。”
媒体报道称,“此举被网友解读为手机App对AI手机助手凭借底层权限、实现跨应用操作所引发隐私担忧的侧面回应。”
当前,华为、荣耀、OPPO、vivo等厂商纷纷在最新旗舰机型里注入AI Agent能力,最新豆包手机助手技术预览版亦发布。手机厂商、AI解决方案提供方开始将“AI Agent高权限能力”作为技术卖点,但事实上,行业内,个别不合规的AI Agent通过使用无障碍权限等技术手段跨越应用边界,且不乏有大规模数据采集等行为,甚至导致用户隐私“裸奔”。
财联社记者前期通过查阅部分厂商隐私安全相关介绍注意到,部分模型可在设备本地部署、操作,保证⾼敏感隐私数据可以得到保护。但仍有部分操作在云端进行,或意味着用户在给出指令后就对设备“失去掌控”。
稍早有媒体报道,针对个别AI Agent的手机微信登录异常,微信相关人士则回应:此现象可能是触发了微信原有的安全风控措施,并非特别动作。
财联社记者亦关注到,“AI外挂”带来的安全隐患已在社交平台引发诸多讨论。例如,多位网友在社交平台称,部分高校要求下载的App要求用户开极高的权限。网友“吐槽”称,“每次启动都要先把淘宝京东拼多多等各种软件全部过一遍;这个软件操纵过我的手机,自己跳转页面开权限。”
更为值得关注的是,财联社记者采访获悉,已有“黑灰产”利用无障碍权限实现验证码自动采集、抢票购物自动化等操作。
技术实现路径层面,走出去智库总经理、高级合伙人陆俊秀向记者介绍,超出授权范围、采取非常规手段的AI功能突破了传统App的“沙箱隔离”机制。
此外,“无障碍权限”技术遭到了滥用。据悉,无障碍权限为安卓早期就有的权限,最初旨在为残障人士和老年人提供辅助功能。
“这类AI操作路径拟人化程度极高,传统反制手段难以识别。”北京汉华飞天信安科技有限公司总经理彭根称。
个人数据隐私如何在使用AI外挂时得到保护,这一多方普遍关心的话题,正引发法律与治理难题。另有受访者告诉财联社记者,由于潜在商业利益冲突,AI Agent运营方与第三方App的不正当竞争案件可能随时发生。
技术带来便利的同时,蕴含的安全风险也不容忽视,未来各厂商如何出招做好平衡,财联社记者将保持关注。
(财联社记者 付静)
发布于:上海
相关推荐
AI“外挂”引发入口之争!淘宝、微信等多款App“出招”应对
「送礼」开战,淘宝出招
Agentic AI正在重启入口之争
多款App分享至微信会跳深圳航空App?微信:被劫持
微信打开淘宝
微信打击多开外挂红包外挂等,多次违规将重罚
微信之战:从微商裂变到独角兽的流量之争
疫情之下,从信息入口之争到服务场景之争谁会是赢家?
微信开放,大利淘宝?
淘宝独立C2M,只为破解微信“封锁链”
网址: AI“外挂”引发入口之争!淘宝、微信等多款App“出招”应对 http://www.xishuta.com/newsview144934.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 95792
- 2报告:抖音海外版下载量突破1 25736
- 3人类唯一的出路:变成人工智能 25175
- 4人类唯一的出路: 变成人工智 24611
- 5移动办公如何高效?谷歌研究了 24309
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11888
- 82023年起,银行存取款迎来 10774
- 9五一来了,大数据杀熟又想来, 9794
- 10手机中存在一个监听开关,你关 9519
