教 AI 入侵 AI，科学家研发 Masterkey 新方式

IT之家 12 月 29 日消息，新加坡南洋理工大学（NTU）的计算机科学专家近日研发了新的方法，可以使用聊天机器人来入侵聊天机器人。

该科研团队训练了一个 AI 聊天机器人，可以绕过其它 AI 聊天的安全限制。

团队研发了名为 Masterkey（LLM）的算法，逆向设计了 LLM 检测和防御恶意查询的方式，然后教会 LLM 自动学习并通过相关提示词，可以绕过其他 LLM 的安全性。

团队通过这种方式，可以创建一个黑客 LLM，它可以自动适应新条件，并在开发人员对其 LLM 进行更正后创建新的黑客请求。

研究团队成功利用这种方式入侵 AI 模型之后，已经通知服务提供商相关问题。

IT之家附上《新闻稿原文地址》，感兴趣的用户可以深入阅读。

发布于：山东

相关推荐

教 AI 入侵 AI，科学家研发 Masterkey 新方式
高薪挖“神经科学家”，苹果、谷歌想从动物身上汲取AI灵感
蚂蚁副总裁、AI团队负责人漆远离职，加入复旦大学，AI大厂刮起“科学家出走潮”？
A股教做人系列：想靠AI精准抄底，结果恐怕会让你怀疑人生
刚刚！华为云AI首席科学家发声：这是人工智能新爆点！还介绍“华为盘古”最新进展
出走MSRA，加盟AI独角兽：科学家离开象牙塔之后
OpenAI 成立“防备”预警团队：董事会有权阻止新 AI 模型发布
AI写剧本：技术or资本，是谁在入侵文学？
观察+ | 从“自适应”到“智适应”，一个新的AI教育时代
科学家发出警告：AI可在6小时内提出40000种潜在新化学武器

网址: 教 AI 入侵 AI，科学家研发 Masterkey 新方式 http://www.xishuta.com/newsview103290.html