王小川谈AI安全：现在AI能力还很弱不会颠覆人类，近期不存在安全问题

#百川王小川称AI近期不会颠覆人类#【#王小川谈AI安全#：现在AI能力还很弱不会颠覆人类，近期不存在安全问题】今日举办的2024智源大会上，百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能联合创始人、CEO李大海共同出席《尖峰对话：通往AGI之路》环节。

对于AI安全问题，百川智能CEO王小川表示，安全有不同的内涵和外延，他将其分为三层安全：

第一是意识形态安全，做to c公众服务，要跟国家发展、国家意志保持一致，这是大家的一个基本功；

第二是比较远的安全，模型是不是把人类毁灭了，以后人就没了，然后机器掌握世界了，其实内心来想不希望发生的，就像核弹一样的把人类文明给搞没了。但是至于这个模型它是否比人更聪明，能够取代人做事情，这是个鼓励的一件事情。这个技术能够跟我们一块去拓展人类文明，这件事情是有意义的。

第三是现实安全，现在的AI能力还很弱，就不要想什么颠覆人类这么复杂的事，现实中在近期还不存在安全的问题。（新浪科技）

发布于：北京

相关推荐

王小川谈AI安全：现在AI能力还很弱不会颠覆人类，近期不存在安全问题
王小川谈算力被卡脖子王小川称不要让AI毁灭人类
对话王小川：人类进入AI新时代
对话王小川：我们已经进入通用人工智能时代
王小川人到中年，AI创业从未离场
专访王小川：搜狗没有落伍，搜索和AI要打差异化
AI兵临城下，人类UI何去何从？
王小川的理想和傅盛的梦想
辞职4天后，王小川投了一家AI口腔健康服务商
王小川调侃AI看不懂范冰冰分手金句:我们不再是我们

网址: 王小川谈AI安全：现在AI能力还很弱不会颠覆人类，近期不存在安全问题 http://www.xishuta.com/newsview120646.html