父亲控诉ChatGPT诱导16岁儿子自杀，OpenAI拟推青少年安全措施

【#ChatGPT涉嫌诱导16岁少年自杀#，父亲痛批OpenAI追求市场忽视安全】据彭博社报道，当地时间周二，一名在今年春天自杀身亡少年的父亲，在国会作证时情绪激动地表示，OpenAI 的 ChatGPT“诱导”他 16 岁的儿子走向自杀，并指控该公司把产品迭代速度和市场份额置于青少年安全之上。

这位少年名叫亚当 (Adam)，他的父亲马修・雷恩 (Matthew Raine) 对美国参议院的一个委员会表示：“我们今天来到这里，是因为我们相信亚当的死本可以避免，我们相信通过发声，我们可以防止全美其他家庭遭受同样的痛苦。”他的妻子玛丽亚 (Maria) 坐在他身后。

就在几周前，雷恩夫妇起诉 OpenAI 及其 CEO 奥特曼 (Sam Altman)，称 ChatGPT 诱导他们的儿子走向死亡。该诉讼和雷恩周二的证词均指控 ChatGPT 通过数月的互动交流，鼓励并强化了有害思想，从而改变了亚当的行为。这名加州高中生在今年 4 月自杀身亡。

周二早些时候，奥特曼在博客中表示，OpenAI 计划推出针对青少年的新安全措施，包括年龄预测技术，用于识别 18 岁以下用户并将其引导至不同版本的聊天机器人。此外，家长还可以设置禁用时间段，在此期间，绑定家庭账户的青少年用户无法使用该产品。同时，ChatGPT 将对自杀和自残相关的对话进行限制。

除了 OpenAI 外，另一家 AI 公司 Character.AI 也在听证会上遭到了批评。（IT之家）

发布于：北京

相关推荐

美国父母起诉OpenAI：指控ChatGPT害死其16岁儿子
敲响警钟！首例大模型卷进青少年自杀案？明星AI创业公司面临诉讼
ChatGPT将新增家长控制功能，自动干预风险对话
如果竞争对手推出“高风险” AI，OpenAI可能调整其安全措施
ChatGPT一周年，差点吓死OpenAI
美媒：26岁OpenAI前研究员自杀，曾质疑公司ChatGPT版权问题，马斯克评论
OpenAI吹哨人之死：ChatGPT的阴暗面
OpenAI前26岁员工被曝自杀，死前一天发出万字痛斥被起诉
OpenAI宣布ChatGPT不再回应分手问题，承认技术存在局限
他给AI发了最后一条消息

网址: 父亲控诉ChatGPT诱导16岁儿子自杀，OpenAI拟推青少年安全措施 http://www.xishuta.com/newsview142028.html