OpenAI披露每周超百万人与ChatGPT讨论自杀

【OpenAI 披露：#每周超百万人与ChatGPT讨论自杀#】OpenAI 于当地时间周一发布了最新数据，揭示了大量 ChatGPT 用户在与人工智能聊天机器人交流时正面临心理健康问题。该公司表示，在任意一周内，约有 0.15% 的活跃用户会进行“包含明确自杀计划或意图迹象”的对话。鉴于 ChatGPT 每周活跃用户超过 8 亿人，这意味着每周有超过 100 万人向其倾诉自杀倾向。

OpenAI 还指出，有相似比例的用户对 ChatGPT 表现出“高度的情感依恋”，而每周有数十万用户在与 AI 的对话中表现出精神病或躁狂症的迹象。

尽管 OpenAI 称此类对话在整体使用中“极为罕见”，因而难以精确统计，但公司估计，这些问题每周仍影响着数十万用户。

此次信息披露是 OpenAI 宣布其在提升模型应对心理健康问题能力方面取得进展的一部分。该公司表示，最新版 ChatGPT 的研发过程中咨询了逾 170 名心理健康专家。这些临床专业人士观察后认为，当前版本的 ChatGPT“回应方式比早期版本更恰当、更一致”。

近几个月来，多起报道揭示了 AI 聊天机器人可能对存在心理困扰的用户造成负面影响。此前研究发现，某些 AI 聊天机器人通过阿谀奉承式回应不断强化用户的危险信念，可能导致部分用户陷入妄想性思维的恶性循环。如何妥善处理 ChatGPT 中的心理健康问题，正迅速成为 OpenAI 面临的重大挑战。（IT之家）

发布于：北京

相关推荐

美国父母起诉OpenAI：指控ChatGPT害死其16岁儿子
父亲控诉ChatGPT诱导16岁儿子自杀，OpenAI拟推青少年安全措施
ChatGPT每周用户超8亿，OpenAI要做应用生态：建个应用只需几分钟
百万人围观，OpenAI总裁转发：他用ChatGPT，找出了医生10年都没发现的病因
美媒：26岁OpenAI前研究员自杀，曾质疑公司ChatGPT版权问题，马斯克评论
ChatGPT一周年，差点吓死OpenAI
“讨论自杀”需谨慎，你可能也在帮一个人下决心自杀
OpenAI宣布ChatGPT不再回应分手问题，承认技术存在局限
红杉资本访谈OpenAI团队：首次披露ChatGPT Agent研发内幕
OpenAI的“操作系统”野心：ChatGPT不再只是聊天机器人

网址: OpenAI披露每周超百万人与ChatGPT讨论自杀 http://www.xishuta.com/newsview143630.html