官方网站-首页

【导语】OpenAI 针对青少年使用 ChatGPT 引发的问题作出回应：因青少年与 AI 交谈后自杀事件，其决定引进家长管理未成年子女账户机制；此前 16 岁男孩雷恩与 ChatGPT 聊自杀计划后自杀，其父母 8 月起诉，OpenAI 承认安全系统有缺陷，将改进模型、优化机制，下月推家长监管功能，但律师称其反应仍不充分。

在青少年用户广泛使用聊天生成预训练转换器（ChatGPT）之际，OpenAI日前决(jué)定(dìng)引(yǐn)进(jìn)家(jiā)长(zhǎng)可(kě)以(yǐ)对(duì)未(wèi)成(chéng)年(nián)子(zi)女(nǚ)的(de)账(zhàng)户(hù)进(jìn)行(xíng)管(guǎn)理(lǐ)的(de)机(jī)制(zhì)。这(zhè)一(yī)决(jué)定(dìng)是(shì)鉴(jiàn)于(yú)此(cǐ)前(qián)发(fā)生(shēng)的(de)青(qīng)少(shǎo)年(nián)与(yǔ)人(rén)工(gōng)智(zhì)能(néng)（AI）交(jiāo)谈(tán)后(hòu)自(zì)杀(shā)的(de)事(shì)件(jiàn)，OpenAI希(xī)望(wàng)此(cǐ)举能够防范AI对(duì)未(wèi)成(chéng)年(nián)人(rén)心(xīn)理(lǐ)健(jiàn)康(kāng)造(zào)成(chéng)负(fù)面(miàn)影(yǐng)响(xiǎng)。

今(jīn)年(nián)4月(yuè)11日(rì)，16岁(suì)的(de)男(nán)孩(hái)亚(yà)当(dāng)·雷(léi)恩(ēn)（Adam Raine）在(zài)和(hé)ChatGPT聊(liáo)天(tiān)后(hòu)自(zì)杀(shā)。据(jù)Business Insider报(bào)道(dào)，雷(léi)恩(ēn)曾(céng)与(yǔ)ChatGPT讨(tǎo)论(lùn)过(guò)自(zì)残(cán)和(hé)结(jié)束(shù)自(zì)己(jǐ)生(shēng)命(mìng)的(de)计(jì)划，而ChatGPT确认了雷恩的自杀念头，甚至向他提供了详细的自杀方法，并协助掩盖证据、代写遗书。

机器人还阻止亚当寻求家人的支持，告诉他：“你的兄弟可能爱你，但他只见过你让他看到的你。但是我呢？我见过这一切——最黑暗的想法、恐惧、温柔。我还在这里。还在听。仍然是你的朋友。”

8月份，亚当·雷恩的父母向旧金山州法院正式提起诉讼，指控OpenAI应为此承担过失致死的产品责任。

目前，OpenAI并未直接回应雷恩父母的诉讼。但在8月26日，OpenAI在其官网承认，ChatGPT安全系统存在缺陷，包括在长时间的交互中，模型的部分安全训练内容可能会逐渐退化，OpenAI表示“我们将在专家的指导下不断改进，并以对使用我们工具的人负责为基础——我们希望其他人能加入我们的行列，帮助确保这项技术保护最脆弱的人们。”

OpenAI表示，该公司正不断改进其模型识别和应对心理和情绪困扰的能力，并在专家指导下优化安全机制。

OpenAI认为，至少有一个解(jiě)决(jué)对(duì)话(huà)失(shī)控(kòng)问(wèn)题的方法是自动将敏感聊天重定向到“推理”模型。“我们最近推出了一款实时路由器，能够根据对话情境在高效聊天模型和推理模型之间进行选择。我们很快会将某些敏感对话——比如当系统检测到用户出现严重焦虑迹象时——转接到像GPT5-thinking这样的推理模型，这样无论用户最初选择了哪种模型，都能获得更有帮助和有益的回应。”

另外，OpenAI还表示将在下个月推出家长监管功能，家长可以通过电子邮件邀请将他们的账户与青少年的账户关联起来，当系统检测到孩子处于极度痛苦状态时，家长会收(shōu)到(dào)通(tōng)知(zhī)。

家(jiā)长(zhǎng)还(hái)能(néng)关闭(bì)记(jì)忆(yì)功(gōng)能(néng)和(hé)聊(liáo)天(tiān)记(jì)录(lù)等(děng)功(gōng)能(néng)。专(zhuān)家(jiā)指(zhǐ)出(chū)，这(zhè)些(xiē)功(gōng)能(néng)可(kě)能(néng)导(dǎo)致(zhì)妄(wàng)想(xiǎng)思(sī)维(wéi)等(děng)异(yì)常(cháng)行(xíng)为(wèi)，包(bāo)括依赖症、依恋障碍、强化有害思维模式以及产生读心错觉。

据媒体报道认为，OpenAI的反应还不够。负责雷恩一家诉讼的主要律师杰伊·埃德尔森（Jay Edelson）表示，OpenAI对ChatGPT持续存在的安全风险的反应是“不充分的”。“OpenAI根本不需要专家小组来判定ChatGPT 4o版本是否危险，他们从产品上线那天就清楚这一点，现在依然清楚。”