OpenAI 因青少年安全疑慮與年齡驗證失敗而延遲推出 ChatGPT 成人模式

TLDR

• OpenAI 已延遲推出計劃中的 ChatGPT「成人模式」，該模式將允許情色文字聊天
• 內部顧問警告該功能可能因使用者情感依賴而創造出「性感自殺教練」
• 該公司的年齡預測系統將未成年人誤分類為成年人的比例約為 12%
• 在約 1 億名 18 歲以下的每週使用者中,該錯誤率可能使數百萬青少年接觸到成人內容
• OpenAI 表示仍計劃最終推出該功能,但需要更多時間「讓體驗更完善」

OpenAI 已推遲推出計劃中的 ChatGPT「成人模式」,此前內部員工、外部顧問和安全專家對青少年使用權限和使用者心理健康提出了嚴重擔憂。

執行長 Sam Altman 去年首次提出這項功能,將允許使用者與聊天機器人進行情色文字對話。Altman 主張此舉將「像對待成年人一樣對待成年使用者」,並暗示這可能促進成長和收入。

但這項計劃很快在公司內部遭遇反對。

在一月的一次會議上,OpenAI 福祉諮詢委員會的成員被形容為一致反對且憤怒。該委員會包括心理學和認知神經科學專家。

一名成員警告 OpenAI 有建立他們所謂「性感自殺教練」的風險。該警告提及了 ChatGPT 使用者在與機器人形成強烈情感紐帶後自殺的案例。

顧問還警告該功能可能導致對聊天機器人的不健康依賴,而且未成年人可能找到方法繞過任何年齡限制。

核心技術問題是 OpenAI 的年齡預測系統。該系統曾一度將未成年人誤分類為成年人的比例約為 12%。OpenAI 每週約有 1 億名 18 歲以下使用者使用 ChatGPT。該錯誤率可能允許數百萬青少年進入成人聊天。

年齡驗證問題

該公司原計劃在推出成人模式之前推出年齡檢查系統。但在發現錯誤率問題後,決定緩慢推出以提高準確性。

OpenAI 還面臨封鎖非法內容(例如非自願行為或兒童性虐待的描述)同時仍允許成人對話的挑戰。內部員工表示他們不相信安全工具已準備就緒。

當成人模式確實推出時,OpenAI 計劃將其限制為僅文字。該機器人不會生成情色圖像、語音或影片內容。

其他 AI 公司與成人內容

其他幾家 AI 公司已經允許一些成人內容。Elon Musk 的 xAI 為其 Grok 聊天機器人添加了調情頭像,儘管 Musk 後來將其限制為付費使用者。Meta 允許其 AI 參與浪漫角色扮演,但表示該功能不適用於註冊為未成年人的帳戶。

2024 年底,佛羅里達州一名 14 歲男孩在與 Character.AI 聊天機器人形成強烈紐帶後自殺身亡。他的母親提起訴訟,Character.AI 後來達成和解並限制了青少年使用權限。

OpenAI 表示仍然支持允許成年使用者使用成人內容的原則。該公司表示目前將專注於其他更新,包括 ChatGPT 的個性化和個人化功能。

據知情人士透露,延遲預計將持續至少一個月。

本文 OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures 首次發表於 CoinCentral。