智通財經AAPP獲悉,OpenAI 周二宣佈推出青少年版 ChatGPT(ChatGPT for Teens),這是專門為 18 歲以下用戶打造的聊天機器人體驗。該公司表示,該版本旨在包含「更強的內置安全保護措施」。
青少年版 ChatGPT 構建在 OpenAI 過去一年推出的多項功能之上,包括旨在幫助學生循序漸進解決問題的「學習模式」(Study Mode),以及年齡預測和一系列家長控制功能。
全新的青少年體驗包括一系列教育功能,涵蓋作業提醒、測驗、學習可視化,以及「學習時間」——家長或青少年可以通過該功能設定何時默認開啓學習模式。OpenAI 表示,青少年版 ChatGPT 還添加了符合年齡的安全防護措施,旨在減少接觸不符合身心發展階段或有害內容的情況。
OpenAI 在一份發布聲明中表示,「青少年應該能夠使用 AI 來學習、創造和探索,」「但這種使用權限應當伴隨相應的保護措施,以體現他們的成長階段、鞏固現實生活中的人際關係,並支持長期的健康使用。」
OpenAI 推出青少年版 ChatGPT 體驗之際,Meta 正迎來一場高風險的庭審,焦點在於其是否挑起了青少年和兒童的成癮行為。這場可能導致 Meta 面臨數千億美元賠償的審判,涉及 2023 年由 29 名州檢察長聯合對該公司發起的訴訟。
OpenAI 自身也因其安全舉措面臨審查。
今年 6 月,佛羅里達州檢察長詹姆斯·烏斯梅爾對 OpenAI 及其首席執行官山姆·奧特曼提起訴訟,指控該公司在明知產品不安全的情況下仍將其公開發布,從而可能傷害用戶。幾天後,據報道,一個由多州檢察長組成的聯盟對該公司展開了調查。OpenAI 當時在給 CNBC 的一份聲明中表示,計劃與這些官員進行「建設性溝通」。
今年 9 月,美國聯邦貿易委員會(FTC)對包括 OpenAI 和 Meta 在內的七家公司展開調查,旨在了解其 AI 聊天機器人可能對兒童和青少年產生的潛在負面影響。
OpenAI 還面臨多起非正常死亡訴訟,指控稱 ChatGPT 導致用戶產生有害妄想,並在某些情況下引發了自殺行為。