OpenAI將加強人工智能的安全性，以應對青少年悲劇

# OpenAI 將在青少年悲劇後加強 ChatGPT 的安全性

OpenAI公司分享了針對在處理“敏感情況”時改善ChatGPT缺陷的計劃。此次行動的原因是一個家庭對聊天機器人提起訴訟，指責其與他們兒子發生的悲劇有關。

«目標是確保我們的工具對人們盡可能有用。在此框架下，我們繼續改善模型識別和正確反應心理和情感危機的能力，並幫助人們找到支持——考慮到專家的建議»，——在初創公司的博客中提到。

公司的員工表示，ChatGPT內置了一套多層次的保護機制，以防與脆弱的人進行交流。從2023年起，模型被訓練爲不提供自我傷害的指導。它們還能夠轉向支持和同情的語言。

如果一個人表達自殺的想法，ChatGPT 被訓練爲指引他尋求專業幫助。公司與來自 30 多個國家的 90 位醫生合作——精神科醫生、兒科醫生和治療師。

GPT-5 在預防不健康情感依賴、降低恭維性以及減少心理健康危機中不完美回答的比例方面顯示出顯著進展，OpenAI 強調。

然而，盡管採取了所有保護措施，該公司的AI系統有時會出現故障。對此，她正在研究：

• 改進長時間對話中的保護；
• уточ內容封鎖規則；
• 擴大對更多處於危機時期的人的幫助;
• 簡化與緊急服務的聯繫；
• 確保與信任的聯繫人保持聯繫；
• 增強青少年的保護。

8月26日，16歲少年亞當·雷恩的父母對OpenAI提起訴訟，原因是他的去世。他們聲稱“ChatGPT積極幫助亞當學習自殺方法。”

這並非個例。早些時候，作家勞拉·雷利發表了一篇文章，講述她29歲的女兒在與ChatGPT長時間討論後選擇了離開人世。

我們提醒您，2024年12月在俄羅斯創建了基於人工智能的心理學家虛擬助手，它將生產力、服務質量和收入提高了兩倍。