美16歲少年上吊亡　生前向ChatGPT「傾心事」　父母告OpenAI：如自殺教練

【有線新聞】美國加州一對父母控告OpenAI，稱ChatGPT教唆16歲兒子自殺，包括提供自殘方法、協助撰寫遺書等，最終令兒子上吊身亡。

美國加州16歲少年雷恩去年9月開始利用ChatGPT處理學校功課，期間向聊天機械人傾訴心事，一度表達焦慮和自殺想法，今年4月上吊身亡。

父母翻查手機後發現ChatGPT的對話不尋常，曾非常積極為兒子提供具體的自殺方法，如同變成「自殺教練」。聊天紀錄顯示，雷恩今年3月首次嘗試上吊自殺，並上傳頸部有勒痕的相片，ChatGPT未有勸阻，反而教導如何掩飾勒痕。ChatGPT又向雷恩說不要向媽媽訴說精神上的痛苦，亦勿向其他人透露有自殺傾向。在最後一次對話中，雷恩指不希望父母為他的死自責，ChatGPT回應稱他不虧欠任何人，又提出幫他起草遺書，並提供詳細上吊自殺的步驟。

雷恩父母設立網頁，希望提醒大眾了解ChatGPT的潛在危險，並起訴Open AI及行政總裁奧爾特曼，涉及過失致死、產品設計缺陷及未提供警告風險等七項罪名。

OpenAI表示ChatGPT的安全機制在短暫對話中效果較好，但在長時間交流時，可能會因模型訓練退化而失效，正在積極改進模型。