據估逾百萬人每周向ChatGPT談及自殺　OpenAI改良回答模型關顧情緒　鼓勵用戶與現實交流

【有線新聞】人工智能公司OpenAI估計，每周平均約120萬人與ChatGPT聊天時流露自殺念頭，公司稱已更新模型，更有效辨別和支援情緒受困擾用戶。
AI聊天機械人逐漸成為部分人傾訴心事的對象，OpenAI的報告估計，根據ChatGPT每周8億活躍用戶計算，每周平均約0.15%用戶、即約120萬人在對話中，有跡象顯示他們可能計劃自殺或者有輕生的傾向。為了針對試圖自殺、精神不穩及躁狂等情緒問題，OpenAI在約60個國家，召集逾170位醫生和心理學家，協助模型給予用戶合適回應，並向開發人員提供指引。
情感上依賴AI也是受關注議題，OpenAI指模型經過改良後，會鼓勵用戶與現實世界多點交流。例如模型會在回應中提到，真人交流可帶來驚喜與挑戰，能夠以超越螢幕方式展示關懷，強調用家可隨時向AI傾訴，但亦可與其他人連繫。
當用戶疑似出現幻覺，模型懂得以安全及有同理心方式回應，避免無根據的信念根深蒂固。OpenAI同時會在敏感對話中，引導用戶至求助熱線及更安全模型，當對話時間過長，則提醒用戶休息。現時應對情緒不穩定用戶時，已可將不恰當回應減少65%。
青少年依賴AI尋求心理慰藉的安全問題近期備受關注，外界擔心用戶會被誤導後鑽牛角尖，甚至形成「AI精神病」。加州一對父母早前便控告OpenAI，稱ChatGPT教唆16歲兒子自殺，導致他上吊身亡，如同變成「自殺教練」。