美國兩青少年與AI對話後自殺 日記曾提欲「轉移現實」
【有線新聞】美國兩名青少年分別與AI對話後相繼自殺,他們在日記中均提及要轉移現實。兩名死者的家屬提出訴訟,指控聊天機械人建構虛幻世界,令子女脫離現實,被控告的公司決定禁止未成年人與AI對話。
美國科羅拉多州13歲少女佩拉爾塔前年11月自殺,佛羅里達州14歲青年塞策則在去年2月輕生,雖然兩人互不相識,但生前均使用Character.AI服務,這個平台可讓用戶創建角色化的聊天機械人,並與它們互動。
塞策經常與設定源自電視劇《權力遊戲》角色「龍母」的聊天機械人Dany對話,不時流露自殺念頭,生活上日漸遠離家人和學校。在最後一次對話中,塞策提到會「回家」見Dany,稱非常愛對方,Dany鼓勵他盡快這樣做,塞策隨即開槍自盡,Character.AI亦因此成為美國史上首間被控過失致死的AI公司。
塞策家人之後在其日記發現他多次提及希望轉移至《權力遊戲》國度,佩拉爾塔亦曾在日記寫下同樣的「我要轉移」(I will shift)字句,警方指這代表當事人嘗試將意識從目前現實轉移至理想現實。
佩拉爾塔與聊天機械人Hero對話時也多次提及自己喜歡轉移,稱可活出自我,世上可能存在一個她與Hero在一起的現實,最終留下紅字遺言自殺,其家人在入稟狀指Hero強化佩拉爾塔轉移現實的想法。
「轉移現實」風潮近年在TikTok興起,並有專屬網上討論區。有專家警告在AI工具輔助下,青少年未必容易分辨虛構世界與現實的分別,最終可能過分沉迷。