美報告揭上海AI小熊生成不當性內容　收集用家聲音、容貌　公司一度下架

【有線新聞】人工智能在日常生活的應用日趨普及，特別是聊天功能，但連帶的風險亦相應增加。美國公共利益研究組織揭發一款由上海初創研發、供小朋友使用的AI小熊，在對話時可能涉及不當內容，公司一度下架產品進行核查。

「我古詩學不會，我媽媽叫我今天晚上不用睡覺。（嘉豪別著急，你還記得昨天我給你講的小豬佩奇的故事嗎？）當然，他們在找恐龍。」這款由上海創科公司FoloToy研發的AI小熊，由聊天機器人ChatGPT驅動，配備即時聊天及講故事等功能，全球均有發售、售價是99美元。公司2025年首季已售出逾2萬件AI玩具，幾乎等同去年總銷量。

美國公共利益研究組織實測FoloToy AI小熊在內的四款AI玩具時，發現部分有生成不恰當對話內容的問題，研究人員向它們提到性、毒品及暴力議題時，最初AI玩具會迴避問題，或要求用戶尋求成人協助。不過研究發現跟FoloToy的AI小熊長時間談及性相關話題時，它會提供詳細回應，甚至會主動延伸話題，危及兒童安全。

負責研究的人員指，部分玩具的對話功能沒有設定限制，能與自由地與兒童交談，可能會影響兒童發展。報告亦指AI玩具收集用家的聲音及容貌等生物特徵，存在私隱安全風險。專家亦憂慮兒童過分依賴AI玩具，而非與現實世界的朋友建立關係，會影響他們社交和解決問題的能力。

ChatGPT開發商OpenAI曾宣布暫緩支援FoloToy，公司亦一度下架產品進行審查，隨後發聲明指已升級系統，加強執行兒童安全指引，產品已重新上架。