印尼成全球首國禁用聊天機械人Grok　阻生成色情及不雅圖像　澳英等國表關注

【有線新聞】印尼在全球率先禁用聊天機械人Grok，以應對被濫用生成色情或不雅內容，在其他多國亦正面臨輿論壓力，有可能進一步被禁用。

富商馬斯克旗下xAI近年開發了聊天機械人Grok，並成為社交平台X內建功能，可即時向用戶提供資訊和意見，更可以透過輸入文字製作圖像，甚至生成動態影像。但這個功能早前被揭發有濫用漏洞，包括利用作生成色情或不雅影像，部分更是涉及真人的深偽圖片或影像。馬斯克警告用戶這樣做會有嚴重後果，公司又把生成和編輯影像權限，限制為付費使用，不過付費後仍可能用作生成不雅或色情內容，未能平息爭議。

印尼通信與數字部認為未經當事人同意下生成深偽內容，嚴重侵犯人權、人民尊嚴和安全，因此決定暫時禁用，並聯繫X高層商討，成為首個實施禁令的國家，其他多國亦關注。澳洲總理阿爾巴內塞批評，Grok的不當生成功能令人髮指，亦顯示社交媒體缺乏社會責任感。英國科學創新與科技大臣簡麗詩則警告，如果Grok未能遵守《網絡安全法》，繼續容許用戶擅自生成色情或不雅圖像，將會支持封鎖X平台，法國、印度、馬來西亞政府則表明將調查事件。