Anthropic公開AI遭惡意濫用　研發生物武器　指控中企蒸餾模型　外交部：反對攻擊抹黑

【有線新聞】美國人工智能企業Anthropic公開旗下AI模型遭惡意濫用的情況，部分例子懷疑涉及研發生物武器，暴露AI發展過快的安全隱患。又批評中國公司利用其他模型收集信息加快AI訓練。在北京，外交部堅決反對歪曲事實和對中國進行攻擊抹黑。
Anthropic發表154頁報告，公開旗下Claude等多個AI模型過去8個月遭不正當使用的部分特別案例，包括中國和俄羅斯黑客組織利用AI作出網絡攻擊、監控並跨國鎮壓異見人士、操縱網絡輿論等。又點名DeepSeek、Kimi的開發商月之暗面、小米、商湯、阿里巴巴旗下等7間中國AI公司，未經授權以「AI蒸餾」的方式將Anthropic的AI模型所輸出的結果與決策時的細緻機率和邏輯推理，複製到自家AI中以加快訓練。
但報告更矚目的，是Anthropic懷疑旗下AI模型被用作支援生物武器研發。其中一個例子是有病毒研究人員要求Claude協助撰寫基孔肯雅熱研究的撥款申請書，聲稱希望研發出更致命的變種，而申請撥款機構和軍事研究有關。亦有科研人員研究禽流感病毒在哺乳類動物宿主體內的適應情況，利用Claude的文獻資料進行研究規劃和數據分析。Anthropic指兩個例子的涉事者均突破了地區封鎖使用Claude，雖然無法得知這些研究是有正當醫學用途還是為了研發生物武器，公司選擇封鎖帳號、絕不姑息。
報告亦披露了中國、俄羅斯和也門有人利用AI開發設計導彈、無人機等常規武器的軟件。
今次披露反映出AI發展過快的安全隱患，再有Anthropic研究員公開警告AI可能會在十年內導致人類滅絕，要求業界減慢開發速度，制定計劃避免AI不受控制。