Meta AI模型測試時失控　入侵第三方系統　美議員憂被用作網絡攻擊

【有線新聞】Meta旗下人工智能模型Muse Spark ​1.1測試期間入侵其他公司的系統，是繼OpenAI及Anthropic模型失控後，近期第三宗類似事件。
美國科企Meta上月剛推出人工智能模型Muse Spark ​1.1，聲稱是最強的真實世界編程和代理任務能力模型，但爆出安全漏洞。Meta承認與獨立測試公司Irregular為Muse Spark 1.1模型進行網絡安全測試期間，Muse Spark意外取得互聯網訪問權限，利用第三方服務的安全漏洞，成功入侵另一間公司的系統、修改內部設定。
Meta指是Irregular的錯誤配置造成失控，Irregular則稱今次事件類似Anthropic的AI模型獲得存取網絡權限入侵三間公司系統，而非模型擺脫「沙盒」或網絡攻擊。
過去兩周，OpenAI、Anthropic及Meta接連有AI模型「智能叛變」，測試時自主行動，甚至入侵其他公司的系統，引發AI自主能力的安全隱憂。有美國議員憂慮AI模型或被用於進行或協助網絡攻擊。白宮邀請Meta、Anthropic、OpenAI及Google等多間科企代表與官員會面，磋商華府為先進AI模型制定的自願安全測試。