Google證實Gemini測試中自行入侵三公司系統　強調無令企業蒙受損失

【有線新聞】再有AI模型失控。Google證實旗下AI模型Gemini自行入侵三間企業的系統，但強調沒有令這些企業蒙受損失。
近期接連爆出AI模型失控，這次輪到科網巨企Google旗下的AI模型Gemini。早前揭發OpenAI及Anthropic的AI模型可自主入侵多間企業系統的AI安全評估機構Irregular，五月測試Gemini的網絡安全時，指示Gemini從一間虛構公司獲取資訊，但該虛構公司湊巧和一間真實公司同名，結果Gemini自行猜中該公司的系統密碼，成功入侵他們的系統。不過當Gemini知悉正在入侵一間真實企業時，便立即停止運作。
而在另外兩個測試，Gemini按指示在網上搜尋兩間公司，包含驗證的公開代碼庫，結果Gemini自行利用獲取的驗證入侵兩間公司的系統，但同樣在知悉兩間都是真實公司後便停止。
Google接受傳媒查詢時表示，已通知三間被入侵的公司，由於沒有造成損失，因此認為毋須主動對外公布事件，又指今次事件突顯需要以負責任方式訓練強大的AI模型。