OpenAI及Anthropic行政總裁呼籲加強AI安全合作

【有線新聞】兩大人工智能巨頭OpenAI及Anthropic行政總裁一同出席聯合國安理會會議，呼籲要加強AI安全合作，避免出現技術失控。
近期AI安全成為議題，而且層面已升至在聯合國討論。OpenAI行政總裁阿爾特曼出席聯合國安理會會議時指出，雖然AI技術大幅提升科學及醫學的研發能力，但同時亦出現技術失控，不能為了商業競爭而忽視安全監管問題，「歷史上即使國家互相競爭，而且關係不是經常很好，仍會因共同利益團結起來，一同面對強大的新技術。相信現正是這時刻，我們需要機制，補足國家及國際前沿AI標準，標準用於衡量能力、評估風險，確保防禦是否足夠，並要保留重要的人類監督。」
早前Anthropic行政總裁阿莫迪亦呼籲AI業界放慢開發速度，他透過視像參與今次會議，表示旗下的模型已能獨立主導基因工程等科學實驗的設計，技術突破的時間大幅縮短，如果不建立嚴格的審查制度，AI在生物武器或網絡攻擊等領域被濫用的風險將難以想像，「我們應建立評估與核查系統，能跟上AI發展速度，可以了解前沿模型的能力，並能互相監督承諾。第三，應建立通用全球標準，測試AI模型失控及濫用風險，並建立通報機制，針對影響全球安全的AI事件。」
阿爾特曼及阿莫迪均強調制定全球標準與安全規範目的並非要阻止科技創新或阻礙市場競爭，而是要建立清晰的安全底線。