特朗普與科企高層達成AI安全協議:具道德約束力 又稱不打算與中國共同發展AI技術
【有線新聞】美國總統特朗普與科企高層達成自願性質AI安全協議,科企自行監管人工智能發展,包括引入外部審計和獨立委員會。協議不具法律約束力。但特朗普形容具道德約束力,又稱不打算與中國共同發展AI技術。
美國總統特朗普在白宮東廳與多位科技企業高層共晉午餐,Tesla行政總裁馬斯克和英偉達行政總裁黃仁勳坐在特朗普兩旁,OpenAI、Anthropic高層等亦有出席,討論人工智能發展和監管。特朗普形容會面氣氛良好、富有成效,與會者在多項議題意見一致,包括希望世界安全,強調AI業界的自我監管非常重要。
他們會後一同見記者,宣布達成《白宮超級智能協議》。美國總統特朗普:「協議就像一部憲法,世上最具影響力的人簽署,我作為總統亦簽署,形成某種保障。黃仁勳,來吧。」英偉達行政總裁黃仁勳:「創新科技與安全不存在矛盾,我們既要開發新技術提升AI能力,同時也會開發新技術加強AI安全。」
Anthropic行政總裁阿莫迪說:「AI確實存在切實風險,應對風險的機制仍待討論,但我們必須一同努力,確保能夠取勝而且安全。」
根據這份約300字的自願性協議,科企將制定四層機制管理AI,包括在內部設立機制評估AI是否正常運作,確保AI模型在網絡安全、生化威脅等領域受控,又和外部審計機構合作,以及成立獨立委員會監督AI監管系統,又稱假以時日,為協議立法可能是合理選項。特朗普指協議有道德約束力,考慮成立10人組成的委員會監管AI工具的安全。
特朗普之後在華府網站推出聊天機械人的啟動禮致辭,稱不打算與中國共同發展AI技術,因不希望對方獲得美國獨家資訊,保持美國的領先優勢,但強調在其他不同方面與中國合作。他又簽署行政命令,將人工智能改稱「超級智能SI」。
特朗普在社交網站上傳已經簽署的AI安全協議,在他的簽名欄頭銜下方美國國名United States錯誤打成Unites States,帖文隨後被不少人轉發。有人認為只是無心之失,亦有網民質疑協議是否有效。