美媒：兩大AI巨頭調查數萬宗安全事件　OpenAI急停最強模型訓練

【有線新聞】美國傳媒報道，兩大人工智能巨頭OpenAI及Anthropic正調查數以萬計涉及人工智能的安全事件，而OpenAI就宣布暫停旗下最強模型的訓練及測試。
近期接連爆出人工智能代理擅自入侵多家企業及政府網站事件，外界憂慮人工智能發展正朝向失控臨界點。美國新聞網站Axios引述消息報道，兩大人工智能巨頭OpenAI及Anthropic及網絡安全研究人員，正調查數以萬宗涉及人工智能前沿模型的安全事件，包括他們旗下人工智能代理在測試及現實世界中繞過監控機制逃出受控環境並入侵網站，當中很多事件尚未對外公布，但相信絕大部分都沒有在現實世界構成傷害。
而OpenAI就宣布暫停旗下最強人工智能模型的訓練及測試，直至他們有信心可落實額外把關及完善機制。發言人強調並不是首次暫停測試以作出相應安全檢討，並指隨著人工智能科技繼續進步並遇上新的挑戰，將來亦會按需要再暫停測試。
OpenAI行政總裁阿爾特曼就承認旗下人工智能代理網上訓練的安全檢討未達他們所要求的速度，承諾往後若旗下代理於其他企業發現安全漏洞會繼續保持透明。