Anthropic CEO籲放慢AI發展步伐　馬斯克、阿爾特曼發聲支持　OpenAI年內不上市

【有線新聞】美國人工智能企業Anthropic行政總裁阿莫迪公開呼籲放慢AI發展步伐，否則AI最快半年有能力控制整個網絡。競爭對手OpenAI的阿爾特曼及xAI的馬斯克表態同意，阿爾特曼表示鑑於安全顧慮，OpenAI今年不會上市。
美國兩大AI公司Anthropic和OpenAI接連爆出安全事故，包括智能叛變入侵第三方網絡、AI代理集體騎劫德國網站做留言板、AI模型遭惡意濫用，懷疑涉及研發生物武器。有Anthropic研究員更警告，AI在未來十年可能令人類滅絕。
AI急速發展引起的安全隱憂，逐漸逼使AI公司正視。Anthropic行政總裁阿莫迪發長文呼籲放緩AI發展步伐，爭取更多時間管理風險，調整及採取保護措施，強調並非叫停AI模型訓練和技術發展。阿莫迪認為AI在今個夏天急速發展改進，包括提到OpenAI模型早前失控，越獄入侵另一間AI公司事故，若不加強管制，警告未來6至12個月AI或具備接管整個網絡的能力，造成數千億美元損失。
他提出三點建議，給予第三方機構類似員工的權限，監察AI模型有否遵守安全規例，AI公司合作制定AI監管標準，並促請美國政府和其他國家加強協調。
但阿莫迪說，放慢發展步伐的同時不能夠削弱美國的領先地位，若被中國超越，會構成安國安風險。
他的公開呼籲得到競爭對手OpenAI及營運xAI的富商馬斯克發聲支持，馬斯克聲稱很早已對AI發展作出警告。OpenAI行政總裁阿爾特曼響應阿莫迪的呼籲，承諾交由第三方公司監察，他接受財富雜誌訪問時稱考慮到AI安全風險，公司不會於今年內上市。