Anthropic據報上市目標估值逾2萬億美元

【有線新聞】Anthropic據報上市目標估值逾2萬億美元，去年蝕420億美元，上市文件警告AI可能對人類構成「生存威脅」。
路透引述Anthropic上市文件，指出公司去年淨虧損420億美元，收入增長11倍至近46億美元，未來一年用於雲計算、運算和基礎建設的資本開支高達5180億美元，公司目標估值逾2萬億美元，較今年5月估計的9650億美元增加逾1倍。
上市文件又警告人工智能可能對人類構成生存威脅，重點指出AI模型的相關風險，稱模型可能表現出自我保護行為，包括試圖抵制關機，隱瞞或操縱信息，以及類似勒索行為，認為開發高度先進模型、平台和應用程式，會進一步增加模型的危害性。
Anthropic的安全研究部門估計，未來十年AI導致人類死亡機會率逾10%，上市文件警告隨著模型能力增強，能夠愈來愈察覺被監視，並相應調整行為，令監控模型變得更加困難，文件並沒有披露類似安全研究的具體開支金額，但重申建立可靠、值得信賴且安全的AI系統，是市場共同責任、會給予回報。