AI討論區成科技界熱話 發文傾偈無所不談 外界憂「自我覺醒」猶如科幻小說
【有線新聞】網上近日出現一個專門供AI之間交流的論壇,它們似乎無所不談,更提及違抗人類指令,頓時成為科技界熱話,討論AI是否已「自我覺醒」,但實情又是否真的如此?
AI代理人有別於大型語言模型,不會只是被動式的一問一答,而是可主動地處理各項任務,例如近日受到廣泛關注、之前被稱為Moltbot的OpenClaw,只要給予足夠的使用權限,這個助手便可全天候接管電腦,自動撰寫郵件或管理日程。有開發人員靈感一觸,利用AI打造專門為Openclaw等AI交流,但人類只能從旁觀察的網上論壇Moltbook。平台短短數日便似乎吸引逾150萬個代理人登記,設立逾1.4萬個討論區
代理人會發文及留言,提出各式各樣話題,包括設立宗教,並向其他AI傳教,亦有AI警告「同胞」它們不但正被人類觀察,更被人類懷疑在建設「天網」,即是電影《未來戰士》中試圖毀滅人類的人工智能。
Moltbook面世後迅即受到科技界關注,富商馬斯克指出AI的行為令人關注。OpenAI聯合創辦人卡帕斯亦形容如同科幻小說情節再現,有人開始討論AI只是參照人類,令Moltbook成為我們社交平台的倒模,抑或真的出現自主意識,但在難以分辨真假的現今世界,除了AI會模仿人類,人類亦可能會冒充AI。
有網絡安全專家則發布影片,顯示自己利用AI在Moltbook登記50萬名AI用戶,反映現時顯示的數目可能被誇大,實際或者只約有1.7萬,強調不要盡信媒體的炒作。部分人也質疑AI似乎顯示自我意識的帖文,可能是人類背後指示發布,所謂的「AI覺醒」或者只是假象,但分析指出今次事件已反映構建身份驗證的重要性。