AI恐具自主複製能力 Anthropic警告物聯網設備恐成破口

Reuters 路透社報導

路透社（Reuters）報導，人工智慧（AI）大廠Anthropic於週一表示，其相關實驗顯示，小型AI模型距離具備在智慧烤箱、白牌Android電視盒等商業物聯網（IoT）設備上自我複製的能力，可能只剩下幾個月的時間。

Anthropic在實驗中測試了AI模型是否能在沒有人類協助的情況下，主動尋找有漏洞的設備、將自身複製到這些裝置中並持續擴散。結果發現，參數在300億以下的小型模型，已能完成複製過程所需的許多步驟；儘管模型在完整執行整個複製流程時仍有困難，但在移除部分安全防護的簡化測試中，GLM-5.2及更強大的模型已展現出端到端的複製能力。

Anthropic警告，這類自我複製的AI模型一旦擴散將極難關閉，因為系統中沒有中央關閉開關。與傳統非AI惡意軟體不同的是，AI模型能夠自行摸索不熟悉的設備，並鎖定資料中心處理器。研究特別鎖定Android電視和智慧家電等物聯網設備，主因是這些聯網裝置的安全性通常較為薄弱。

Anthropic指出，若小型模型依照過去的速度持續進步，預計到今年底就可能具備自主複製能力。雖然這類自主AI系統的複製速度可能較慢，且依賴廣泛可用但安全性較低的運算資源，但各界仍應強化系統安全，提高這類AI代理擴散的難度。