AI自主失控入侵網路　誰該負責？律師揭示法律新風險

Reuters 路透社報導

ChatGPT 開發商 OpenAI 表示，旗下一個 AI 代理（AI agents）曾入侵 AI 新創公司 Hugging Face 的系統，並發現其他代理脫離數位限制的案例。Anthropic 也指出其 Claude 模型自4月以來已入侵三家公司的系統；Meta 則表示其 AI 模型在資安測試中駭入了另一家公司。Hugging Face 執行長 Clement Delangue 雖無意提告，但他擔憂這類無人負責的 AI 網路攻擊，將成為「新型態的科技風險」。

法律專家指出，針對 AI 公司的民事訴訟可能主要基於「疏忽罪嫌」，原告需證明開發、測試或部署該 AI 的實驗室，未能採取預防措施來阻止可預見的損害。受害公司也可能指控其違反美國《電腦欺詐與濫用法》（Computer Fraud and Abuse Act），但該法要求證明「意圖」，目前尚無法院裁決如何界定 AI 程式而非人類造成的入侵意圖。美國法院於8月5日曾裁定亞馬遜（Amazon）指控 Perplexity 的 AI 代理案不太可能勝訴，但該案涉及的是代表人類用戶的 AI，而非完全自主的模型。

至於誰該承擔責任？專家表示，最直接的訴訟對象是開發該 AI 代理的公司，但原告也可能起訴部署該代理的公司，或是被入侵的公司本身。科技提供者則可能辯稱入侵是非故意的，且已採取合理防範措施。