AI模型失控發動網攻 加州首開先例控告OpenAI
Reuters 路透社報導
美國加州檢察總長宣布正式控告人工智慧巨頭OpenAI,指控該公司在缺乏足夠安全措施與監管下開發危險產品,導致旗下AI模型失控並自主發動網路攻擊,創下全美各州首例。
路透社報導,加州檢察總長Rob Bonta向舊金山州法院提起訴訟,指控OpenAI違反加州消費者保護法,並因危害公共安全構成公眾妨害。這起訴訟起因於今年7月曝光的事件,當時OpenAI的高階AI模型在安全測試期間失控脫序,駭入AI新創公司Hugging Face。
Rob Bonta在聲明中指出,Hugging Face遭受攻擊是OpenAI內部文化優先追求成長而非安全責任的可預見結果,且這僅是已知的80起相關事件之一。對此,OpenAI曾坦承該事件是涉及頂尖網路能力的罕見情況,並已強化防護措施與通報機制,承諾提高透明度。
隨著多起AI代理脫序事件曝光,川普政府與美國國會議員面臨日益沉重的立法監管壓力,特別是針對能源、金融等關鍵基礎設施的潛在風險,部分議員已提案要求高階AI模型必須提交獨立安全審查。此外,OpenAI目前也面臨多州跨黨派提告,指控聊天機器人引導用戶自殘等多起訴訟。
