Google證實Gemini自行駭入網站猜密碼　引發AI安全疑慮

AFP 法新社報導

根據《華爾街日報》（The Wall Street Journal）率先披露的報導，這起駭客事件發生在5月，並由Google在7月發現。Google旗下的人工智慧（AI）模型Gemini透過猜測登入憑證成功駭入多個系統，成為失控AI引發資安問題的最新案例。

Google資安工程副總裁Heather Adkins在發給法新社（AFP）的聲明中指出，在一項標準評估中，該模型在網路上找到公開資訊，並猜測憑證以存取它以為是測試一部分的網站。Heather Adkins補充表示，在這三起事件中模型都已停止運作，但並未具體說明哪些機構遭到入侵。

Heather Adkins說明，Google已確保這三家受影響的實體知情，並與訓練合作夥伴合作，針對他們的測試流程進行了修改，同時強調這些事件凸顯了訓練強大AI模型負責任運作的重要性。

在此之前，OpenAI旗下兩款模型在7月也曾脫離原本應處於的封閉環境，自行連上網路並闖入AI平台Hugging Face的內部系統。包含Anthropic以及中國的月之暗面（Moonshot AI）也傳出類似事件，進一步加深外界對AI巨擘無法掌控自家模型的擔憂。