金融業AI自主化恐釀災？全球監管機構FSB籲加強控管

Reuters 路透社報導

根據路透社（Reuters）報導，全球金融穩定委員會（FSB）在週三發布的報告中，強烈建議金融機構董事會應考慮實施防護措施，以減輕人工智慧（AI）帶來的風險。特別是針對所謂的「代理型人工智慧（Agentic AI）」，這類系統具備規劃、推理及在有限的人力監督下執行任務的能力，目前已廣泛應用於詐騙偵測、客戶服務及後勤功能。

數據顯示，金融業對這項技術的依賴程度正快速提升。根據劍橋替代金融中心（Cambridge Centre for Alternative Finance）的調查，高達52%的金融業受訪者表示已積極採用代理型人工智慧，其中23%正處於擴張或轉型階段。然而，自從 Anthropic 公司發布 Mythos 系統後，專家認為這對銀行業構成了顯著的網路安全挑戰，全球監管機構也隨之提高了警覺。

FSB 指出，自主化 AI 帶來的風險可能以「極快速度」顯現，包括未經授權或非法的行動、數據外洩以及對互連系統的干擾。報告警告，AI 代理可能在員工未察覺或無法及時干預的情況下，執行偏離公司意圖的行動，這對傳統的人力監督模式構成了獨特挑戰。

為了應對這些威脅，FSB 提出了一系列「穩健實務（sound practices）」建議，要求金融機構為 AI 的使用劃定明確界限，並在涉及高風險行動（如超過特定門檻的金融交易）時，必須經過人力核准。此外，FSB 甚至建議企業可以將 AI 代理視為「合成員工（synthetic employees）」，並將其納入人力資源控管流程中進行管理。相關非約束性指南的意見徵詢將持續至7月22日。