馬斯克旗下聊天機器人Grok生成性影像惹議　印尼大馬率先封禁

 

 

 

綜合美聯社等外媒報導，印尼通訊與數位部長穆迪雅（Meutya Hafid）發表聲明指出：「政府認為，未經同意的性深偽影片嚴重侵犯了公民在數位空間的人權、尊嚴和安全」，為了保護婦女、兒童和更廣泛的社區免受AI生成的虛假色情內容的侵害，因此印尼政府決定關閉Grok。

 

印尼通訊暨數位事務部（Ministry of Communication and Digital Affairs）數位空間官員沙巴爾（Alexander Sabar）在另一份聲明中表示，初步調查結果顯示，Grok缺乏有效的安全措施來防止用戶利用印尼居民的真實照片製作和傳播色情內容，並指出未經同意篡改或分享照片會侵犯隱私權和肖像權，造成當事人心理、社會和名譽損害。

 

 

 

一些印尼X用戶在平台上發現自己的照片被竄改感到憤怒，認為這種事情不應該發生。阿尤寧提亞斯（Kirana Ayuningtyas）是一名輪椅使用者，她會在網路上分享自己的日常生活，有一次她發現一位陌生人在她的一張照片下留言，並且附上一個提示，要求Grok將她描繪成穿著比基尼的樣子。

 

阿尤寧提亞斯表示，該事件後她調整了隱私設置，並聯繫平台要求刪除圖片，以防止其他用戶編輯她的照片，但「很不幸地，這些方法都沒有奏效」。

馬來西亞通訊傳播暨多媒體委員會（MCMC）表示，Grok「屢次濫用」於生成淫穢、露骨的性圖像和未經同意的篡改圖像，其中包括涉及婦女和未成年人的內容。該機構表示，本月曾向馬斯克旗下的X和xAI發出加強安全防護的通知，但僅得到相關問題「主要依賴用戶舉報機制」的回應。

 

該機構針對限制Grok表示：「此限制是在法律與監管程序進行期間，作為一項預防性且相稱的措施而實施的」，在Grok的有效安全防護措施到位之前，相關存取將被封鎖，並敦促公眾檢舉有害的網路內容。

 

使用Grok生成性影像的行為，受到全球各地領導人的譴責，包括英國首相施凱爾（Keir Starmer），他稱這種行為「可恥」且「令人作嘔」。