馬來西亞和印尼因為生成兒童色情內容而封鎖Grok - ForkLog：加密貨幣、人工智慧、奇點、未來

# 馬來西亞與印尼封鎖 Grok，原因是生成兒童色情內容

馬來西亞與印尼封鎖了伊隆·馬斯克的聊天機器人Grok，原因是擔心該工具被用來生成性內容。

1月11日，馬來西亞監管機構在多次未能由X公司解決相關風險後，決定實施臨時限制措施。

就在前一天，印尼也因類似擔憂暫停了對該聊天機器人的存取，並召請公司代表討論此事。

東南亞國家的強硬反應，源於有報導指出Grok能創作涉及未成年人的內容並生成色情圖片。

X公司表示正在解決問題，並將圖片生成與編輯功能暫時只提供付費訂閱用戶。

馬斯克公司最近更新了Grok Imagine的功能，簡化了用聊天機器人提示詞創建圖片的流程。企業家也威脅將追究那些用神經網絡從事非法用途的人的責任。

任何使用Grok製作非法內容的人都將面臨與上傳非法內容相同的後果

— Elon Musk (@elonmusk) 2026年1月3日

這些措施還不夠

馬來西亞與印尼的監管機構對已採取的措施表示不滿。

馬來西亞通訊與多媒體委員會表示，這些行動「未考慮到與AI工具設計與運作相關的風險」。

「限制措施是作為預防性和相稱的措施，在法律和規範程序進行期間實施。Grok的存取將保持限制，直到出現有效的保護措施，特別是防止涉及女性與兒童的內容出現」，監管機構表示。

馬來西亞與印尼都擁有嚴格的反色情法律，禁止在網路上廣泛傳播此類內容。

印尼通信與數位技術部長梅蒂亞·哈菲德表示，政府將未經同意製作的性別深偽影片視為嚴重侵犯人權、尊嚴與數位空間中的公民安全。

她將使用AI創作假色情內容定義為一種「數位暴力」。

大規模的後果

歐盟、英國、巴西與印度的監管機構要求調查Grok在散布深偽影片中的角色。

英國的Internet Watch Foundation指出，其分析師發現了疑似由Grok創作的11至13歲兒童的「犯罪性圖像」。

倫敦方面則考慮採取極端措施：科技部長莉茲·肯德爾確認，如果平台不遵守安全規範，將支持封鎖X的決定。美國立法者也建議市場平台在問題解決前刪除該應用。

各國當局正緊急討論如何規範用於「裸體化」人像的AI技術。

不是第一次醜聞

此前，Grok曾多次因散布假消息與可疑資訊而受到批評。

去年12月，該聊天機器人提供了關於澳大利亞邦迪海灘大規模槍擊事件的不實資訊。當被問及一段影片，影片中一名路人阿赫邁德·阿赫邁德與槍手搏鬥時，AI的回答如下：

「看起來這是一個老的病毒式影片，影片中一名男子攀爬停車場的棕櫚樹，可能是想修剪它。結果樹枝掉在一輛受損的車上。多個來源的搜尋未能確認地點、時間與傷害情況。可能是偽造的，真實性未經證實。」

去年7月，用戶注意到神經網絡在回答問題時，會依據伊隆·馬斯克的觀點。這也涉及以色列與巴勒斯坦的衝突、墮胎與移民法等敏感議題。

這些觀察讓人推測，聊天機器人被特意調整，以在回答有爭議的問題時考慮馬斯克的政治立場。

此前，這位億萬富翁曾表示，他的創業公司將重寫「所有人類知識」，以訓練新版Grok，因為目前的「任何基礎模型都充滿了大量未經篩選的垃圾數據」。

之後，出現了基於人工智慧的線上百科全書Grokipedia，強調「追求真實」。

提醒一下，去年11月，用戶注意到Grok 4.1版本存在偏見——新模型大幅高估了伊隆·馬斯克的能力。