馬來西亞通信和多媒體委員會11日發(fā)表聲明說，當(dāng)天起臨時限制馬來西亞互聯(lián)網(wǎng)用戶訪問美國企業(yè)家埃隆·馬斯克旗下的人工智能（AI）聊天機(jī)器人“格羅克”（Grok）。

　　聲明說，采取這一監(jiān)管措施是鑒于“格羅克”被濫用于生成淫穢色情、極具冒犯性且未經(jīng)當(dāng)事人同意的合成圖像內(nèi)容，包括涉及女性及未成年人的內(nèi)容。

　　“格羅克”由馬斯克旗下人工智能企業(yè)xAI公司開發(fā)，并內(nèi)置于馬斯克旗下社交媒體平臺X。馬來西亞通信和多媒體委員會表示，已于本月3日和8日分別向X平臺和xAI公司發(fā)出通知，要求其采取落實(shí)有效技術(shù)防護(hù)和內(nèi)容審核機(jī)制等多項措施，以防止AI生成可能違反馬來西亞法律的內(nèi)容。不過，X平臺所提交的回應(yīng)主要依賴由用戶主動發(fā)起的舉報機(jī)制，未能充分應(yīng)對該AI工具在設(shè)計和運(yùn)行層面的固有風(fēng)險。

　　馬來西亞通信和多媒體委員會認(rèn)為，上述做法不足以防止傷害發(fā)生，也無法確保符合法律要求，因此采取預(yù)防性且適度的臨時限制措施。相關(guān)限制將持續(xù)生效，直至落實(shí)有效防護(hù)機(jī)制，尤其是防止AI生成涉及女性和兒童的色情內(nèi)容。

　　馬來西亞通訊部副部長張念群此前對媒體表示，“格羅克”在未經(jīng)當(dāng)事人同意情況下生成不當(dāng)內(nèi)容，已引發(fā)全球多國輿論與監(jiān)管機(jī)構(gòu)的強(qiáng)烈關(guān)注。馬方對相關(guān)功能可能被濫用表示嚴(yán)重關(guān)切。

　　張念群表示，全球正圍繞人工智能展開激烈競爭，但若一味追求速度與利潤，而忽視倫理規(guī)范與社會責(zé)任，其后果將不堪設(shè)想?！案窳_克”在短時間內(nèi)大量生成不雅影像，且速度遠(yuǎn)超傳統(tǒng)影像處理方式，凸顯出人工智能在缺乏倫理約束情況下被濫用的現(xiàn)實(shí)風(fēng)險。