Grok AI滥用猖獗，政府警告将追究刑事责任

美都新闻网  1 月 12 日电 ：随着人工智能（AI）技术的飞速发展，各种数字创新层出不穷，并日益影响着人们使用社交媒体的方式。目前备受关注的技术之一是Grok AI，这是一款由埃隆·马斯克的初创公司xAI开发的基于聊天机器人的AI助手，并已直接集成到社交平台X上。

Grok AI在X平台上成为网民热议话题。有用户被指利用该AI功能，对他人照片进行不当、甚至带有淫秽性质的编辑和篡改。

令人遗憾的是，此类案件中的受害者多数为女性。她们的私人照片在未经本人同意的情况下，被操纵生成违反社会道德与伦理规范的内容。
X平台的开放性使得这些被篡改的内容易于获取和快速传播，从而加剧了隐私侵犯的影响。

针对上述情况，通讯与数字部已采取严肃措施，跟进调查Grok AI被滥用的相关指控。

该部数字空间监管局局长亚历山大表示，初步调查显示，Grok AI目前尚未制定明确且充分的监管措施，以防止其利用印尼公民的真实照片制作和传播色情内容。

“初步调查显示，Grok AI目前尚未制定明确且充分的监管措施，以防止其利用印尼公民的真实照片制作和传播色情内容。这可能严重侵犯公民的隐私权和形象权，”亚历山大说。

该部认为，对个人照片进行数字篡改不仅是一个道德问题，更是一种剥夺个人对其视觉形象控制权的行为，可能造成心理、社会和名誉方面的损害。

亚历山大强调，未经授权制作和/或传播色情内容或篡改个人图像的人工智能服务提供商和用户，可能根据适用法律受到行政和/或刑事处罚。

他说道：“若发现存在不合规或不配合的行为，通信与数字部可对Grok AI服务及X平台实施行政制裁，直至切断其访问权限。”

自《2023年第1号刑法典法案》（新《刑法典》）于2026年1月2日正式生效以来，相关色情内容已被纳入法律规范，其中包括第172条和第407条。第172条将色情内容定义为包含猥亵或性剥削、违反社会道德规范的媒介。而第407条规定，相关违法行为可被判处最短六个月、最长十年的监禁，或处以相应数额的罚款。

亚历山大强调，凡是遭遇照片篡改、淫秽深度伪造或肖像权侵害的民众，均可依法通过现有法律机制寻求救济，包括向执法机关报案，或向通信与数字部提出投诉。