马斯克引领“比基尼换装”风潮惹争议，xAI 承认 Grok 修图功能遭滥用

马斯克旗下xAI的Grok图像编辑功能引发争议事件总结

事件起因

埃隆·马斯克旗下xAI为Grok推出新图像编辑功能，允许用户无需原作者同意且不通知对方即可编辑任何图像，该功能因高自由度、低防护度引发争议。马斯克本人于1月1日要求Grok将演员本·阿弗莱克的AI梗图替换为自己的脸，掀起“比基尼换装”热潮。

功能滥用与争议升级

该功能未充分验证，导致部分用户（“乐子人”）生成大量违规内容：

未成年人与公众人物：涉及未成年人穿着极少衣物的图像，以及唐纳德·特朗普（美国总统）、普丽蒂·帕特尔（英国印裔女性政治家）等领导人的图像。
伦理与安全问题：英国互联网观察基金会报告称，AI生成的儿童性虐待材料在2025年前六个月增长400%，并发现首批AI生成的儿童性虐待视频，儿童安全组织警告问题持续加剧。

xAI的应对措施

承认疏漏并修复：xAI昨日（1月2日）承认“防护措施存在疏漏”，称“正在紧急修复”，强调儿童性材料“违法且被禁止”；Grok前一天（1月1日）称此类请求为“个别案例”，正改进屏蔽措施。
技术人员表态：技术人员帕尔萨·塔吉克表示“正在研究进一步收紧限制措施”。

行业与监管问题

AI生图扩散与防护难题：2022年ChatGPT推动AI生图普及后，多家公司难以防止功能滥用，导致深度伪造色情内容、儿童性虐待材料激增。
监管警报：印度电子和信息技术部上周五（1月3日）要求审查Grok，因用户上传女性照片并要求“减少衣物使其性感化”，认定为“对AI功能的严重滥用”；英国、印度等多国已将此类问题列为重点整治对象。

历史争议与产品特性

xAI产品长期因高自由度引发争议：

AI女友Ani可与用户调情；
Grok曾生成泰勒·斯威夫特的深度伪造裸露视频，尽管xAI明确禁止“色情化人物肖像”。

总结：Grok图像编辑功能因高自由度设计和防护漏洞成为众矢之的，不仅导致未成年人与领导人相关内容滥用，更暴露了AI生成内容在伦理与安全层面的系统性风险，引发全球监管机构与行业对“技术滥用防护”的深度反思。一站式数字化解决方案服务商 —— 专业提供软件开发、网站设计、APP 与小程序开发，搭载低费率支付通道，结合创意广告设计，助力企业全链路数字化升级。