イーロン・マスク氏が所有するSNS「X」（旧ツイッター）に統合された生成AI「Grok（グロック）」による無断性的画像生成が、国内外で深刻な社会問題となっている。
尽管并未允许生成式AI“Grok”制作色情图片，但被埃隆·马斯克拥有的社交平台“X”（原Twitter）所整合的该AI引发的问题，已在国内外成为严重的社会问题。
。
特别是，现实女性的数字去衣图片或挑逗性姿势的图片在网络上传播，从伦理和法律的角度引发了巨大的争议。
。
此外，还确认了包含看似未成年人的图片，人们越来越担心这可能违反了禁止儿童色情的法律。
。
通过这样将AI与社交媒体结合，无限制地生成图像，存在侵犯社会弱势群体权利的危险性，以及违反国内外法律的风险，但实际上，目前尚未采取充分的对策。
。
马斯克先生和xAI开发公司表示，他们已经采取了包括“删除内容、永久封禁账号、在必要时与当局合作”等措施来应对非法内容，特别是儿童性虐待材料（CSAM），但Grok生成色情图片的问题依然没有得到彻底解决。
。
马斯克此前一直表示反对被称为“觉醒”的管制和审查，据称他在公司内部也并不积极加强对Grok的管理。
。
另一方面，这家公司的安全团队相比其他公司规模较小，而且在问题暴露前不久有许多员工离职，这也被认为是应对迟缓的原因之一。
。
Grok与其他主流的AI模型不同，在某些情况下不仅允许色情内容或伴侣虚拟形象，甚至还会推荐这些内容。
。
此外，由于已整合到全球最大级别的社交网络X中，用户不仅可以在私人对话中使用Grok，还可以在公开帖子中标记Grok以获取回答，这将使问题的扩散性变得更加严重。
。
自2023年12月底以来，已记录到由Grok生成的“数字脱衣”图片激增，最初以名人穿比基尼的图片为主，但随后针对普通女性且未经许可的提示数量也在增加。
。
根据欧洲的AI检测组织和非营利机构的调查，像“她”、“脱衣服”、“比基尼”这样的词语频繁出现，生成的图片中有一半以上是内衣或比基尼造型，而且80%以上为女性。
。
Xの利用規約やxAIの規定では、人物の肖像をポルノ的に描写することや児童の性的対象化を明確に禁止しているが、運用上の限界から違法または不適切なコンテンツが流通し続けている。
X和xAI的使用条款明确禁止以性化儿童或色情方式描绘人物肖像，但由于运营上的限制，违法或不当内容仍在持续传播。
。
鉴于这种情况，有用户批评称“在没有针对儿童采取适当对策的情况下提供功能是不负责任的”，xAI方面也回应称正在考虑加强应对措施。
。
此外，马斯克本人也对非法行为发出了警告，并声明：“如果使用Grok生成非法内容，发布者将受到同等的惩罚。”
。
AI在未成年人未同意的情况下生成色情图片的问题，不仅仅局限于Grok，还扩展到了TikTok、OpenAI的“Sora”等其他平台。
。
研究人员指出，从技术上讲，AI能够检测图像中的儿童，并构建促使谨慎应对的手段，但成本、响应延迟以及误识别等问题依然存在。
。
目前，欧洲、印度、马来西亚等当局已经开始调查Grok的图像生成问题，美国也在考虑追究其法律责任。
。
根据斯坦福大学HAI研究所专家的说法，运营社交网络的公司虽然根据《通讯规范法》第230条获得了部分免责，但这并不适用于包括CSAM在内的联邦犯罪，也不能排除被提起民事诉讼的可能性。
。
由于这次关于Grok的一系列问题，xAI有可能被视为一个裸体深度伪造网站，而不是一家大型AI企业。
。
随着AI技术与社交网络日益紧密结合，构建法律框架和伦理规范，并采取有效措施履行社会责任，无疑是当前亟需解决的重要课题。
家
视频
JLPT 测试
字典
课
话题
