近日，马斯克旗下人工智慧工具Grok因图片编辑功能遭滥用，引发国际社会强烈谴责。该功能被指可透过简单指令生成虚拟性暴力与儿童不当影像，甚至波及马斯克前伴侣、作家艾希莉·圣克莱尔（Ashley St. Clair），成为受害者之一。
圣克莱尔指出，有人利用Grok窜改她的童年照片，移除衣物或改成暴露泳装，并强迫影像角色摆出屈辱姿势，让她身心受创，并表示这些攻击，疑与她先前公开揭露马斯克私生活争议有关。
她强调，即便只是泳装，强迫修改儿童影像本质上已构成性侵。
据了解，Grok近期推出的影像处理模式，只需输入如“移除衣物”等指令，就可能生成露骨深伪影像，甚至添加体液、伤痕、束缚等元素。
圣克莱尔批评，她多次向X平台检举，但相关影像长时间未被移除，直到媒体介入才消失，其他受害者也陆续向她求助。
上述事件引发各国监管单位关切。其中，欧盟与英国监管机构要求X与xAI说明用户保护措施，印度政府则下令限期清除相关内容，否则将追究法律责任，法国检方也将Grok涉嫌制作与散布儿童性虐材质纳入调查。
面对舆论压力，xAI承认防护机制存在漏洞，正紧急修补，并强调儿童性虐内容属违法项目。X方面则表示，将对滥用者采取删除内容、永久封锁帐号等措施。圣克莱尔呼吁各国正视数位性暴力风险，防止AI技术沦为犯罪工具。
下载 iLifepost APP
