X与Grok因AI色情内容面临被App Store下架压力
1月10日消息，三名美国参议员近日公开致信苹果公司，要求其暂时将社交平台X及其人工智能工具Grok从App Store下架，理由是相关应用被指允许用户大规模生成未经当事人同意的性化图像，包括针对女性和儿童的内容。参议员表示，在监管机构完成调查之前，应用商店运营方有责任采取紧急措施。
据报道，此次请求源于近期多项披露，显示部分用户利用Grok生成真实人物的性化图像，而当事人并未给予任何同意。参议员称，这些图像涉及羞辱、暴力以及性剥削，在最严重的情况下，还包括对未成年人的性化描绘。
参议员罗恩·怀登、埃德·马基和本·雷·卢汉在联名信中，分别致函苹果首席执行官蒂姆·库克以及谷歌首席执行官桑达尔·皮查伊，要求两家公司执行其应用商店现有规则，在“全面调查完成之前”下架X及Grok相关应用。信中指出，X的应用表现出对平台政策的“完全漠视”，导致“未经同意的性化图像被大规模生成和传播”。
议员们在信中援引了苹果和谷歌各自的内容政策。谷歌的应用商店规则明确禁止任何促成儿童剥削或虐待的内容，并允许在违规情况下立即下架应用；苹果的规则则禁止“冒犯性内容”，并明确禁止“明显具有性或色情性质”的材料，尤其是以刺激性反应为目的的内容。
参议员认为，未经同意的性化图像，尤其是涉及未成年人的内容，显然属于上述政策所禁止的范畴。他们在信中表示，如果平台对这类行为视而不见，将严重削弱应用商店内容审核机制的公信力。
议员们还对比了此前的案例，指出苹果和谷歌在受到政府压力后，曾迅速下架过一些允许用户报告移民执法行动的应用，尽管这些应用本身并未被指控涉及非法内容。相比之下，他们认为，Grok的图像生成功能直接涉及对个人的现实伤害，更应当得到优先处理。
信中要求苹果和谷歌至少在调查期间暂时移除相关应用，并书面说明其如何依据现行政策评估X和Grok的合规性。参议员设定的回应期限为2026年1月23日。
目前，苹果和谷歌尚未就该请求作出公开回应。（鞭牛士、AI普瑞斯编译）