Meta宣布,当青少年与Meta AI讨论自杀或自残话题时,对话将触发家长通知。这项新政策扩展了现有的青少年保护措施。
目前只有使用Instagram监督控制功能的家长会收到通知,未来其他Meta应用的家长控制功能也将支持警报功能。该功能首先在美国、英国、加拿大和澳大利亚上线,预计年底前全球可用。
警报机制
虽然Meta AI此前已在检测到自杀或自残讨论时提供危机热线和求助建议,但现在家长也将收到相关通知。Meta表示会倾向于谨慎处理。可疑对话由AI标记,但Meta会在发送警报前进行人工审核。家长还将收到专家制定的关于如何与孩子讨论自残和自杀话题的建议。
儿童权益倡导组织Fairplay的律师Brendan Bouffard表示:"Meta声称如果青少年与AI的聊天暗示他们可能有自残风险时将提醒家长,这是朝着正确方向迈出的一步,但应以怀疑的态度看待这一声明。"
新限制内容设置
Meta还推出了Meta AI的限制内容设置,启用最严格的过滤机制。Meta AI已接受训练,不会与青少年进行性相关或浪漫对话,也不会提供酒精饮料配方等。限制内容设置打开后,AI模型将更积极地识别问题提示,拒绝回答更广泛类型的查询。