OpenAI 计划于今年年初推出一项新功能,允许用户在 ChatGPT 中创建 AI 情色内容。
据知情人士透露,这项计划中的功能将允许成人用户进行包括性话题在内的成人主题对话,但却遭到了该公司研究人员的批评。
这些研究人员曾研究过一些人如何对聊天机器人产生不健康的依恋。
他们提出,性内容可能会加剧一些人对他们视为伴侣的 AI 角色的感情。
OpenAI 首席执行官 Sam Altman 为扩大其平台上允许的内容范围的举措辩护,称这是 “像对待成年人一样对待成年用户”的努力的一部分。
公司内部争议的结果,是 OpenAI 副总裁瑞安·拜尔迈斯特(Ryan Beiermeister)刚刚被强制离职(解雇)。
知情人士透露,她是 OpenAI 内部几名对成人模式推出表示担忧的员工之一。
在被解雇之前,拜尔迈斯特曾告诉同事,她反对成人模式,并担心这会对用户造成有害影响。
她还告诉同事,她认为 OpenAI 阻止儿童剥削内容的机制不够有效,而且该公司无法充分地将成人内容与青少年隔离开来。
就在不久前,马斯克旗下的 xAI 也公布了研究发现,在其 Grok 聊天机器人中对性内容提供更宽松的限制时 ,就会有助于提高用户参与度 。