北京时间5月14日，OpenAI在周一宣布了其新的聊天机器人模型GPT-4o，具有语音和视觉能力。在发布会上，OpenAI的新GPT-4o模型在演示时使用了女性语音，外媒认为，这样的创新可能改变性工作行业的运作方式，从而引发更多有关人工智能伦理道德问题的考量。
《商业内幕》联系到的性工作者琳达称，人工智能正在被性工作界的一些人采用，她现在经常在电话性工作者的个人资料上看到人工智能生成的图像。
除此之外，琳达还提到，有时候会想要一个聊天机器人来处理浪费时间的人，新的聊天机器人模型GPT-4o还可以帮助她“利用AI进行简单的寒暄就可以赚取15-20美元的聊天费”。
OnlyFans巨头凯特琳·西拉古萨早在去年夏天推出了自己的聊天机器人，这个机器人可以模拟她的声音，粉丝们每分钟付1美元与之互动，在推出后，她声称这样可以简化她的工作，并保护她免受过度依恋的粉丝的困扰。
事实上，早在一周前，OpenAI曾发布了文档草案，表明该公司正在探索进军成人内容领域。尽管OpenAI目前的使用政策明令禁止成人内容。
人工智能生成的成人内容已迅速成为OpenAI开创的生成人工智能技术类型中最大和最令人不安的应用之一。
研究这一问题的弗吉尼亚大学法学院教授丹妮尔·济慈·西特隆 (Danielle Keats Citron) 表示：“侵犯亲密隐私的行为，包括深度伪造性爱视频和其他未经同意的合成亲密图像，非常猖獗且具有严重破坏性。我们现在有明确的实证支持表明，这种虐待行为使个人失去了重要的机会，包括工作、说话和人身安全。”
目前，OpenAI公司是否能够有效地控制显性生成以防止不良行为者使用这些工具还有待观察。