严防“胡说八道”，苹果Apple Intelligence智能回复功能加入“反幻觉”指令_tiknovel-最新最全的nft,web3,AI技术资讯技术社区
严防“胡说八道”，苹果Apple Intelligence智能回复功能加入“反幻觉”指令
2024-08-07 10:37:47 浏览：298 作者：管理员
严防“胡说八道”，苹果Apple Intelligence智能回复功能加入“反幻觉”指令
8 月 7 日消息，近日有网友在 macOS 15.1 测试版中发现了苹果公司为 Apple Intelligence 的智能回复（Smart Reply）功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在，详细规定了该功能的工作流程。其中最引人注目的是，苹果明确要求系统“不要编造事实，不要产生幻觉”。
据IT之家了解，智能回复是苹果邮件应用的一项功能，旨在通过分析邮件内容自动生成可能的回复选项，这一功能的背后是苹果自研的智能技术。然而，与其他生成式 AI 一样，智能回复也面临着“幻觉”问题，即系统可能会生成虚假或误导性的信息。
为了防止这种情况发生，苹果在系统内部设置了严格的指令。根据泄露的指令，智能回复功能被要求仅提取邮件中明确提出的问题，并提供相应的回答选项。这一做法有助于减少 AI 在生成回复时的错误。
虽然苹果明确要求 AI 不要编造信息，但业内人士认为，要完全消除“幻觉”问题仍然面临挑战。因为生成式 AI 模型本质上并不理解文本内容，无法准确判断信息的真伪。
Prev Chapter：苹果牌AI推进新证据曝光 欧洲市场初期仅限Mac平台
Next Chapter：OpenAI押宝的最强机器人，能打败特斯拉擎天柱吗？
评论区
共 0 条评论
- 这篇文章还没有收到评论，赶紧来抢沙发吧~
【随机内容】
