微软研究人员正在对其他 AI 模型进行一种旨在让模型捏造信息的测试，以治疗被称为“AI 幻觉”的症状。AI 幻觉是指模型缺乏事实依据，改变给定数据或描述原本不存在的信息。微软希望其所有 AI 系统都是值得信赖且可以有效使用的，因此努力攻克 AI 幻觉，研究一系列工具来帮助机器解决幻觉问题。微软通过检索增强生成技术，将必应搜索数据作为 Copilot 的依据，帮助其提供更准确、更相关的回复。此外，微软还推出了实时工具，可以大规模检测应用中依据企业数据的可靠程度，正在开发一种新的针对措施，可以实时屏蔽和纠正“毫无根据”的信息。
https://news.microsoft.com/source/features/ai/why-ai-sometimes-gets-it-wrong-and-big-strides-to-address-it/
本站文章通过互联网转载或者由本站编辑人员搜集整理发布，如有侵权，请联系本站删除。