关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者2026-01-23 00:00:01216人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

小米汽车:小米YU7率先支持Wi-Fi 7上车

三言科技 浏览 6267 08-06

《时代》周刊2025年度人物公布:“AI建设者”

IT之家 浏览 231 12-12

广东110-105深圳4利好!陈家政焦泊乔证明价值,萨林杰统治关键球

篮球资讯达人 浏览 259 01-08

豫媒:全省上下的支持,是河南队冲击足协杯冠军的最大底气

懂球帝 浏览 437 08-23

闫安谈王楚钦丢冠:干嘛担心一站冠军赛的胜负?我们都没太当回事

直播吧 浏览 1610 08-12

沃尔沃集团和戴姆勒卡车成立合资公司

盖世汽车 浏览 2760 06-23

成都事故后,雷军最新发声

都市快报橙柿互动 浏览 349 10-17

印尼国家队经理:克鲁伊维特教练团队必须重新接受评估

懂球帝 浏览 287 10-13

葡萄牙男篮欧锦赛12人大名单公布 凯尔特人中锋科塔领衔

直播吧 浏览 463 08-23

小米、格力空调销量争议后,卢伟冰表态:不在意短期排名

国际金融报 浏览 538 08-20

“高德扫街榜”今日上线,全力支持线下消费

经济观察报 浏览 395 09-10

从OpenAI叛逃谷歌!这位27岁小哥,成了奥特曼最忌惮的「秘密武器」

新智元 浏览 6767 07-13

高叶被低估,《南京照相馆》走红敲响娱乐圈警钟

老吴教育课堂 浏览 2353 08-03

和祐质子重离子加速器顺利出束,华南精准抗癌迈出关键一步

南方都市报 浏览 5843 07-24

这9分神片终于引进,可惜票房不到100万

独立鱼 浏览 381 09-01

这些地铁,在花式搞钱

花朵财经 浏览 422 08-20

类苹果 visionOS:Meta 将为 Quest 头显引入新版系统 UI 界面

IT之家 浏览 351 09-21

上年纪的女人,别总穿运动鞋和恨天高,这样穿鞋子得体又优雅

静儿时尚达人 浏览 339 09-17

铅能彻底清除吗 蓄积到骨骼中的铅半衰期约为20-30年

第一财经资讯 浏览 3164 07-09

Melody和林依晨,怎么不会老啊?

时尚COSMO 浏览 215 11-06

哔哩哔哩董事长兼CEO陈睿:优质视频内容能给用户获得感

上游新闻 浏览 247 11-09
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11