关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:0183人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

朴素的商战,从“0元购”开始

时尚COSMO 浏览 3339 07-24

半夜痛到上急诊,5个方法预防孩子急性中耳炎

网易健康 浏览 5402 01-10

美国斥巨资在非洲"抗中" 项目方却坦言:离不开中国

澎湃新闻 浏览 281 08-25

购在中国・2025“千县万镇”新能源汽车消费季(湖北站)在孝感市启动

上游新闻 浏览 9538 08-11

中国对稀土相关技术实施出口管制

财联社 浏览 150 10-09

深圳机场三跑道校飞完成 跑滑系统等具备使用条件

环球网资讯 浏览 2186 08-04

2025WAIC,各企业大模型王牌对决!一句话看懂亮点

上观新闻 浏览 835 07-28

俄军图-95MS战略轰炸机在白令海执行飞行任务

国际在线 浏览 5427 07-25

赖清德声称"安倍促成五眼联盟"遭批 新闻稿被悄悄修改

环球网资讯 浏览 195 09-26

嫁大15岁残疾富商被嘲拜金?黎姿如今的生活,打了多少人的脸

娱乐白名单 浏览 1637 07-25

致敬 S14 第五冠队服,雷蛇推出巨甲虫 V2 Faker 款游戏鼠标垫

IT之家 浏览 129 10-14

赵露思八问银河酷娱,解约决心已定,死磕到底

话娱论影 浏览 4780 08-04

葡体主帅谈约克雷斯离队:我不伤心,球员们来来往往唯俱乐部永存

直播吧 浏览 8814 07-30

意大利球员转会费top10:雷特吉居首,布冯第四维埃里第五

直播吧 浏览 5395 07-22

推广|| 被低估的百元级国货!推荐你们趁好价试试

黎贝卡的异想世界 浏览 157 09-20

重磅!陈天桥创立的AI公司MiroMind打造出全球顶尖预测型大模型,性能领先行业基准

钛媒体APP 浏览 171 09-22

特朗普取消"特普会"对俄追加制裁 俄发出强烈威慑信号

上游新闻 浏览 83 10-25

郑钦文复出再推迟!退出比利简杯参赛阵容,但确认会参加宁波赛!

网球之家 浏览 187 09-10

战斗感十足 雷克萨斯LFR内饰谍照曝光

车质网 浏览 163 09-29

王思聪罗马机场被拍!自己背包牵女友

娱不咸 浏览 7776 07-12

避险情绪弥漫 比特币12月开局闪崩

北京商报 浏览 26 12-02
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11