关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:0186人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

54岁胡兵体检像25岁:中年不油腻

陈意小可爱 浏览 241 08-25

这届大美人,怎么入冬撞衫率100%

时尚COSMO 浏览 87 10-30

中科大团队实现AI图表数学逻辑理解

科技行者 浏览 63 11-04

石破茂建议"终战日"改"战败日" 引右翼保守势力警惕

上观新闻 浏览 4092 08-05

净利润暴跌7912%!天域生物亏麻了

包不同 浏览 36 11-25

林肯航海家特别版上市 一口价25.99万元

车质网 浏览 34 11-25

销量卖爆了!这些小零食好吃到爆,你买来试试!

Yuki女人故事 浏览 9204 08-01

外媒:6月中国对美稀土磁体出口增长660%

环球网资讯 浏览 5233 07-21

关键时刻真救命 腾势N9雨夜爆胎凭”易三方”安全停靠

网易汽车 浏览 10237 08-10

中国人寿清仓这家银行,银行股短期见顶?

网易财经 浏览 1505 07-17

印度空难客机两个黑匣子均已找到

浏览 7950 08-20

难怪被于正拒签约,酷似张柏芝神颜少女为商场站台,2小时8千块

小seven的囧囧啊 浏览 2837 07-24

宗氏家族争产案,一个细节让人反感

Yuki女人故事 浏览 3961 07-18

阿斯:特巴斯被指控泄露巴萨财务信息,若查实可能被取消任职资格

直播吧 浏览 6397 08-14

新款宝马7系谍照曝光 或将于2026年正式发布

车质网 浏览 301 05-22

美元崩盘超11%!全球资产迎来巨震!

米筐投资 浏览 692 07-11

泽连斯基穿西装和曾羞辱他的记者再交锋 逗笑特朗普

译言 浏览 322 08-20

卫衣+半裙=早秋流行混搭套路,时髦极了!

Yuki女人故事 浏览 160 09-20

荣耀MagicOS 10十二月升级资讯:新增支持与Mac一碰互传等

IT之家 浏览 19 12-12

新势力们下一个主线任务:卖到100万辆,其他都是噪音

节点财经 浏览 992 07-25

珠海飞太原航班遇雷暴紧急备降 乘客:飞机颠簸有人尖叫

极目新闻 浏览 227 09-09
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11