关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:0180人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

夏季天热骑电动车不戴头盔?南京交警:严查纠违

现代快报 浏览 1457 07-12

普京终于忍无可忍 下令"扒掉"拉平上将军装就地免职

南权先生 浏览 185 09-26

媒体:巴基斯坦陆军元帅两个月内再访美 印度十分紧张

环球网资讯 浏览 721 08-12

会打扮的五六十岁女人:裙子过膝盖,衣服不紧衣,时髦还优雅

静儿时尚达人 浏览 1425 07-16

售价或超200W,路虎卫士OCTA能打过奔驰G63吗?

正在说车 浏览 5305 07-21

Qi2.2来了!安卓也能用上苹果同款无线充,但用户却看不上

雷科技 浏览 7715 07-26

韩鹏谈接任泰山一线队教练组组长:自己家里有事,咱得上啊

直播吧 浏览 274 08-22

极氪9X首搭浩瀚-S:架构豪华,还是叙事先行?

钛媒体APP 浏览 880 07-16

知名量化私募陷“内斗风波”,招商证券被卷入其中

第一财经资讯 浏览 7199 08-09

定了!人身险预定利率上限,下调!

中国商报 浏览 1699 07-27

中国地铁,花式搞钱

花朵财经 浏览 317 08-20

央视披露:歼-20S首次以实机亮相 系空战规则改变者

政知新媒体 浏览 227 09-07

阿维塔全新概念车首秀 车长近6米/立标/对开车门

网易汽车 浏览 208 09-09

吉利银河 A7 混动家轿 8 月 8 日全球上市,预售价 9.78 万元起

IT之家 浏览 6721 07-25

徐正源为何逼宫?媒体人:或已联系下家,他和崔康熙南基一不同

奥拜尔 浏览 760 07-18

男子同时筹备"2场婚礼" 被抓正与"未来岳父母"谈婚房

鲁中晨报 浏览 94 10-31

养乐多卖不动了?

斑马消费 浏览 88 10-24

货车司机遗失13块银砖:价值百万 找不回来就得赔

封面新闻 浏览 181 09-18

媒体:乌克兰爆发大规模反政府抗议 泽连斯基有大麻烦

上观新闻 浏览 2040 07-29

官方披露:山东舰5年起降近万架次舰载机

政知新媒体 浏览 4963 07-28

佩通坦含泪谴责柬埔寨向平民区开火:军方已做好准备

新京报 浏览 1998 07-25
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11