关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01265人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

周冠宇社媒晒与樊振东合影,两人互赠迷你头盔和签名球拍

直播吧 浏览 2849 08-14

《镖人》直接让陈丽君补拍而非换脸,投资达7亿

芊手若 浏览 214 01-19

男子花400多万租楼拟开酒店被坑:业主把过道大厅租别人

红星新闻 浏览 4198 07-21

今年春天一定要拥有的4件衣服,太好看了!

LinkFashion 浏览 166 03-02

从0比5巴西到2比0巴拉圭!韩国为自己正名

体坛周报 浏览 294 10-15

谷歌安卓 Canary 版新特性再加一:引入全新 90:10 分屏布局

IT之家 浏览 7458 07-12

涨工资,落地!

国是直通车 浏览 205 10-26

张靓颖古早专辑造型被扒!粉发渔网袜高开叉,比《九万字》更大胆

萌神木木 浏览 7546 07-09

男子陷异国香艳女郎"温柔乡" 被拍摄胁迫签署参谍协议

极目新闻 浏览 6550 08-10

金灿荣:日本呼吁各国不要参加中国阅兵 表态极其恶劣

澎湃新闻 浏览 498 08-28

加沙局势不会立即全面升级 “20点计划”可能烂尾

上观新闻 浏览 259 11-01

中年女人穿对了才显气质!不穿花不穿紧,舒适好看还高级

静儿时尚达人 浏览 212 11-29

德科:C罗是我见过最谦逊的人,他和梅西是不同类型的天才

懂球帝 浏览 349 09-29

菲律宾前市长采购16台i7-11700电脑花17.5万美元,实际市场价仅7%

IT之家 浏览 421 09-01

我们生活在一个被一部电影改变的世界

幕味儿 浏览 463 08-16

欢迎回家!首架自伊朗撤离中国公民临时航班顺畅通关

极目新闻 浏览 5176 06-22

柬方发射火箭弹落入泰国一加油站 致多人受伤

央视新闻 浏览 9336 07-25

多款长征火箭首次现身国外航展

澎湃新闻 浏览 9002 06-18

王腾被辞退,小米不差人

无冕财经 浏览 377 09-10

“反内卷”政策效果初显 7月煤炭、光伏等行业价格环比降幅收窄

经济观察报 浏览 2080 08-10

裤子+靴子:今年冬天最经典搭配,松弛又时髦!

LinkFashion 浏览 206 02-02
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11