关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:0115人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

上市公司新药实验操作中两员工窒息死亡 调查报告公布

每日经济新闻 浏览 116 09-21

中国地下700米有了个全球第一!

看看新闻Knews 浏览 254 08-26

发的朋友圈被认定"诽谤" 男子申请行政复议并申请国赔

红星新闻 浏览 59684 09-19

“网瘾”犯了,想把法网的红土妆点在身上!

时尚COSMO 浏览 9990 06-26

低空经济起飞!含金量最高的通用航空ETF来了

新经济e线 浏览 6480 07-30

从补短板到抢先机 机器人操作系统M-Robots OS启动开源丨新经济观察

封面新闻 浏览 2484 07-31

见完特朗普 8个阿拉伯和伊斯兰国家联合发声

环球时报 浏览 108 09-25

台胞青年电商研习营福建漳州开营

环球网资讯 浏览 1997 07-26

高圆圆收工抱女儿回家,6岁Rhea遗传赵又廷身高

心静物娱 浏览 143 09-11

向太曝想“暴打”情敌:女星用手指扣向华强掌心,气到她当场发飙

温柔娱公子 浏览 177 09-01

全世界公认的六大帅哥,一个比一个惊艳,有人被誉为:国宝级美男

温柔娱公子 浏览 3248 07-13

江中药业:原副总任期内兼任控股股东副总 解决同业竞争承诺或现信披疑云

金证研 浏览 7059 08-12

直落3局!头莎晋级混双半决赛,王楚钦男单男双混双三线获胜

乒谈 浏览 72 10-02

宗庆后弟弟曾公开对宗馥莉表达不满 揭露娃哈哈"大雷"

蓝鲸新闻 浏览 1730 07-18

德总理:希望伊朗政府垮台 我们要对付的是恐怖政权

参考消息 浏览 7992 06-19

来论 AI浪潮下高校动画专业人才培养的挑战与应对

南方都市报 浏览 231 08-20

龚雪:从影后到隐居,她的悲剧背后藏着多少秘密?

青史楼兰 浏览 8912 08-04

邓超携儿子看篮球赛,父子同框互动有爱

郑丁嘉话 浏览 177 08-25

"最快女护士"已恢复正常上班:收到了领导祝贺和关心

上游新闻 浏览 150 09-10

孕妇和表哥遭"电诈"前科亲戚诱骗 失联前称"抢手机了"

极目新闻 浏览 1194 07-30

早资道丨京东外卖上线自营外卖门店;去年网络文学出海市场规模超50亿元

封面新闻 浏览 3238 07-22
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11