龟壳摇卦面壁小钢炮4.0发布:性能比肩 Qwen-3-8B,极限220倍提速
新浪科技讯 6月10日下午消息,近日,面壁智能第四代“面壁小钢炮” MiniCPM4.0 端侧模型(代号“前进四”)发布。据悉,第四代小钢(🐋)炮拥有 8B 、0.5B两种参数规模,实现了同级最佳的模型性能。可让长文本、深思考在端侧真正跑起来,实现220倍极限加速。
龟壳摇卦 (👹) 其中,MiniCPM 4.0-8B 模型为稀疏注意力模型,在MMLU、CEval、MATH500、HumanEval等基准测试中,以仅22%的训(🐺)练开销,性能比肩 Qwen-3-8B、超越Gemma-3-12B。MiniCPM 4.0-0.5B在性能上,也较更大的Qwen-3-0.6B、Llama 3.2实现仅2.7%的训练开销,一半参数性能翻倍,并实现了最快 600 Token/s的极速推理速度。
龟壳(🤛)摇卦 相较于Qwen-3-8B、Llama-3-8B、GLM-4-9B等同等参数规模端侧模型,实现了长文本推理速度5倍常(🚆)规加速以及(🎎)最高 220倍加(⤵)速(显存受(🉐)限极限场景下测出),让端侧模型长文本推理“(🛩)快如闪电”。面壁智能联合创始人兼首席科学家刘知远在与新浪科技沟通中表示,“最高220倍加速,其实是建立在我们模型架构、数据治理、软硬件结合、训练等方面全栈创新优化成果之上的。”
刘知远指出,220倍的加速看上去比较夸张,但本身其实存在一个特殊性——由于MiniCPM4.0 在处理更长序列的数据时,可以更好地去处理Transformer架构带来的(💷)内存爆炸问题,避免了长序列数据处理带来的内存占用倍增,而同尺寸的Qwen-3-8B、Llama-3-8B等模型并未就此进行优化,因此MiniCPM4.0有了突(🔲)出的表现。
龟壳摇卦 据悉,MiniCPM 4.0 模型采用的InfLLMv2稀疏注意力架构改变了传统 Transformer 模(🧡)型(🎄)的相关性计算方式,有效摆脱了逐字(🦖)重复计算的低效,将稀疏度从行业普遍的40%-50%,降至极致的5%,注意力层仅需1/10的计算量即可完成长文本计算。且对算子底层重写,进一步加速提升,并使得对文本相关性精准性大(🚏)大提升。
龟壳摇卦 值得一提的(🆘)是,DeepSeek 使用的长文本处理架构NSA(Native Sparse Attention)也引(🎶)用并采用了与InfLLM相同的分块注意力计算思(🥀)路,但其对于短文本的推理较慢,InfLLMv2则(🔊)很好地解决了NSA在短文本推理上的(💚)短板。
在(📲)缓存消耗(🈸)上,MiniCPM 4.0-8B在 128K 长文本场(🔠)景下相较于Qwen3-8B仅需 1/4 的缓存存储空间。在速度、性能飙升的同时,又做到了模型极致压缩,让端侧算力不再有压力。
据悉,基于 8B 版本,面壁智能已微调出两个特定能力模型,分别可以用作 MCP Client 和纯端侧性能比肩Deep Research的研究报告(🚂)神器MiniCPM4-Surve。截至目前,面壁小钢炮 MiniCPM 系列全平台下载量累计破1000万。(文猛)
相关链接:
- 暴雨黄色预警:5省区部分地区有大到暴雨 海南局地有特大暴雨
- 2598 元 → 1868 元:大疆 Osmo Action 5 Pro 国补 7 折立减七百元
- 劳动最光荣:国际人形机器人技能大赛 5 月 29 日在上海举行
- 还得是海信:12 公斤滚筒洗衣机 680 元国补再降价
- 捷强装备:公司董事长兼总经理因涉嫌职务犯罪被立案调查和实施留
- 关于联大第2758号决议,你需要知道的十个问题
- 多地启动收储未售新房,业内预计保交房工作将提速
- 三星 Galaxy S25 Edge 手机通过弯折测试,超薄设计不牺牲耐用性
- 京东与小红书推出“红京计划”:小红书广告可跳转京东购物页面
- “苏超”10元门票被炒到500元 散装江苏的足球狂热
相关新闻
- 龟壳摇卦A股,急跌后怎么走?详细阅读
周五(6月13日),中东形势风云突变,金融市场避险情绪升温。A股全天震荡调整,创业板指、深成指均跌超1%。沪深两市全天成交1.47万亿元,较上个交...
2025-06-1646
- 龟壳摇卦新闻1+1丨高校毕业生,如何“就好业”?详细阅读
2025年,我国高校毕业生数量预计为1222万,较2024年增加43万人。为全力促进高校毕业生顺利就业,现在,教育部正在开展2025高校毕业生就业...
2025-06-1667
- 龟壳摇卦伊朗革命卫队:导弹计划负责人及7名副手遇袭身亡详细阅读
据伊朗塔斯尼姆通讯社报道,伊朗伊斯兰革命卫队当地时间15日发表声明哀悼遭以色列袭击身亡的多名高级指挥官,所列名单包括伊斯兰革命卫队航空航天部队司令...
2025-06-16128
- 龟壳摇卦山西沁源山火明火已灭 救援力量纵深清理火场详细阅读
中新网长治6月14日电 (记者 李庭耀)记者14日从山西省长治市沁源县沁河镇山火救援现场获悉,火场于13日下午开始断续降雨,救援力量抓住时机继续扑...
2025-06-16156
- 龟壳摇卦外交部:加沙冲突不能再延宕,人道灾难不能再继续详细阅读
中新网北京6月13日电 (记者 李京泽 曾玥)中国外交部发言人林剑13日主持例行记者会。外交部发言人林剑。薛伟 摄 有记者提...
2025-06-16156
- 龟壳摇卦以军F-35战机被击落?伊朗媒体公布照片详细阅读
图源:伊朗伊斯兰共和国官方账号14日在社交平台X上公布被击落的以色列F-35战机残骸照。 伊朗塔斯尼姆通讯社14日在社交媒体公布一架被伊...
2025-06-16171
- 龟壳摇卦博泰车联网应宜伦:应积极拥抱人工智能,伦理责任先放后详细阅读
专题:2025轩辕汽车蓝皮书论坛 2025第十七届轩辕汽车蓝皮书论坛于2025年6月13日-15日在广州举行。 博泰车联网创始人、董事长应宜伦...
2025-06-15181
- 龟壳摇卦高效、精量、协同 三个关键词解码“三夏”科技范儿详细阅读
AI解锁丰收密码丨高效、精量、协同 三个关键词解码“三夏”科技范儿 从5月中旬西南麦区大面积机收开始,到今天,全国冬小麦收获已进入全面收尾...
2025-06-15187