开元棋牌(中国)官网入口 小米造车参谋团队的新温柔:让自动驾驶AI“边想边开”,速率却快得像“只管开”
这项由小米具身智能团队主导开展的参谋,以arXiv预印本形式于2026年4月20日公开采布,编号为arXiv:2604.18486v1,参谋标的涵盖议论机视觉与自动驾驶推理议论。有深嗜深嗜深入了解的读者不错通过该编号在arXiv平台上查阅齐全论文。
**开车时,大脑在作念什么?**
每次你开车拐弯,你的大脑皆在赶紧运转:前边那辆车在延缓吗?路口的红灯快变了吗?左边那辆车会不会倏得并说念?你要综合通盘这些信息,才能决定踩油门、踩刹车,如故打标的盘。这个想考过程看起来很当然,但关于一台自动驾驶的汽车AI来说,想作念到雷同的事情,却要付出巨大的代价——时辰代价。
传统的自动驾驶AI在作念决策时,会先把脑子里的"想法"逐字逐句地写出来,就像一个学生查考时先在草稿纸上列出解题要领,然后再在答题纸上写谜底。这种"先想明晰从头动"的方式,学术上叫作念"链式推理"(Chain-of-Thought,简称CoT),它的平允是准确,但问题也很明显:太慢了。一辆车在高速公路上跑,如果AI每次决策皆要先写几十个字的"想考过程",那等它想好了,可能还是追向前边的车了。
恰是为了料理这个矛盾,小米具身智能团队提倡了一个名为OneVL的新框架。它的中枢想想不错用一句话轮廓:**把"写草稿"的过程压缩成"脑子里一闪而过的念头",但同期确保这个念头迷漫智慧、迷漫准确。** 更神奇的是,OneVL还能在过后"翻译"出我方的推理过程,让东说念主类工程师看懂它在想什么。
---
**一、为什么"想得慢"是个要命的问题**
先来搞明晰现存措施的逆境。刻下主流的自动驾驶AI,在预计下一步轨迹之前,会生成一大段笔墨推理,比如"前线左侧车说念有一辆大货车正在以较快速率连合,右侧有行东说念主行将进入斑马线,刻下绿灯还有8秒……要而论之,应当延缓并保握车说念"。这段推理很有风趣,对进步驾驶准确性也照实有匡助,但生成它需要破耗相配长的时辰。
参谋团队在测试中发现,选拔齐全笔墨推理的AI(也等于"AR CoT+Answer"这种模式),在NAVSIM这个主流自动驾驶测评平台上,每次决策平均需要6.58秒。而如果告成跳过推理、只输出谜底("AR Answer"模式),则只需要4.49秒。两者差了快要两秒钟。在真实驾驶场景里,两秒钟不错让一辆车行驶快要60米,足以发生严重事故。
于是有东说念主意料了一个折中决策:既然显式写出推理太慢,那能弗成把推理过程"藏起来",让AI在里面偷偷想一想,不把想考过程写出来,告成输出谜底?这类措施被称为"隐式推理"或"潜在链式推理"(Latent CoT)。已有几个代表性措施,包括COCONUT、CODI和SIM-CoT,皆在尝试这条路。
可是问题来了:这些隐式推理措施在自动驾驶场景下,发扬反而比什么皆不想的"告成输出谜底"还要差。在NAVSIM测试中,COCONUT得了84.84分,CODI得了83.92分,SIM-CoT得了84.21分,而什么推理皆不作念的告成预计得了87.47分。换句话说,这些"偷懒的想考者"不但没帮上忙,还帮了倒忙。
为什么会这么?小米团队给出了一个潜入的会诊:这些措施把推理压缩成了语言的压缩,而语言自己就还是是对真实天下的一层抽象。用语言来描画"前线有车",跟简直看到一辆车比较,丢失了太多空间和动态信息。用压缩后的语言来进行自动驾驶决策,就像是让一个从未开过车的东说念主,仅凭听别东说念主描画路况来适度标的盘——听上去没问题,但细节全丢了。
---
**二、OneVL的中枢想路:给AI配两个"会谈话的翻译官"**
OneVL的设想想路,不错用一个厨师的比方来相识。一位顶级厨师在烹调时,并不会每次切菜皆停驻来高声背诵菜谱——他的期间还是融入了肌肉挂牵和直观之中。但如果你问他"你刚才为什么要加这一勺盐",他能坐窝给你一个剖析的阐明。况且,他在烹调过程中,脑子里其实还是"看见"了这说念菜作念好之后的边幅。
OneVL等于要让AI作念到雷同的事情。它给AI配备了两种特殊的"代号牌":一种叫视觉潜变量(Visual Latent Token),另一种叫语言潜变量(Language Latent Token)。这些代号牌自己不是齐全的笔墨,更像是大脑里一闪而过的"念头编码"——非常紧凑,却包含了丰富的信息。
为了确保这些"念头编码"里简直装了有效的东西,OneVL配备了两个"翻译官"。第一个翻译官是**语言援救解码器**,它的责任是把语言潜变量里的信息解码成东说念主类能读懂的笔墨推理。第二个翻译官更挑升想,叫作念**视觉援救解码器**,它的责任是把视觉潜变量里的信息解码成改日0.5秒和1秒之后的路面画面——也等于说,AI需要"脑补"出随即要发生的场景长什么样。
这第二个翻译官,恰是通盘设想的精髓地点。因为要预计出改日的画面,AI就必须简直相识当今的路况:前边那辆车开得有多快?它会不会变说念?路面是不是在弯说念上?通盘这些动态的、空间的信息,皆必须被压缩进那些"视觉念头编码"里,不然画面就根蒂画不出来。这就像是,惟一你简直相识了一齐数学题的解法,你才能预计出下一步算式的散伙——没主见靠蒙。
要道在于,这两个翻译官只在教悔阶段存在,在推行动身时会被告成丢弃。AI动身后,只需要把那些经过充分教悔的"念头编码"告成填入推理经由,然后一步输出驾驶轨迹。这种方式叫作念"预填推理"(Prefill Inference),通盘过程的速率和什么皆不想就告成给谜底的方式简直一样快,在NAVSIM测试中仅需4.46秒,与告成预计的4.49秒简直莫得区别。
---
**三、AI何如学会"想"而不说出来:三阶段教悔经由**
相识了OneVL的设想想路之后,还有一个要道问题:何如把它教悔出来?这就像培养那位顶级厨师——你弗成第一天就让他在比赛级别的压力下完成一齐顶级菜肴,而是需要循序渐进地打磨本事。
OneVL的教悔分为三个主要阶段,在负责进入这三个阶段之前,还有一个筹备要领。
筹备要领是让视觉援救解码器"自学看天下"。在这一步,这个解码器齐全独处于通盘AI系统,只靠刻下帧的画面特征来预计下一帧画面。它要学会:给我看当今的路况,我来猜接下来路面会酿成什么边幅。这一步用了约13040个优化要领,批量大小为256。这就像是让一个学生先反复看交通视频,培养他对说念路动态的基本直观,才能在后续教悔中更好地谐和通盘系统。
第零阶段(Stage 0)是主模子热身。在这个阶段,中枢的视觉语言模子(基于Qwen3-VL-4B-Instruct构建)启程点学习把那些"念头编码"镶嵌到推理经由中,同期完成轨迹预计任务。这一步的目的是让模子配置起基础才气:当你看到那些代号牌时,你要学着用它们来想考,而不是无视它们。这个阶段教悔了2个齐全的数据轮次,学习率为4×10??。
第一阶段(Stage 1)是两个翻译官的专门培训。在这个阶段,主模子被冻结——也等于说,中枢AI暂时住手更新,保握雄厚情景。惟一两个援救解码器在教悔:语言援救解码器学着把编码解读成笔墨,视觉援救解码器学着把编码解读成改日画面。这就像是先把厨师的期间固定下来,然后专门教悔两个记载员如何把他的操作准确记载下来,而不会因为记载过程自己影响厨师的判断。这个阶段教悔了1个数据轮次,学习率为1×10??。
第二阶段(Stage 2)是全面兼并微调。三个部分——主模子、语言解码器、视觉解码器——同期更新,互相影响。来自两个解码器的"翻译质地"反映,会倒流回主模子,让主模子进一步优化那些"念头编码"的质地。这个阶段教悔了5个数据轮次,学习率为1×10??。恰是在这一阶段,视觉援救解码器施加的"必须能看见改日"的压力,迫使主模子的视觉潜变量简直编码进了时空动态信息。
参谋团队罕见测试了"如果跳过这三个阶段,告成端到端兼并教悔会如何"。散伙非常惨烈:PDM评分从88.84分跌到了67.13分,下落了向上21分。进一步查验教悔恨程发现,告成兼并教悔会导致梯度爆炸,驱动梯度范数高达378.22(而正确的三阶段教悔保握在0.28),视觉解码器生成的"改日画面"也齐全是胡乱的噪声,与输入画面毫无关系。
---
**四、在四个测试形势上,OneVL的获利单是什么样的**
参谋团队在四个不同的自动驾驶测评平台上对OneVL进行了全面测试,这四个平台覆盖了从普通城市说念路到极点特殊场景的普遍情况。
第一个测试平台是NAVSIM,这是一个从真实驾驶数据中索求的大范围测评平台,使用PDM评分来综合臆想轨迹安全性、舒截止和行驶着力,分数越高越好。OneVL在这里拿到了88.84分,不仅向上了之前通盘使用隐式推理的措施(COCONUT最高84.84分),还向上了最佳的显式推理措施(88.29分),更向上了此前文件中最强的两个参考模子:AdaThinkDrive(8B参数范围,86.20分)和LaST-VLA(8B参数范围,87.30分)。而OneVL只用了4B参数,却作念到了更好的获利。
第二个测试平台是ROADWork,开元棋牌(中国)官网入口这个平台专门测试在说念路施工区域行驶的才气——到处是锥桶、临时记号、不章程车说念分歧,还有衣着荧光背心的工东说念主。这类场景在普通测评中简直看不到,但在真实驾驶中却极为常见。使用ADE(平均位移过失,越低越好)和FDE(止境位移过失,越低越好)来臆想。OneVL取得了12.49像素的ADE和28.80像素的FDE,而之前的最强专用措施YNet为22.68和80.78,差距非常权贵。
第三个测试平台是Impromptu,它网罗了八个真实驾驶数据相聚的"非旧例情景",比如说念路畛域不剖析、临时交通章程变更、奇怪的终止物出现等。OneVL的ADE为1.34米、FDE为3.70米,向上了该平台原始论文中的自带模子(1.60米和4.28米),以及通盘同等范围的对比措施。在更雅致的时序过失分析中,OneVL在1秒、2秒、3秒、4秒的预计上均为最优,平均L2过失仅为1.01米。
第四个测试平台是APR1,它引入了一种叫作念"因果链可贵"(Chain of Causation)的推理标注,条款AI不仅仅预计轨迹,还要相识决策背后的因果逻辑。OneVL在这里取得了2.62米的ADE,优于对比基准Cosmos-Reason(2.86米,参数目10B,还使用了额外的强化学习教悔)。在FDE贪图上,OneVL为7.53米,略逊于Cosmos-Reason的7.42米,这个眇小差距参谋团队阐明是因为Cosmos-Reason额外使用了强化学习来优化,属于不同量级的参加。
---
**五、AI的"脑补画面"长什么样,推理笔墨又质地如何**
OneVL的一个罕见之处在于,它能在推理收尾后让两个援救解码器输出不错被东说念主类相识的内容,从辛苦毕可阐明性。
在视觉层面,参谋团队展示了多个测试场景下,视觉援救解码器生成的"改日画面"。以NAVSIM的一个弯说念场景为例,刻下画面走漏车说念右侧左近不可行驶区域,需要向左微调标的。视觉解码器在0.5秒和1秒青年景的画面,诚笃地呈现了车辆向左偏移后路面应有的视角变化,说念路两侧的建筑物和树木位置关系也适当物理规定,阐明AI照实"看见了"行将发生的事情,而不是在胡乱生成。
比较之下,在莫得进行三阶段教悔的对照组中,相通输入的改日帧预计齐全是与场景绝不联系的图像噪声,阐明模子莫得简直学会动态场景建模,而是走了捷径,记着了某些常见画面的名义特征。
在语言层面,参谋团队对NAVSIM测试集的500个样本进行了笔墨推理质地的量化评估,设想了三个贪图。第一个是"元活动准确率":每段推理终末会得出一个高层决策,如"保握速率并防守车说念",这个决策的预计准确率越高越好。第二个是"语义相似度评分"(STS Score),用一个专门用来判断两段话是否风趣相近的AI模子来打分。第三个是"AI裁判评分"(LLM-as-Judge Score),让谷歌的Gemini模子饰演裁判,左证场景图像、圭臬谜底推理笔墨和模子输出推理笔墨,从感知准确性、动态预计、决策合感性、语言畅达性四个维度打分。
在这三项评估中,OneVL的语言援救解码器在元活动准确率上达到了71.00,向上SIM-CoT的67.20;在语义相似度上达到78.26,在AI裁判评分上达到79.13,均高于SIM-CoT的76.25和78.73。比较之下,齐全显式推理的措施(AR CoT+Answer)仍然保握最高,三项分别为73.20、79.75和81.86,但这是以慢得多的速率为代价的。
---
**六、视觉监督为什么比语言监督更弘远:一个挑升想的发现**
消融实验(也等于"轮番去掉某个零件,看性能如何变化"的测试)揭示了一个很挑升想的规定。
去掉视觉援救解码器后,PDM评分从88.84跌到87.97,下落了0.87分。去掉语言援救解码器后,PDM评分从88.84跌到88.53,下落了0.31分。两者皆有孝敬,但视觉监督的孝敬快如果语言监督的三倍。
原因在于,自动驾驶骨子上是一个空间预计任务,而不是一个语言理免除务。"前线有车"这句话和简直"看到"前线的车,关于议论轨迹来说,提供的信息密度齐全不在一个量级上。视觉解码器条款AI预计出改日场景的像素级发扬,这意味着潜变量必须编码车辆的位置、速率、标的,说念路的几何形式,以及它们随时辰的变化关系——任何信息的缺失皆会导致"画面分歧"的告成反映。语言推理则更多是提供语义层面的锚点,让模子知说念我方在干什么,但无法替代空间动态信息。
这个发现对通盘隐式推理领域的道理在于,当你试图把一个需要多模态相识的任务压缩到一个紧凑的暗意空间里,阿谁压缩主义自己的质地决定了最终性能的上限。语言仅仅天下的影子,视觉天下模子才是更接近因果骨子的压缩主义。
---
**七、面向真实部署:用极小的代价换极快的速率**
参谋团队还探索了一个更激进的部署决策:在通盘系统上额外挂载一个轻量级的MLP(多层感知机)预计头,告成从终末一个潜变量的秘籍情景总结出轨迹坐标,齐全绕过自总结笔墨生成。
这个决策的延长惟一0.24秒,折合成频率约为4.16Hz,达到了车载及时系统的基本条款。代价是PDM评分从88.84降到了86.83,下落了约2分。但这个86.83分的获利,仍然向上了LaST-VLA的87.30分?不,等一下——86.83照实低于LaST-VLA的87.30,但LaST-VLA是一个8B参数的模子,使用的是齐全自总结推理,延永恒高于0.24秒。在推行部署中,一个以4Hz握续雄厚决策的轻量模子,往往比一个偶尔给出高质地谜底但延长不可禁受的重型模子更有实用价值。
这也意味着OneVL推行上提供了两种部署选项:一种是保留自总结轨迹生成、赢得最高精度的齐全模式(4.46秒,88.84分);另一种是接上MLP预计头、点燃约2分精度换取18倍速率进步的超轻量模式(0.24秒,86.83分)。工程师不错左证推行车辆的议论资源和任务条款天真弃取。
---
**八、四个测试平台用到的数据和标注是何如来的**
OneVL在教悔时需要三类监督信号:轨迹标注(来自各数据集自己)、笔墨推理标注(需要额外构建)和改日帧视觉标注(通过IBQ视觉分词器离线生成)。
笔墨推理标注的构建方式因数据集而异。在NAVSIM上,参谋团队告成复用了AdaThinkDrive发布的CoT标注,这些标注覆盖了车说念识别、要道对象分析(如车辆、行东说念主)和高层驾驶意图的描画。在ROADWork上,团队使用里面开采的活水线,专门针对施工区域场景进行了标注,重心包括危境物识别(锥桶、护栏、临时记号)、非圭臬车说念解读和速率/侧向拔除决策的意义。在Impromptu上,基于原数据集已有的问答对,添加了明确的决策标签和根因分析。在APR1上,由于官方未发布CoT标注,参谋团队使用公开的APR1-10B模子查验点,对全部教悔数据生成了因果链标注,同期对密集的64点轨迹进行了启发式降采样,保留8个要道点以适配自总结生成步地。
视觉标注则更为自动化:使用Emu3.5的IBQ分词器,将每个教悔样本的改日两帧图像(+0.5s和+1.0s)离线编码为温柔视觉词汇序列,码本大小为131072。这个过程齐全不需要额外的推理时辰,事前议论收场后告成手脚教悔标签使用。
---
归根结底,OneVL料理的问题不错用一句大口语来阐明晰:它让自动驾驶AI第一次已毕了"想考的速率和不想考一样快,但着力比想考更好"。以往的决策要么快但不准,要么准但太慢,要么试图把想考压缩得很小但反而更差。OneVL用"必须能画出改日"这个硬不停,将就压缩出来的"念头"里装满了简直有效的时空动态信息,然后在推理时告成用这些念头,两个翻译官静偷偷地隐藏,通盘决策过程快得像闪念。
这项参谋对普通东说念主的糊口意味着,咱们离那辆简直能安全、畅达、及时打法复杂路况的自动驾驶汽车,又近了一步。况且这一步并不是靠堆砌更多的议论资源已毕的,而是靠一个更智慧的设想想路。
有深嗜深嗜深入了解技术细节的读者,不错通过arXiv编号2604.18486在arXiv.org上查阅齐全论文,通盘实验代码和演示页面也可通过论文中提供的表情主页获取。
---
Q&A
Q1:OneVL的推理速率为什么能和"不推理"一样快?
A:OneVL在推理时,会把经过教悔的"潜变量代号牌"告成填入输入指示词中(也等于预填方式),这些代号牌在预处理阶段被一次性并行处理,不需要像生成笔墨那样逐字逐句恭候。是以通盘过程对延长简直莫得额外影响,测试走漏与齐全不推理的告成预计措施收支不向上0.03秒。
Q2:OneVL的视觉援救解码器生成的改日画面,是简直的视频预计吗?
A:不齐全是传统道理上的视频预计。视觉援救解码器预计的是改日0.5秒和1秒时的场景画面,这些画面以温柔视觉词汇序列的形式暗意,通过IBQ分词器编码。它的主要目的不是生成视频供东说念主不雅看,而是手脚教悔阶段的监督信号,将就视觉潜变量编码迷漫丰富的时空动态信息。推理时解码器会被丢弃,生成视觉阐明是一个可选的"过后阐明"功能。
Q3:OneVL和普通自动驾驶AI比较,最骨子的区别是什么?
A:最骨子的区别在于OneVL引入了"天下模子监督"。普通隐式推理AI试图压缩语言描画开元棋牌(中国)官网入口,而语言是对天下的二次抽象,丢失了多数空间动态信息。OneVL通过条款AI有时预计出改日的视觉画面,收敛其压缩出的"念头"简直相识物理天下的因果动态,而不仅仅记着语言描画的名义规定。这是性能进步的根原开始。
开元棋牌(中国)官网入口