0
| 本文作者: 陳淑瑜 | 2026-05-27 15:21 | 專題:CVPR 計算機視覺與模式識別會議 |
來源:公眾號“什么是人工智能”
根據(jù) CVPR 2026 官方公布的數(shù)字:
? 整體觀察:一個共同的底層轉向
翻閱大量代表性論文,可以總結出一個清晰的共性趨勢:
計算機視覺正在從“看見”走向“理解物理世界”。
這一轉向在不同方向中有不同表現(xiàn)——在 3D 視覺中體現(xiàn)為“3D Grounding”,要求模型輸出物體的體積與空間關系;在視頻生成中體現(xiàn)為“世界模型”,要求生成內容符合重力與碰撞。以下內容分方向展開,并適當補充其他方向的交叉亮點。

一、3D 視覺:從“這是什么”到“它在哪里、多大、怎么動”
趨勢要點:
3D 視覺今年最顯著的變化是:模型不再滿足于識別物體類別,而是要求輸出物體的“體積、深度、空間關系”——即“3D Grounding”。關鍵技術創(chuàng)新包括 “Token 化 3D 高斯”、“正則空間建?!?、“因果連續(xù)位置編碼”。
代表性創(chuàng)新算法:
-TokenGS(NVIDIA、CVPR 2026 Highlight):提出可學習 Token 預測 3D 高斯,采用自監(jiān)督渲染使高斯數(shù)量與圖像分辨率、視角數(shù)完全解耦,突破了前饋 3DGS 預測的容量限制。
-CoSMo3D(山東大學、騰訊等,滿分 Oral):通過 LLM 引導構建跨類別正則數(shù)據(jù)集,引入雙分支架構與正則空間約束,在開放世界 3D 零件分割任務上顯著超越僅依賴幾何映射的方法。
-ReLaGS(DFKI):構建層次化語言蒸餾的 3D 場景表示,通過高斯剪枝和多視圖語言對齊,無需場景特定訓練即可實現(xiàn)開放詞匯分割與關系檢索。
-REALM(杭電):首個將多模態(tài)大模型與 3DGS 深度耦合的交互式 Agent 系統(tǒng),并提供大規(guī)模 3D 推理評測基準 REALM-3D。
二、多模態(tài) VLM:提升視覺-語言對齊與定位能力,減少“幻覺”
趨勢要點:
視覺語言模型今年著力解決兩個核心問題:如何讓模型準確地將語言描述與圖像中的具體區(qū)域相對應,以及如何在 3D 場景中進行有效的空間推理。因果對比學習、隱式推理、統(tǒng)一 grounding 框架等技術被大量引入,以提升模型的空間理解與指代能力。
代表性創(chuàng)新算法:
-C2ROPE:提出因果連續(xù)旋轉位置編碼,增強 VLM 對 3D 場景的邏輯因果推演能力,是第一個將因果推理顯式嵌入 VLM 的框架之一。
-Linguistic Priors for Visual Decoupling:利用面向對象的文本描述將前景與背景顯式解耦,在零樣本腦到圖像檢索任務中取得新 SOTA。
-GroundingGPT:統(tǒng)一處理指代分割、短語定位、3D grounding 的單一模型。
-LISA:機器人持續(xù)學習框架,在離散傅里葉空間中表征連續(xù)任務知識,緩解災難性遺忘。

基線模型在 SQA3D 中判斷錯誤(“左邊”),而新方法正確回答了“右邊”,體現(xiàn)了更強的 3D 空間推理能力。圖片來自 CVPR 2026 錄用論文
三、圖像與視頻生成:走向“世界模型”
趨勢要點:
生成模型的核心追求已從“視覺逼真”升級為 “物理一致”。研究者通過物理獎勵模型、因果事件分解、駕駛規(guī)則嵌入等方法,使生成結果符合重力、碰撞、遮擋等基本物理規(guī)律。同時,極致的 Token 壓縮效率也成為一個突破方向。
代表性創(chuàng)新算法:
-MacTok(復旦,CVPR 2026 Highlight):僅用 64 個 token 在 ImageNet 256×256 上達到 1.44 gFID,實現(xiàn) 64 倍壓縮效率。引入隨機掩碼與語義掩碼的混合機制,從根源上解決了連續(xù)分詞器的“后驗坍塌”問題。
-ProPhy:在擴散模型中引入物理約束的獎勵函數(shù),使生成視頻通過物理一致性檢驗,向“世界模擬器”邁出關鍵一步。
-DriveLaW(小米汽車 × 華科):統(tǒng)一視頻生成與運動規(guī)劃的新范式,將視頻生成器的潛在表征直接注入擴散規(guī)劃器,實現(xiàn)預測與決策的內在一致性。
-WorldForge:通用開放域世界模型,支持從初始幾幀和動作指令無限生成符合物理邏輯的后續(xù)視頻。
四、語義分割:開放詞匯、開放域、開放零件
趨勢要點:
語義分割正在擺脫封閉類別假設,向三個“開放”邁進:
-開放詞匯:用自然語言描述即可分割任意物體;
-領域泛化:在仿真數(shù)據(jù)上訓練,直接應用于真實雨、霧、夜間場景;
-零件級分割:分割物體的組成部分。
代表性創(chuàng)新算法:
-CoSMo3D(已在 3D 視覺部分介紹):開放世界 3D 零件分割,用戶通過自然語言描述從未見過的物體部件,模型可推理并分割。
-ClimaOoD:物理一致的合成數(shù)據(jù)生成框架,為自動駕駛提供雨、霧、夜間等極端天氣下的異常物體真值,顯著提升異常分割在復雜天氣下的表現(xiàn)。
-EReCu(杭電):針對無監(jiān)督偽裝物體檢測,提出偽標簽進化融合與多線索學習的師生協(xié)同去噪機制,有效解決噪聲累積與細節(jié)丟失兩大挑戰(zhàn)。
-Earth2Ocean:將陸地場景訓練的模型遷移到水下圖像的解耦域自適應方法。
五、自動駕駛:生成式規(guī)劃,端到端的新形態(tài)
趨勢要點:
自動駕駛領域正從模塊化(感知→預測→規(guī)劃)轉向生成式自動駕駛:用一個世界模型同時完成未來幀生成、他車行為預測和自車軌跡規(guī)劃。3D 預訓練和物理先驗的注入,有助于應對訓練數(shù)據(jù)稀疏的 corner case。
代表性創(chuàng)新算法:
-MeanFuser(中科院自動化所):引入高斯混合噪聲引導生成采樣,實現(xiàn)軌跡空間的連續(xù)建模,消除了傳統(tǒng)方法對離散錨點詞匯表的依賴。通過 MeanFlow Identity 替代流匹配中的瞬時速度場,單步生成多樣化的多模態(tài)軌跡。
-NeoVerse(中科院自動化所 × CreateAI):從百萬級互聯(lián)網(wǎng)單目視頻中學習,構建通用 4D 世界模型,支持單目→多視角生成、長尾物體反事實場景構建等能力。
-DriveLaW(已在生成部分介紹):專為自動駕駛設計的生成式世界模型。
-STUR3D(3D 視覺部分):為自動駕駛提供高質量的時空表征。
-ClimaOoD(已在分割部分介紹):生成極端天氣下的異常物體,提升開集檢測能力。
六、目標檢測:跨域小樣本與異常檢測
趨勢要點:
目標檢測的研究熱點已從刷榜 COCO 轉向更實際的問題:
-跨域小樣本檢測:源域數(shù)據(jù)充足,目標域僅少量標注,模型需保持泛化且不誤檢;
-異常檢測:檢測訓練集中從未出現(xiàn)的物體類別;
-3D 檢測:與 3D 視覺深度融合,利用時間信息與幾何先驗提升動態(tài)場景表現(xiàn)。
代表性創(chuàng)新算法:
-SubspaceAD:將異常檢測建模為分布外子空間學習,無需任何異常樣本即可檢測未知類別,打破了傳統(tǒng)異常檢測對負樣本的依賴。
SubspaceAD 在 MVTec-AD 和 VisA 上的定性對比(a)與零樣本異常檢測性能(b)


圖片來自 CVPR 2026 錄用論文
-FT-FSOD:特征遷移框架,僅需目標域少量標注即可顯著提升跨域小樣本檢測精度。
-STUR3D(已在 3D 視覺部分):3D 檢測任務上的頂尖性能。
? 其他領域的代表性創(chuàng)新
除了上述六個重點方向,CVPR 2026 在其他領域也涌現(xiàn)出不少值得關注的創(chuàng)新:
-模型壓縮:V2Drop(川大、上交、浙大)——基于 Token 變化量的即插即用視覺 Token 剪枝方案,在 LLaVA-1.5-7B 上壓縮 66.7% Token 時保持 97.6% 的性能,優(yōu)于次優(yōu)方法 PDrop 的 96.0%。
-強化學習與表征學習:SRCP(中科院自動化所)——顯著性引導的動態(tài)表征任務,將表示學習與后繼訓練解耦,在視覺無監(jiān)督強化學習(URL)場景下實現(xiàn)最優(yōu)的零樣本泛化性能。
-遙感:多篇論文探索光學與 SAR 圖像的融合、旋轉目標檢測,以及傅里葉角度對齊新范式。
-視頻理解:FlexMem模擬人類記憶機制,解決長視頻理解中訪問所有幀帶來的計算瓶頸。
? 寫在最后
CVPR 2026 給我們的最大啟示并非某一項指標的突破,而是研究范式的系統(tǒng)性轉變:計算機視覺正在從“讓機器看見”走向“讓機器理解并預測物理世界”。
無論是 3D Grounding、世界模型,還是交互式智能體,背后共同的愿景是讓 AI 擁有對物理世界的基本直覺——知道物體有體積、運動會遵循慣性、提問可以得到答案。
本專題其他文章