导航菜单
多模态
同时理解图像、视频、文本等多种输入的模型。
2026-11-03
PhotoGuider 使用紧凑的学习型评分器度量四个摄影 token,以选择 360° 视角方向、对裁剪进行排序与细化、输出相机参数,并生成以测量为条件的解释。
Reviso 是一个智能体式视频字幕框架,学习 Context-Focus-Points 观察计划,并使用验证引导的 SFT 加 GRPO 奖励,借助工具收集按优先级排序的视觉证据。
本文认为,跨模态的嵌入研究正收敛于共享原则,并提出了从变换与对齐到联合全模态嵌入的路线图,以覆盖度、可比性和组合性进行分级。
论文提出 ReGap-Bench,这是一个配对基准:固定场景、问题和答案,仅改变视觉参考;发现任务匹配的参考可将多模态推理提升至多 25%,而不匹配的参考收益很小甚至有害。
2026-11-02
LARC 在连续潜在空间中为统一多模态模型执行推理,采用课程式 SFT 和自演化 RL 来改进图像生成并实现测试时扩展。
2026-10-30
A-RSI 利用训练日志中的奖励变化和准确率信号来决定何时替换由程序化生成的多模态任务池,并在不使用外部训练样本或人工答案标签的情况下,在十一个基准测试套件上报告了提升。
LOWN 使用廉价的 TEXT-ONLY 前向来认证最新的图像条件预测,仅当认证前缀过短时才运行图像条件 FULL 前向,在 35.3% 的解码 FLOPs 下保留 LLaDA-V 99.6% 的分数。
Youtu-Parsing-Omni 是一个 5B 全模态解析器,使用一个共享的文本初始化编码器和一个统一 schema,将文档、图像、音频和视频转换为在空间和时间上定位的结构化记录,具有最先进的文档解析效果和领先的开放权重全模态解析结果。
论文证明,对于 JEPA,在共享正样本对的条件下,分别训练的模态会学到同一表征(相差一个旋转),并通过实验表明好视图比坏视图或下一词元预测对齐得更好且更高效。
IntReal 引入了一个真实世界交错数据集,以及一个由粗到细的专家模型评估套件,用于多模态交错生成。
AskStream 引入了 ASK 动作以及一个多轮基准,包含 Ask-F1 和 StreamHarness,用于评估流式视频模型在视频不确定性和用户不确定性下应在何时提问以及提问什么。
2026-10-29
Falcon 是单遍因果音视频目标说话人提取器,并与 RealSSA 基准配套;相比因果 AV-TFGridNet,它以显著更低的参数量、计算量和延迟获得强提取质量。
HuGe 通过三阶段流程,在超过 2,000 小时的第一人称人类与机器人数据上训练人形通用 VLA,使用 SONIC 运动 token 动作和数据适配,在 HumanoidArena 上取得 SOTA 结果,并提升真实世界 G1 抓取-放置成功率。
PreView 是一种经过训练的辅助预处理器,为冻结的 GUI grounding 模型提供以中心为导向的裁剪放大视图以及候选特定的视觉和文本线索,从而在不重新训练该模型的情况下提高准确率。
登录
选择一种方式继续
登录即表示你同意我们的服务条款和隐私政策