增强任意开源多模态大模型的部件级点定位
提出通用方法,冻结模型参数,利用注意力机制提升部件级点定位精度,可集成于任意开源MLLM。
小模型,大成就:探索紧凑型语言模型
研究小型语言模型在RAG系统中的表现,无需GPU即可在设备上运行。
参数化技能
提出ParametricSkills,将文本技能转为LoRA参数,避免上下文依赖;在软件工程任务上平均提升6.44分,实现测试时持续学习。
非完全人类品味:LLM调查代理的程式化杂食性
LLM代理品味呈系统正向偏差、结构简化、文化对齐失真。
基于物理交互的遮挡鲁棒多目标解耦
提出无掩码方法,从稀疏遮挡视角实现多目标3D重建与物理仿真。
Reinforcement Learning in Super Mario Bros: Curriculum, Pedagogy, and Optimal Level Design in World 1-1
LLM报告的信心更反映承诺而非正确性
LLM言语置信度预测承诺决策远优于正确性,与对数概率分离,不能视为可靠性指标。
D²R²OSR:面向真实世界全景图像超分辨率的退化解耦表示
提出D²R²OSR框架,解耦鱼眼与ERP退化,联合视角感知与退化建模,实现高质量全景超分辨。
MirrorPPR:基于示例的人像照片修图
提出基于示例的人像修图框架MirrorPPR,通过操作提取器与LoRA注入DiT,结合4700万样本数据集,实现精细结构修图与身份保持。
反坍缩动力学与循环神经网络中多时间尺度学习的涌现
反坍缩动力学使循环神经网络从指数遗忘转为幂律遗忘,重尾波动维持长程学习,时间尺度由β指数控制。
语言交流的信息动力学
提出信息论框架量化语义定向流动,分解多源贡献,实验验证信息流检测与对话质量区分。
在受控和自然语境下估计上下文嵌入中的语法性别方向
提出首个上下文嵌入语法性别解耦方法,构建平衡数据集与评估指标,发现未加权受控上下文最纯净,质心估计器最优。
FDM-MFVT:用于无掩模虚拟试穿的少步采样扩散模型
无需掩模,仅需6步采样,提出FDM-MFVT扩散模型与3万对数据集,高效生成高保真试穿图像。
CORTEX: 通过本体语料图谱实现网络规模语料库的高质量跨域组织
Cortex通过本体语料图谱将网络语料构建升级为结构化知识组织,支持高质量跨域关联与推理。
ScaleErasure:下一代自回归图像生成中推理时最小干预的精确概念擦除
提出ScaleErasure方法,通过推理时最小干预,在语义高度纠缠下精确擦除不安全概念,保持生成能力。
模型会读取它们写下的内容吗?草稿推理中的因果寄存器
测试模型是否因果使用草稿状态,编辑内部状态后,状态写入模型80%-91%预测正确,表明因果使用中间状态是监督关键。
VISTA-DZ:面向个性化困境区域预测的视觉语义轨迹自适应
VISTA-DZ通过视觉语义轨迹编码,实现个性化停走决策预测,模拟准确率93.26%,可迁移至真实场景。
RAGA:面向3DGS虚拟角色-场景交互的实时光线追踪高斯阴影投射
提出RAGA方法,基于精确射线-高斯线积分实现实时阴影投射,无需网格重建,提升3DGS场景中角色交互阴影的真实感和稳定性。
ASTAD:面向自动驾驶中合成到真实域自适应的非对称风格迁移
提出ASTAD任务和ASTModel,利用无标签真实参考进行语义一致的非对称风格迁移,提升自动驾驶域适应性能,推理加速3.2倍。
优化训练策略的迷思:单调推理策略才是LLM强化学习的真正目标
指出训练-推理不匹配致目标错位,提出单调推理策略改进MIPI及MIPU框架,提升推理性能与训练稳定性。
优化器记忆使打乱顺序成为微调噪声的一阶来源
固定时钟优化器使打乱顺序产生一阶噪声,可翻转A/B比较,并推导出无拟合噪声测量方法。
DAIN:基于动态智能体的交互网络实现高效协作多模态推理
DAIN动态多智能体协作框架,稀疏调度专家智能体,多项基准达SOTA,提升准确性确保可解释性。
对大型语言模型进行模糊测试以引出隐藏行为
向模型权重或激活注入噪声可更有效触发后门行为,用代理任务选超参数可提升效果。
角色专业化对混合专家模型中解释忠实度重要吗?
角色分解未必保证解释忠实度,去相关正则化可提升忠实度且不损性能。
人类与自动识别荷兰构音障碍连续言语的比较:案例研究
重度构音障碍语音识别对人类和ASR均极困难,微调后个性化模型优于人类,但仍有提升空间。
动态解析与更新自然语言规范的VLM视觉语言跟踪方法
提出语言依赖解析机制,利用Qwen-VL进行成分感知更新,显著提升视觉-语言跟踪鲁棒性。
神经架构搜索的双层优化
双层优化用于神经架构搜索,分为采样和理论两类;理论法通过辅助数学规划同步更新架构与参数,更准确高效。
Multi-scale Object-Aware Gaze Estimation via Geometric Reasoning
在思考之前,学会决策:主动路由以实现高效的视觉推理
PRP主动路由范式通过双模型能力评估实现早期路由决策,加速推理且不损性能。
CaresAI在CT-DEB26中:使用领域特定Transformer嵌入和分类模型检测临床试验剂量错误
本研究用BioBERT等Transformer嵌入临床试验文本,结合机器学习检测剂量错误,最佳ROC-AUC达0.853。
Wan2.2-I2V-A14B上的W4A4推理量化
融合混合精度与通道平滑,实现Wan2.2模型W4A4量化,VBench指标仅差FP16的2-3.5%,运动平滑度提升。
基于机制的语言模型潜在行为诱发
提出无监督CPE方法,高效发现语言模型隐藏行为,消除对齐伪装,提升安全性。
STEMGym:自主电子显微镜中剂量预算下序列决策的基准测试
STEMGym基准测试表明,感知管道(CNN分析师)是提升自主电镜剂量效率的关键,而导航策略影响甚微。
快至可行动:面向低延迟机器人视觉语言模型与视觉语言动作模型的时空视觉令牌合并
ST-Merge通过时空令牌合并,实现2倍推理加速仅损失1%精度,在VLA上达8.3倍加速。
不完整图证据下的大语言模型推理基础
不完整图证据下,LLM推理无法同时拒绝假轨迹和保留真轨迹,软基础化通过KL正则化变形实现稳定推理。
利用开源大语言模型的多智能体系统以减轻虚假信息威胁
多智能体系统模仿人类标注,结合共识与多样性,优于GPT-4等,利用开源LLM实现多语言虚假信息检测。
字段顺序无关紧要:结构化元数据检索的置换不变嵌入模型微调
提出置换不变微调(PI-FT)消除字段顺序影响,在15语言基准上低成本提升检索性能,优于大模型。
SAFE-DiT:面向高分辨率扩散Transformer的语义感知快速路径执行
SAFE-DiT消除冗余掩码开销,实现高分辨率DiT推理2.69~5.09倍加速,内存降低至1/3,且视觉质量非劣。
L2D2-GS:面向前馈动态高斯场景重建的稠密化学习
提出L2D2-GS框架,通过自监督稠密化和几何正则化,实现前馈动态高斯场景重建,SOTA且基元更少。
人物角色训练的蒙特卡洛:限价订单簿中群体神经策略机器人估计市场结果分布
提出人物训练蒙特卡洛法,模拟限价订单簿中人格条件机器人交互,估计市场统计分布,融合多学科理论并设计验证框架。
量化和采样温度对LLM安全对齐的联合效应:一项因子分析
标准量化对安全影响中性,高温采样增加决策不稳定,但二者无复合效应。
REAR:通过奖励分解实现测试时偏好重对齐
提出REAR框架,通过奖励分解实现测试时偏好重对齐,高效可扩展,适用多种任务。
DialogPII:用于检测个人信息的合成对话转录多语言数据集
多语言合成对话数据集DialogPII覆盖11语言8场景,用于个人信息检测,附基线模型与验证。
t-STEP:一种用于总电子含量预测和不规则性估计的可解释模型
提出t-STEP模型,30秒分辨率预测TEC,精度91%,误差4.38 TECU,可估计不规则性,优于IRI-2020。
SAD-GS:通过动态地理语义锚点学习可靠的3D语义高斯场
提出动态地理语义锚点框架,解决多视图语义漂移与跟踪异常,实现可靠3D语义高斯场学习,性能最优。
DR-GS:基于物理的可变形与可重光照的2D高斯散射
DR-GS通过解耦几何、光照与材质,实现高质量动态变形与重光照渲染,支持后编辑。
NaLA: 一种面向高质量3D场景生成的原生3D LLM布局代理
NaLA通过直接编码3D资产和边界,采用粗到细预测机制,实现高质量、高效率的3D场景布局生成。
AI如何解决了最古老SGD算法的复杂度问题
1937年Kaczmarz算法是最早SGD,现AI模型联手发现其最坏复杂度。
MOPD:面向LLM后训练中能力集成的多教师在线策略蒸馏
MOPD通过多教师在线策略蒸馏集成多种能力,消除暴露偏差,优于混合RL等方法,并支持并行开发。
推测性预定位:将状态会话解码至下一个决策点,脱离关键路径
推测预定位利用空闲提前解码,使首令牌延迟从39ms降至约1ms,代价仅能量与有限错误。