CADENCE:通过覆盖自适应在线策略蒸馏弥合推理差距
CADENCE框架用覆盖自适应蒸馏修复冷启动、散度调度和奖励稀疏问题,将0.5B学生GSM8K准确率提升至69.8%,关闭63.2%教师差距。
FlowBlock:面向自校正扩散语言模型的波前并行解码
FlowBlock是一种无需训练的并行解码框架,通过门控波前解码和异构波前打包,显著提升自校正扩散LLM的推理速度和精度。
贝叶斯滤波变换器相信什么?一种预测性蒙特卡洛方法
用预测性蒙特卡洛方法直接揭示贝叶斯滤波变换器隐含的先验与后验,解释其信念。
章鱼v3:面向设备端亚十亿参数多模态AI智能体技术报告
提出含功能令牌的亚十亿参数多模态AI代理模型,支持中英文,可在树莓派等边缘设备高效运行。
验证、修复、重复,还是停止?——面向含噪LLM智能体验证-修复循环的鲁棒停止策略
提出VRR-Stop框架,基于噪声模型与信念滤波确定停止时机,显著提升真正确率。
O-VAD:通过以对象为中心的跟踪与推理进行工业视频异常检测
提出无训练、无领域知识的智能体框架,通过对象时空轨迹推理识别异常,优于现有方法并提供可解释报告。
机制注意力引导的智能体记忆精炼
AGMR利用注意力信号揭示记忆利用模式,指导段级更新,提升性能与效率。
语义相似,逻辑不同:诊断表格RAG中的语义-可回答性差距
TCR-Bench揭示密集检索器存在语义-可回答性差距,AAR通过可回答性验证将性能从18.2%提升至57.4%,表明缺失验证是主因。
可扩展的因果模仿学习
提出两种因果模仿学习算法,结合因果调整与逆强化学习,在长时间高维控制任务中性能显著优于现有方法。
求解器困难并非模型困难:面向LLM约束推理的受控难度诊断
控制密度后LLM约束推理准确度与证明难度脱钩,代理冲突差异51倍但准确度差距仅1.7点。
AI计数环:计算高效的等价形式及应用
提出CEEF结合AI与人类指导,高效计算高阶环计数统计量,并应用于尖峰矩阵检验等统计推断。
周期自助汤普森采样用于周期非平稳赌博机问题
PBTS通过周期重置与自助探索,有效处理周期非平稳赌博机问题,显著降低累积遗憾。
压力下的逻辑判断:用学习到的软前缀诊断三段论稳定性
通过软前缀测试,发现模型逻辑判断易被改变,主要效应是答案偏好,模型间稳定性差异显著。
面向可持续智慧城市中交通行为理解与管理的人工智能
基于行为证据的AI闭环框架,通过四项交通分析,驱动运营、规划、监管与服务决策。
OrientSAM:通过方向感知空间对齐缓解多模态空间推理中的相机中心捷径
OrientSAM通过方向感知对齐和课程学习,缓解多模态模型依赖相机线索的空间推理错误,实现更稳健的物体中心推理。
语言模型会梦想结合分子吗?在空间约束下评估大语言模型
研究发现通用LLM在3D空间约束分子生成中虽落后扩散模型,但能同时处理多种约束,展现潜力。
可解释机器学习用于空气污染与呼吸健康预测:社会经济亚组分析
可解释ML揭示PM2.5主导呼吸健康预测,无PM2.5时社会经济变量更关键,亚组分析显示收入差异。
Octo-planner:设备端规划-动作代理语言模型
提出设备端Planner-Action框架,将规划与执行分离,微调Phi-3 Mini模型,实现97%成功率。
反事实沙普利信用分配
提出反事实Shapley信用分配框架,通过φ值精准归因因果,结合优先轨迹回放实现φ-PPO算法,在稀疏因果和高随机性环境中显著提升样本效率。
ProEvent:面向主动智能体的以事件为中心的基准测试
ProEvent是首个基于即时通讯的主动智能体事件基准,揭示智能体常过度反应,GPT-5.1仅26.7%正确。
Octopus v4:语言模型图
Octopus v4用功能令牌和图结构整合开源模型,<10B参数获MMLU 74.8分,达SOTA。
LaT:LLM作为训练器的多任务车辆路径求解器
提出LaT范式,利用大语言模型分析跨任务指标生成阶段指导,提升多任务VRP求解器质量。
TurboVec:通过码本无关量化实现企业RAG成本高效私有检索的案例研究
TurboVec采用码本无关量化,4-bit recall比PQ高8.5%,内存比HNSW低4-8倍,租户隔离recall>0.86,隐私攻击准确率近随机。
章鱼:用于软件API函数调用的设备端语言模型
通过微调小模型和条件掩码,Octopus在API调用上性能优于GPT-4,推动自动化软件开发。
学习检测跨模态否定:潜在表示分析与基于注意力的解决方案
提出跨模态注意力架构,F1提升7.03%,揭示视觉否定依赖语言上下文。
面向知识的检索增强生成综述
综述检索增强生成(RAG)的机制、分类、评估与应用,强调动态外部知识整合及未来方向。
正则化还是局部化:训练时KV缓存几何结构在量化下的收益时机
直接对KV进行正则化可大幅降低缓存各向异性,在粗粒度量化下显著提升性能,但在精细量化下优势消失。
ChemFusion:用于反应产率预测的多模态交叉注意力网络
ChemFusion融合电子与3D信息,交叉注意力动态关注空间约束,精准预测产率,超越单模态并自主识别位阻。
Apeliotes:基于扩散模型的千米尺度多层大气场建模框架
Apeliotes基于扩散模型实现千米级多层大气场高分辨率预测,垂直风剖面误差低于3%。
Squid:将长上下文视为新模态以实现高能效设备端语言模型
Dolphin以小解码器压缩长文本为记忆嵌入,提升主模型效率,能效增10倍、延迟降5倍。
SR-Agent: 一种经验驱动的智能体框架用于电商推荐中的后排序策略优化
SR-Agent是首个工业推荐后排序策略优化智能体框架,通过自动闭环调优,月A/B测试订单量提升0.71%。
鲁棒的阿萨姆语语音识别:通过Whisper模型受控微调实现
本文提出基于Whisper微调的阿萨姆语ASR系统,在低资源环境下显著降低错误率并提升语义评分与实时性。
面向大语言模型后训练的蒸馏强化学习
提出蒸馏强化学习,整合教师监督于RL目标,细粒度指导知识迁移,实验优于标准RL和在线策略蒸馏。
利用虚假信息检测与解释的财务审计辅助
提出无监督技术检测财务报表虚假信息并解释来源,基于历史数据辅助审计,效果显著。
WuYu-EnvLE-Bench:评估大语言模型环境执法能力的基准
基于真实案例的环保执法LLM评估基准,发现LLM在规则任务表现良好,但证据推理等复杂任务不可靠,且大模型收益递减。
从证据到轨迹:面向检索增强生成智能体开发的溯因推理路径合成
EviPath通过溯因推理从证据合成可执行轨迹,使8B模型在开放域问答中取得14.7%精确匹配提升。
理性化玻尔兹曼理性:熵正则化策略的公理刻画
区分机遇与选择,公理推导出熵正则化策略及软贝尔曼方程,方程选择取决于是否重视自主选择权。
自主能动性量表:衡量AI系统自我导向行为的行为框架
提出AAS量表,通过主动与背景两波段评分及空闲间隙测试,量化AI自我导向行为,揭示系统本质差异。
PGN:基于盘古多模态基础模型的视觉语言导航系统设计与实现
基于OpenPangu-7B的离线VLN系统,两阶段训练对齐视觉语言并预测动作,专家轨迹上NAM 62.29%、NER 100%。
面向硬件的贝叶斯推理高效计算与部署方法
提出面向硬件的贝叶斯推理加速方法,优化内存布局与稀疏表示,在嵌入式GPU上达2-5倍加速,结果数值一致。
LogicIF:迈向复杂逻辑指令跟随
LogicIFGen和LogicIFEval评估LLM逻辑指令跟随,实验显示当前LLM正确率不足60%。
DADIR:一种密度感知的数据级不平衡回归框架
提出DADIR框架,通过密度感知划分、正则化变分自编码器和潜在空间平衡,有效生成合成样本,提升稀疏区域预测性能。
用人类策略解释与调优基于Transformer的大语言模型在算术任务中的表现
发现LLM算术学习模式与人类相似,通过子任务分解和认知赋能策略显著提升准确率,验证了认知过程相似性,增强模型信任。
动态防御剖析实现文本到图像模型的认知越狱
提出MIND框架,利用多模态反馈和防御剖析,在多种防御下越狱成功率达95.62%。
Psyche-R1:通过统一共情、专业知识和推理迈向可靠的心理大语言模型
首个整合共情、专业知识和推理的中文心理大模型Psyche-R1,7B参数性能媲美671B DeepSeek-R1。
Lil:后训练稀疏注意力算法在长解码阶段中的“少即是少”现象
发现稀疏注意力在解码时因信息损失导致序列变长,提出早停算法,减少令牌消耗90%,准确率损失小于2%。
DynImmune-BERT:基于神经ODE驱动的连续变换器的动态免疫库建模
提出连续时间免疫库模型DynImmune-BERT,通过神经ODE动态和事件感知机制提升纵向TCR库预测性能。
面向RLVR的监督学习框架下的隐式演员-评论员耦合
提出PACS框架,将RLVR转化为监督学习任务,隐式实现演员-评论员耦合,训练更稳定高效,性能显著提升。
ST-Veto:基于泰勒预测与视觉定位的扩散MLLMs时空令牌否决法
ST-Veto通过泰勒预测和视觉定位剔除不稳定token,提升扩散多模态大模型推理准确率最高9%,无需额外训练。
探索与同化反思:面向长期记忆的反思性回忆循环
提出EAR框架,结合探索与同化反思提升长期记忆检索,样本高效且鲁棒,性能提升17.9%。