HyQuant:面向LLM注意力机制的混合精度量化
提出混合精度量化方案,对注意力多数状态低比特量化,仅保留关键标记和局部窗口高精度,近无损且高效。
FinExam-10K:检索何时助力金融推理?
发布FinExam-10K金融考试基准:10198题,最佳85.29%;检索增益微,门控提升至71.23%。
多方对话中的话轮转换结果预测:结合人际亲密度的语音与目光动态可解释建模
结合语音响度与目光特征,可解释模型预测四人对话话轮转换,AUC达0.76,目光在噪声下仍稳健。
颤抖的声音未必是回避:财报电话会议中文本与语音回避检测的基准测试
提出双维回避基准,含六十场财报会议五百零五问答,标注文本回避与语音信心;多模态模型难测语音信心,与人类差距大。
视觉-语言模型源完全自由适应中的双流语义引导与原型锚点校准
提出DSSG-PAC,双流语义引导与原型锚点校准,解决无源VLM适应语义漂移,性能最优且提速近两成。
嵌套字节级词表:部署廉价,共享昂贵——一项预注册的阴性结果
嵌套BPE可切片部署,但共享模型逊于固定专家(32k差3.64%,8k差2.96%);控制令牌无效,输出限制主因。
从文档到推理:面向金融数值推理的验证合成数据管道与语义感知微调
提出合成数据管道与语义感知微调,改进金融问答,用新评估指标和损失函数,在ConvFinQA上显著提升精度。
滑动窗口优于线性注意力
滑动窗口注意力搭配sink节点,性能不输甚至超越后训练线性注意力模型,在长上下文任务中优势巨大,且无需后训练、成本极低。
频谱特征主导BCG呼吸事件检测:睡眠呼吸暂停患者特征组的大规模患者独立比较
BCG监测睡眠呼吸暂停,155例患者比较10类特征,频域特征主导(占30.3%),时频联合贡献67%,AUC达0.97。
“假设”的幻觉:评估大语言模型中反事实推理的失效
提出WhatIfBench基准与PRISM评估法,测试大模型反事实推理,最强仅64.62分,揭示流畅叙述掩盖因果缺陷。
用于立场感知论证检索的嵌入模型
现有模型偏重主题忽略立场,对比训练易过度校正;用平衡课程与LLM增强反向论证,提升立场感知检索。
从困难提示中学习:动态采样中难度感知的优势放大
针对动态采样忽视难提示中难采样正确回答的问题,提出难度感知优势放大(DA3PO),提升训练效率并超越GRPO。
当大型语言模型的语言自信与内部自信相背离时
研究发现大模型的语言自信与内部自信常不一致,属有损通道,需多维度评估。
促进多层感知机顿悟的生物启发机制
生物启发机制促进顿悟,稳态作用最强,结构稀疏次之,均经调节神经元利用与有效连接改善泛化。
EXPOSE:使用稀疏自编码器从病理视觉基础模型中生成可解释且域鲁棒的嵌入
提出可解释稀疏自编码器框架,抑制域特定特征,提升病理模型跨域鲁棒性。
NumBench:诊断文本到图像模型中的计数失败
提出NumBench基准(64万提示、1600类,数量1-100),发现计数随数量增加急剧下降,超50个物体时所有方法均表现弱。
基于深度学习的涡扇发动机剩余使用寿命预测堆叠集成框架
提出堆叠集成框架,融合LSTM、CNN等基学习器与XGBoost元学习器预测涡扇发动机剩余寿命,在C-MAPSS上误差显著降低,优于基线。
CultureConverse:面向东亚与东南亚文化情境辅助的多语言多轮模拟评估框架
提出CultureConverse多语言多轮模拟评估框架,覆盖10个地区58个子群体,含14.6万评估片段,评估18个模型,微调可提升文化能力。
这些模块值得投入吗?上下文学习文本转SQL的范式级精度-成本分析
统一框架下量化17种配置,发现仅执行反馈优化普适且低成本,其余模块依骨干而异;预算有限时,优化中端骨干比升级前沿模型更划算。
CASTANET:基于交通事件效应的因果感知时空对抗网络
提出因果感知时空对抗网络CASTANET,用图神经网络和因果推断预测突发拥堵,缓解选择偏差。东京实测RMSE降4.0%,事件场景降10.1%,严重拥堵时提升14.55%。
Cut-ViT:基于Gram锚定子空间一致性的任务特定模型剪枝
提出Cut-ViT,通过Gram锚定子空间对齐实现高效任务特定剪枝,多数据集达最优,仅用20.9%时间。
跨会话分解攻击:扩展风险与意图对齐检索防御
跨会话分解攻击揭示缩放定律的安全风险,更大模型更危险;22M参数的意图对齐检索器提供有效防御。
BanglaMed-QA:面向孟加拉语医疗保健支持的问答系统
孟加拉语医疗问答系统BanglaMed-QA,构建4493问答对知识库,采用SVM分类及多指标投票,自动F1达95%,人工满意度0.9。
WALDO:杂乱场景中的单样本示例条件目标检测
提出WALDO:用冻结V-JEPA特征做单样本条件检测,优于DINO,但实例识别仍弱。
AERA:自适应证据残差分配以实现高效测试时推理
提出AERA自适应分配推理预算,动态判断是否继续计算,在GSM8K上减少95.99%计算量,准确率仅降0.4%。
基于概率的KV缓存逐出解释
形式化KV缓存逐出问题,证明其计算困难,将其化为期望估计,提出解码时校正,使现有方法更稳健高效。
执行性隐私:当差分隐私最大化效用
当数据泄露与参与反馈足够强时,有限差分隐私预算长期效用优于非私有,证明差分隐私可最大化长期效用。
WilLaGS:用于野外鲁棒高斯溅射的潜条件三维外观场
β-VAE学习全局外观流形,三维外观场模拟局部光照,师生掩码去瞬态,实现野外鲁棒实时重建。
保真度还不够:智能体数据表提取的调度级插桩
保真度不足;智能体提取需调度级插桩,靠工具调用日志检测静默失败,37项声明基准验证有效。
PersonaForge:面向智能体系统的逼真多轮用户模拟
真实多轮交互占75.9%,现有训练与评测存在缺口;提出基于四维人格与种子查询的模拟框架,训练提升智能体综合评分4.1%。
当教师指引误导时:奖励对齐的在线策略蒸馏
提出RA-OPD,过滤与结果奖励不一致的轨迹,提升大模型数学与代码性能,无需额外计算成本。
聚焦关键:用于低视力辅助的显著性驱动视觉语言模型
提出显著性驱动字幕框架,构建三个显著性数据集,训练Salience-LLaVA按重要性顺序描述物体,并部署至辅助眼镜,提升低视力辅助效果。
不相交表格数据迁移学习中跨注意力的广义上下文
提出广义上下文学习,无需共享特征,利用跨域注意力迁移,性能优于九种基线。
在视频中定位任意目标:重新思考高效的生成式时空视频定位
提出并行管解码,将时空定位分解为时间块与并行空间块,大幅降低延迟并提升精度,优于自回归方法。
SABER:对抗分支探测下的LLM推理稳定性感知早退
SABER:对抗分支探测的无训练稳定性感知早退,减少30.2%-39.8%推理token,精度不降。
HARTS:任意展开树上混合注意力模型的高效智能体强化学习
HARTS在展开树上执行混合注意力智能体RL,压缩前缀并联合规划微批与数据并行,实现近五倍加速。
openJiuwen:超越静态框架的长周期编码智能体
openJiuwen开源框架实现结构可组合与运行时自适应,在SWE-bench和Terminal-Bench上分别达82.6%和87.19%,超越官方基线。
RASA:用于跨身份角色动画的解耦空间-运动先验
提出解耦空间映射与运动控制的框架,通过空间校准与运动引导,显著提升跨身份角色动画的动作保真度和视觉质量。
UniLipi:历史印度手稿的统一多文字OCR
UniLipi统一识别13种印度手稿文字,适应低资源与复杂版面,可作预训练模型,并预测文字属性。
面向预测过程监控的高效在线持续基础模型微调
提出一种框架在线持续微调基础模型用于预测过程监控自适应检测漂移维护统一知识子空间性能优于现有方法。
面向可解释多维度作文评分的结构化反馈生成统一框架
提出统一框架,先生成分层思维链反馈再评分,用蒸馏与强化学习确保评分反馈一致,多维度作文评分表现出色。
使用视觉基础模型的可解释糖尿病视网膜病变分类
利用视觉基础模型分类糖网病,低秩适配高效,外部曲线下面积达0.92,解释图匹配临床病灶。
D-TAIA:面向多任务预测性流程监控的领域感知大语言模型适配
提出D-TAIA框架,用领域感知三元组损失与FAISS检索微调小LLM,联合预测下一活动和剩余时间,达SOTA效果
超越扁平网表:面向时序电路可扩展分析的层次化图表示学习
DeepSeq3层次化框架,双GNN建模两级表示,状态中心预训练,BMC求解时间减18%。
面向节能驾驶的条件扩散模型
提出条件扩散模型生成电动汽车电池电流曲线,较直接注入条件大幅提升精度,支持能耗感知车队规划。
Softmax 注意力的近似秩:精确几何定律与稳健交互维度
证明注意力近似秩的几何定律:支撑集决定最坏缩放,交互维度控制每头复杂度,并给出鲁棒SVD维度。
中文标题
面向地球观测变化检测的AI方法综合可信基准评测。摘要:统一协议评测10种模型、10个数据集,兼顾精度与效率;预训练提升性能,经典架构更优。
解析器状态已知:面向结构化生成的结构条件KV持久化
利用解析器状态信号优化KV压缩,在0.33预算下平均提升17.39个百分点,吞吐量最高2.2倍,显存降低47%。
GeoFF3D:面向大规模无人机测绘的坐标锚定前馈重建
GeoFF3D结合坐标锚定与分层框架,实现重力对齐的大规模无人机测绘重建,精度领先且2000图仅需5分钟。
跨模式迁移学习:迈向统一的城市出行预测
提出统一框架TransMod,跨出行模式迁移知识,对齐空间表征,缓解数据稀缺,预测更优。