MARS:面向竞赛编程的多专家LLM接力系统
MARS:多专家LLM接力系统,用于编程竞赛。检索选取专家,迭代修复;通过率提高14.4个百分点,接近CodeSIM且成本更低。
更多GPU还是更小缓存?张量并行与KV压缩在内存受限LLM服务中的对比
张量并行与KV压缩同成本轴对比,压缩便宜1.2-2倍,但仅张量并行能降延迟。70B模型单卡不可行,分界约36B参数。
Giraffe:从隐藏文本表征到视觉嵌入的映射架构,用于高效平面设计
提出用单标记将隐藏文本映射到视觉嵌入的轻量架构,双MLP训练,高效完成图文设计生成。
离散难度是否足够?利用连续难度提升LLM自一致性效率
提出柔性自一致性方法,用连续难度动态调整推理路径数,保精度且节省最多76%的令牌。
用于4D医学图像插值的相位对齐有限傅里叶周期形变
提出相位对齐有限傅里叶周期形变,嵌入周期运动先验并重参数化时间,实现4D医学图像插值,在ACDC和4D-Lung上最优。
词语、空间与生成式AI:当代建筑中的语言层次
语言是建筑设计材料,生成式AI中交织话语、编程语言与注释,需研究隐喻、语料库及语言差异。
扩散与流模型中的表示学习:应用视角
综述扩散与流模型的表示学习应用,提出三层次框架,覆盖分类、感知等下游任务,展望未来方向。
特征主序码本:在单块消费级GPU上将MEDLINE图谱扩展至105万神经元的内存高效稀疏二值自组织映射
特征主序码本提速BMU搜索4.5-8.5倍;72秒训练2990万篇文献,H200达105万神经元。
大语言模型中量化对孟加拉语理解的影响:一项系统性评估
孟加拉语量化影响因模型而异:GPT-OSS损失大,Qwen/LLaMA稳定,架构与方法比位宽更重要。
中文标题
中文摘要
面向可控数据生成的机制电路识别
提出机制电路框架,结合数据评估与可解释性,以电路为接口生成靶向数据,提升下游性能。
均匀稳定性的尖锐尾部
构造γ-均匀稳定学习问题,其尾部概率下界匹配无对数上界,确定了均匀稳定性最优高概率与矩依赖至常数。
PhysicsBench:工程设计与仿真中生成与预测模型的统一排行榜
PhysicsBench统一评测生成与预测模型,覆盖7任务66模型,揭示数据规模影响排名,为模型选择提供公开依据。
网格无关多分辨率深度能量法及其脆性断裂相场建模
提出网格无关多分辨率深度能量法,用神经网络表示位移和相场,最小化增量能量训练,在六类断裂问题中载荷-位移曲线与有限元参考吻合,峰值载荷误差约1%至8%。
面向4D点云视频自监督学习的掩蔽点管联合嵌入预测
提出联合嵌入预测,以掩蔽点管潜在预测避免重建,学习时空特征,提升动作识别性能。
面向基于LLM的时间序列异常检测的结构化频域证据
提出零样本异常检测框架,在去季节化数据上增加全局与局部FFT频域证据,提升LLM检测性能。
知道何时求助:分层大语言模型智能体中的贝叶斯自我升级
将推理中委派建模为贝叶斯最优停止,导出时变阈值策略,证明遗憾以1/√n衰减,并在代码任务中验证。
VisCache:面向高效视觉大语言模型推理的视觉KV缓存剪枝
免训练视觉缓存剪枝:关键帧筛选与分层剪枝协同,仅留19-28%缓存即获2.35倍加速,性能持平,新前沿。
FARCA:事实监督强化学习中事实对齐的可靠性感知信用分配
提出FARCA,将事实监督转为可靠性加权的令牌级训练信号,解决信用分配歧义,提升事实性并保持推理。
ViSculpt:以视觉为中心的智能体几何编辑
无需训练的多智能体系统,通过Blender界面模拟人工操作,直接编辑3D网格,保持原始特征。
低方差在线策略评估的鲁棒数据收集策略学习
提出双环梯度算法学习鲁棒行为策略,应对转移不确定性,降低评估方差,保证全局收敛。
记忆并非总是必需:科学推理中条件记忆的特征化研究
提出知识边界感知路由器,按需激活条件记忆,抑制干扰,提升科学推理可靠性。
压缩三位一体:探索稀疏化、量化与低秩近似的大语言模型压缩
提出压缩三位一体框架,联合稀疏化、量化与低秩近似压缩大语言模型,加速训练并提升精度。
从松弛可指标性到精确可指标性:部分可观测游荡匪帮的$t$步方法
提出$t$步前瞻阈值策略,逼近Whittle指数,误差$O(\beta^t)$,并验证可指标性。数值显示精度大幅提升,逼近最优。
迷失于语音:跨音频与文本的三语口语幻觉检测
首个三语口语幻觉基准(英俄哈,1.2万样本):文本检测优于音频,合成训练可迁移至真实虚假新闻。
算法影响揭示对齐中隐藏的社会选择结构
将AI对齐重构为凸影响空间上的线性优化,用福利经济学工具设计防策略、一致且最大化社会福利的对齐协议。
MatReplace:面向室内场景材质替换的无参考、条件对齐基准
MatReplace:无参考基准评估材质替换。发现名称驱动渲染已解决,像素理解仍是难题。
TransPhy:面向物理接地图像编辑的视觉上下文学习
提出物理接地视觉上下文编辑基准PhysVICL-74与TransPhy框架,通过规则归纳和混合专家渲染,提升物理规则遵循及泛化能力。
线性探测为机器生成文本检测提供稳健高效的方法
线性探针以极少样本超越多种检测器,跨域提升AUC,因共享潜在“机器性”方向,可细粒度估计AI编辑文本。
用于词级时间戳的掩码训练相对时间间隔表示
提出相对时间戳与掩码训练,使语音大模型具备词级时间戳预测能力,提升精度且保持转写性能。
期待、反弹、复苏与兴奋:模型发布如何塑造Reddit对对话式AI系统的看法
分析Reddit长期讨论,发现对话式AI用户看法随模型发布动态变化:Anthropic获好评,OpenAI现反弹复苏,Grok-3受政治影响,DeepSeek-R1毁誉参半。
提示学习改变了什么?——视觉语言模型的自然语言概念分析
用固定自然语言词典稀疏表示文本嵌入,比较提示学习前后概念变化;变化大且与准确率提升正相关。
基于量规的视觉修复上下文自进化UI代码生成
发现UI转代码自进化中“视觉修复耦合”问题,提出RubSE框架,用量规结构化引导修复,显著提升六种模型和三个基准的稳定性和性能。
融合认知负荷与知识迁移的多领域知识追踪
提出LT-MKT方法,融合认知负荷与知识迁移,利用层级图与迁移模块,提升多领域知识追踪预测精度。
PRQ-KMeans:用于语义ID令牌化的投影残差量化
PRQ-KMeans:去全局均值、Top-k相似更新、投影残差,改进语义ID令牌化,效果最优。
重新思考零样本跨城市目标检测中的预训练与数据增强
提出模块化训练,采用多数据集预训练和灰度世界变换,减少跨城市分布差异,在AI城市挑战赛中获第一。
规则优先于预言机:审议式民调中可审计、用户可配置的论据选择
审议民调中论据挑选须用公开规则而非黑箱排序;可审计、用户可配置,性能逼近理想上限,且把覆盖-认同权衡交给用户。
以推理致多样:利用LLM群体智慧进行未来预测
提出行为感知框架,按推理轨迹聚类选代表模型,三模型群体超越全部25模型投票,成本大降。
从局部核到全局形式:建模音乐内容的涌现
用滑动窗口从单序列估计局部转移核,在德彪西《Syrinx》中边界处达峰值,但宽平台表明难作自动分段器。
SkillForge:为强化学习智能体演化可验证技能
提出SkillForge框架,通过环境交互验证技能并持续演化,使技能库保持有效,显著提升强化学习智能体性能。
基于图监督的层次化临床对齐用于大语言模型放射学报告生成
提出图监督层次化临床对齐,分层监督疾病与全局语义,用知识图谱提升放射报告临床一致性,超越更大模型。
PlaceSeek:基于语义锚定与情感对齐的城市户外场所人本地理空间检索
提出PlaceSeek框架,将自然语言查询映射到街景图像,分解功能与情感子意图,经语义验证和情感重排,检索准确率显著提升。
推理时通过读出反馈引导循环推理模型
通过读出概率生成成对耦合力引导潜变量动态,无需重训提升循环推理模型,在数独和迷宫六对任务中获四对增益。
波斯语文本NLP中的标注瓶颈:作为标注稀缺语言的波斯语
波斯语并非全面低资源,而是标注稀缺,任务与领域覆盖不均,部分任务密集,NLI等低于基线。
投毒智能体Alpha:多智能体交易系统中跨角色与架构的对抗性漏洞
研究表明,多智能体交易系统易受低门槛对抗攻击,角色与架构均存在漏洞,无天然鲁棒设计。
等变协方差张量:保证SPD的张量值几何学习不确定性
提出E(3)等变协方差框架,经矩阵指数映射保证SPD,以对数欧氏等变目标实现张量预测不确定性量化,鲁棒且对称。
基于行动诱导视觉差异的桌面GUI代理反思
提出证据优先反思法,将视觉差异提取与结果验证解耦,增强桌面GUI代理对环境变化的感知,提升反思准确率与任务成功率。
对比分支策略优化
提出对比分支策略优化,解耦预算与信用分配,用前缀分支对比评估决策,提升工具集成智能体的多步推理性能。
RAT:一种用于RAG评估的统一贝叶斯模型
提出统一贝叶斯框架,联合建模检索、弃答与答案正确性,揭示系统行为差异,优化标注分配,整合LLM评判。
基于L1范数Rademacher复杂度的数据依赖早停规则
提出基于L1范数Rademacher复杂度的早停时刻估计框架,无需训练且不依赖概率假设,可用于线性回归与非线性网络。