视觉令牌压缩增强多模态大语言模型的鲁棒性
通过剪枝偏离语言特征的视觉令牌,防御越狱攻击提升13.29%并缓解幻觉,增强模型鲁棒性。
对话Kalle Lyytinen:语言理论对信息系统的启示
Lyytinen回顾语言理论对信息系统的影响,聚焦大语言模型与生成式AI趋势,展望未来研究方向。
使用EEG信号和CNN预测rTMS抑郁症治疗结果
基于FBSE-ED时频图和轻量CNN预测rTMS疗效,准确率93.60%,优于传统方法,实现早期临床决策支持。
DAMamba-UNet3D:一种参数高效的Mamba状态空间U-Net,具备动态自适应扫描用于3D医学图像分割
DAMamba-UNet3D用动态自适应扫描实现参数高效3D分割,仅5.3M参数即达SegMamba(70M)水平,大模型超越0.5pt。
γ-Bridge: 一种视数参数化扩散桥
提出视数参数化扩散桥,通过乘性Gamma噪声连接,实现单视训练、零样本多传感器SAR去斑。
超越直接作答:通过启发式强化学习将教育大语言模型对齐为苏格拉底式引导者
提出HeuristicEdu,用认知深度等启发式奖励对齐LLM,引导有效性从30%提升至63.3%,关键词泄露从30%降至13.3%。
CC-AOS:针对有限时域最优停止的代价与视界条件摊销逆向归纳
CC-AOS提出代价与视界条件化摊销逆向归纳,统一处理多代价多视界,在FordA上平均降低15.75%风险与采样成本。
LC-SEPLM:远程接触监督适应用于仅序列蛋白质表示学习
提出LC-SEPLM,用远程残基接触监督改进ESM2,八项任务均优于ESM2,远程同源识别F1提升6.47个百分点。
优化变压器神经网络实现FPGA上的实时异常值检测
研究优化Transformer在FPGA上用于金融时间序列实时异常检测,提升处理速度与精度。
LoRA用于性别包容改写以及反叙事生成的激活转向
通过LoRA微调实现性别包容改写,利用激活转向生成反叙事,无需修改权重,得分80%和78.12%。
面向精神分裂症认知康复的交互式视觉语言平台
提出基于视觉语言模型自动验证精神分裂症患者认知康复动作,通过分析玩具车操作视频实现客观评估。
注意力引导的层选择用于大型语言模型中的对比解码
提出三种注意力引导策略,利用自注意力结构信息选择层,优于仅依赖词汇分布的DoLa,提升事实性。
一种新型对抗样本:测量人类与模型差距及其与OOD检测的关系
研究大扰动对抗样本,人类识别率降至49%但模型保持100%,OOD检测存在盲点,防御无效。
scMIR: 一种用于单细胞光学显微镜图像表示的视觉-语言基础模型
提出scMIR模型,融合自监督图像重建与文本引导对齐,统一编码形态与语义,在多种任务中优于现有方法。
IndicTalk:面向印度语言的大规模基于人格的多语言对话语料库
提出最大规模印度语代码混合对话语料库IndicTalk,涵盖9种语言18种变体,自动生成并验证,将开源支持低资源语言AI。
FMOPF:面向交流最优潮流的隐式流匹配与约束感知交互先验
FMOPF框架解耦压缩与生成,实现高效热启动和低尾风险,首个扩展到几百母线系统并保持完全可行性的生成方法。
面向免训练多跳问答的图与文本记忆协同进化
Co-E系统通过同步双向图-文本记忆实现免训练多跳问答,在六个基准上表现优越。
基于注意力机制的双向长短期记忆网络与域对抗训练的多模态域泛化抑郁检测
首次引入域泛化的多模态抑郁检测框架,结合声学文本与域对抗训练,准确率93.2% F1 94.2%超越现有基准。
超越全球规范:无需重训练即可个性化语言模型的有害性敏感度
首次比较无需训练的方法个性化有害性敏感度,误差降28-47%,但需权衡对齐、个性化和语言质量。
Softmax丢掉了什么:面向证据累积的质量感知注意力
MAA将标准注意力L1归一化推广为Lp族,打破重复不变性,保留证据累积量,无参提升图模型表示信息性与任务性能。
DataFlow-Harness:一个基于实体的代码智能体平台,用于构建可编辑的LLM数据管道
提出DataFlow-Harness平台,以DAG增量修改构建管道,通过率93.3%,成本降72.5%,延迟降49.9%。
PCA:面向快速视频大语言模型的持久感知压缩与聚合
提出PCA方法,通过动态下采样和运动增强,无训练压缩视频冗余,加速VLLM推理1.8-2.5倍。
基于BERT的模型与大型语言模型在低资源命名实体识别中的对比:以马拉地语为例
微调后的MahaBERT在马拉地语NER上F1达0.88-0.91,远超通用LLM(0.57-0.69),表明特定领域模型更有效。
LithoFormer: 一种基于Transformer的稳健地层推断框架
提出LithoFormer框架,用Transformer处理多变量测井数据,边界误差减少90%,消除地层顺序违规。
结构保持主导基于深度学习的激光散斑材料分类中的数据增强
散斑分类中,数据增强效果由结构保持而非扰动幅度决定,需物理感知设计。
OrchNAS:面向个性化联邦边缘智能的协调神经架构搜索服务
提出能量感知框架,服务器端NAS自动设计异构边缘下的个性化模型,通过贪心剪枝与原始-对偶优化满足资源约束。
从下降方向学习:单侧Hölder正则性下的自适应梯度下降
基于单侧Hölder曲率估计的自适应梯度下降,非凸情形证明收敛,实验取得更低目标值和梯度范数。
IKS-Instruct:一个24,000样本多语言数据集,用于教授语言模型印度知识体系
包含24,795指令对,覆盖7语种41种教学法,微调7B模型得分6.39,逼近参考模型6.54,成本更低。
贪心最长匹配分词中的联合优化
JOLT用整数规划联合优化词汇和贪心最长匹配分词,训练与部署一致,达到近最优压缩,比BPE减少0.78%词元。
Cortex:使用冻结视觉特征的紧凑型Quake行为克隆
Cortex使用冻结视觉特征的紧凑行为克隆,在Quake中未完成关卡但能到达关键区域并击杀,视觉token密度提升战斗与生存能力。
地理分布式无服务器云中考虑SLA约束的碳感知路由
提出SLA约束碳感知路由策略,实测碳减排高达46.8%,平均27.4%,无SLA违反,扩展至12区域可达47.5%。
可信赖的医学分割:临床图像退化下的不确定性感知U-Net评估
在八种临床退化下评估不确定性感知U-Net,发现不确定性跟踪分割错误,可标记失败(AUROC 0.843),作为放射学安全层。
LA-RL:面向信息抽取的标签感知自反思强化学习
提出LA-RL框架,利用诊断标签引导自修正,在命名实体识别、关系抽取、事件抽取等任务上取得一致显著提升。
CrossSpine:基于解剖先验的多尺度交叉序列注意力自动化Pfirrmann分级
提出CrossSpine框架,交叉序列注意力融合多尺度MRI特征,结合解剖先验,使Pfirrmann分级Macro F1提升超125%。
当激活预言机学会不读:微调预言机中的概念特异性盲点
微调后的激活预言机会形成概念特异性盲点,选择性读取失败,根源在其读出路径而非表征缺失,引发可解释性工具的可靠性担忧。
打开模型的"眼睛":视频与上下文感知的多模态后通道预测
提出多模态对齐框架CAMA-BC,利用视频和上下文提升后通道预测,尤其善于识别共情等复杂信号。
通过Logit Bias实现语言模型的极其简单的黑盒适配
无需调参或梯度,通过学习固定的logit偏差向量即可黑盒适配语言模型,提升推理性能。
面向室内环境的免标定三维多相机人物追踪
提出免标定三维多相机追踪框架,利用深度模型推断几何结构,无需标定矩阵,HOTA达53.13%。
推理还是记忆:LLM能理解和生成中文歇后语谜语吗?
用新歇后语测试发现,LLM理解依赖记忆而非推理,创作能力远逊于人类专家。
MEMENTO:记忆引导的模因代码即策略进化
MEMENTO提出记忆引导的单精英模因进化框架,优化代码即策略,在长程具身任务中超越基线,并成功实现仿真到真实迁移。
从混合机理-数据驱动建模到神经符号AI:是什么、为什么和怎么做
H2N框架桥接混合建模与神经符号AI,导出SVR和BD两指标量化机理部分认知不确定性,案例验证有效。
中文标题:用于EEG运动想象分类的生成增强:一种带循环一致性解码器精炼的类条件VAE
中文摘要:提出类条件VAE生成运动想象EEG增强数据,但分类增益小且依赖分类器。
Mwando:利用人工智能保护和教授科摩罗语
本文介绍虚拟助手Mwando,通过多智能体架构支持科摩罗语教学与保护,涵盖四种方言,是低资源语言AI工具的初步探索。
大语言模型辩论在不同语言中重复论点的方式是否不同?
中文辩论重复论点显著高于英文,且多样性提示无法缩小这一持续差距。
小模型会用你给的法律吗?孟加拉国法律问答中的上下文注入微调
微调提升0.8B和2B模型使用法条能力,但4B模型无净益;微调显著减少语言漂移,检索质量非唯一瓶颈。
用于30米晴空地表温度无间隙重建的快速傅里叶卷积生成对抗网络
提出快速傅里叶卷积GAN,结合SAR数据重建30米Landsat云污染像元,生成无间隙晴空LST,RMSE稳定在0.8-1.8K。
相同预测,不同原因:量化对模型解释的影响
量化保留精度但改变模型推理,架构选择决定可解释性稳定性,DenseNet161最优。
评估领域差异:视频胶囊内窥镜中域偏移下的模型选择不稳定性
胶囊内镜模型选择在域偏移下不稳定,单一数据集排名无法预测其他目标,应关注跨目标排序稳定性而非峰值性能。
思维链不忠实的两种机制:行为检测在模型错误时失效
思维链不忠实检测依赖答案正确性:错误答案时行为检测无效,正确答案时弱有效,线性探针揭示无一致方向。
基于图注意力网络的土壤微塑料和有机质空间预测
图注意力网络预测土壤微塑料与有机质,RMSE分别为625.06和0.43,表现优异但泛化受限,需增加样本密度。