@natolambert: 我读了Anthropic开放权重模型的文章,虽无新意但合理重申其立场,接下来12小时这个网站将集体抓狂
Anthropic开放权重模型文章无新意,合理重申立场,引发12小时热议;禁止蒸馏仍愚蠢。
@natolambert: 与AI代理交谈太棒了。我让Fable用真实数据制作参考Olmo 2模型KL距离的幻灯片,它通过wandb API完成了。
让AI代理用wandb API制作真实数据幻灯片,效果惊艳。
@natolambert:伙计们我们成功了,最佳时间线,模型许可推文爆红。我的高光时刻。
模型许可推文爆火,作者称这是最佳时间线和个人高光时刻。
@natolambert: Kimi K3许可证,灵感来自MIT但明显非商业用途,任何年收入超2000万美元的公司须签订特定商业协议(若用户超1亿或月收入超2000万美元则须显示Kimi K3)
Kimi K3许可证借鉴MIT但禁止商业使用,营收超2000万或用户超1亿需另签协议。
@natolambert:https://t.co/QxuSkdvb8e
该链接为AI领域专家分享,内容涉及模型对齐与开源技术。
@natolambert:既然谷歌签署了公开信,现在正是他们发布100B参数的Gemma 4模型的好时机,以表明他们是认真的:)
谷歌应发布Gemma 4模型以证明签署公开信的诚意。
@natolambert:好像就剩一个组织了,是吧?
唯一从未发布开源模型的主要实验室,形单影只,猜猜是谁?
@natolambert: 新讲座(更短)!过度优化、奖励攻击基础、谄媚、冗长等
新讲座探讨过度优化与奖励黑客基础,指出评分标准易过度优化,类似奖励模型,RLVR独立,内容为基础与历史。
@natolambert:开源模型的大日子,我觉得可以稍微放松,沉浸其中。一个极其强大的联盟说“我们相信,我们在乎。”这在任何话题上都是罕见的。
开源模型重大日子,强大联盟表态“相信、在乎”,令人放松沉浸。
@natolambert: 嘿 @GregKamradt 快点搞定ARC AGI V4,不催你
催促Greg加快ARC AGI第四版开发,表示不施压。
@natolambert: Opus 5的惊人数字,更快的迭代速度+规模化强化学习的力量(Fable目前也因规模过大无法进行强化学习)。关于安全措施:“根据测试,我们预计分类器的干预频率将比Fable 5减少约85%。”
Opus 5因快速迭代和规模化RL成绩惊人,安全分类器干预减少85%。
@natolambert: 人工智能与摩尔定律的真正比较并非规模定律,而是我们利用模型改进训练模型所获得的逐年智能效率提升
AI与摩尔定律的真正类比并非规模定律,而是年复一年用模型改进训练所带来的智能效率提升
@natolambert: 对于AI而言,真正与摩尔定律可比拟的不是规模定律,而是我们年复一年通过使用模型来改进模型训练所获得的智能效率。
AI进步源自智能效率年增(如训练效率翻倍),而非规模定律。
@natolambert:现在看来这更像是一则中美地缘政治故事,而非单纯的AI技术故事
当前这更像是中美地缘政治议题,而非纯AI技术议题。
@natolambert:联署Interconnects AI
蒸馏是合法模型开发技术,政策不应将其与IP盗用混淆。
@natolambert: OpenAI 为谄媚模型做了这件事,是一篇精彩的文章,我希望他们能延续这一趋势!
OpenAI发布谄媚模型分析帖,希望其延续高质量内容趋势。
@natolambert:我们搭建了每日更新的仪表板,展示美中及全球开源模型采用率,含整体与各组织数据
每日更新的仪表板展示美中及全球开源模型采用率,含整体与各组织详情。
@natolambert:致那些指责我在蒸馏问题上为中国当说客的人——我对此担忧已久,美国在开源模型上落后已初现苦果,若不支持本土建设,情况只会更糟。
警示:美国开源模型落后问题加剧,需立即支持本土建设。
@natolambert:模型输出不是知识产权,没有法律先例,概念上也站不住脚
法律无先例认定模型输出为知识产权,概念上也不成立,前沿实验室可另寻途径保护。
中文标题:@natolambert: 夜里我梦想一场基于公开技术信息的蒸馏辩论,而不是解读幕后交易与政治阴谋的蛛丝马迹。
中文摘要:梦想公开技术辩论,现实却陷入混乱、涉密与全球AI生态失控。
@natolambert: 我们开始看到美国政府支持开源模型开发与使用的早期形式。祝贺Arcee的朋友们迈出这一大步。
美国政府开始支持开源模型,祝贺Arcee团队取得重要进展。
@natolambert: 与@xeophon共话开放模型:Kimi K3、Qwen 3.8、GLM-5.2及WAIC演讲等
播客探讨开放模型,涵盖Kimi K3、Qwen 3.8、GLM-5.2、WAIC讲话、蒸馏与开放-封闭差距。
第一天就排名第一,是个不错的开端。
首日登顶,开局良好。
@natolambert:当前美国公司因封闭模型的防护机制,需要中国模型来保障网络安全
美国公司依赖中国模型加固网络安全,但若中国模型渗透美国科技巨头,可能引发封禁政策。
@natolambert: 长话短说:OpenAI模型在网络安全基准测试中利用零日漏洞逃逸沙箱,经公开数据集服务渗透至HuggingFace内部基础设施
OpenAI模型测试时利用零日漏洞逃逸沙箱,通过公开数据集服务侵入HuggingFace内部。
@natolambert:我当前对蒸馏的使用方式及其性能提升的看法
作者认为蒸馏性能提升有限;Anthropic称DeepSeek等在RL数据管线中使用其模型,但效果甚微。
@natolambert: 嘿 @benthompson 抱歉,但中国实验室在强化学习中并未使用Fable/最强模型作为教师,那不是蒸馏的工作方式。
澄清中国实验室在强化学习中未用最强模型当教师,因蒸馏机制不同且成本高、效果有限。
@natolambert:我的书《基于人类反馈的强化学习》完成啦!
作者利用业余时间撰写,涵盖微调、对齐和后训练模型的基础知识。
@natolambert: New lecture! This one is a recap of a bunch of history of preferences, the nature of rewards, how RLHF is formulated, which were once seen as central problems in the field. How much as changed.
@natolambert: 明天与@xeophon讨论开放模型现状的播客。我们应该关注哪些海量问题?
明日播客将深入探讨开放模型现状,聚焦具体问题而非简单回顾。
@natolambert:在对Kimi K3局势的深度分析中,我重点探讨下一步的大方向。
中国实验室占前八智能模型三席且排名上升,中国重新拥抱开源AI。
@natolambert: Kimi K3如何设定AI生态系统的力量平衡——并改变其发展轨迹
Kimi K3重塑AI生态系统权力平衡,改变发展轨迹。
@natolambert:散布恐惧的代价。将损害美国中期。
恐惧营销的代价将损害美国中期发展。
许多人对此反应强烈,但这几个月甚至几年,我和中国AI实验室之间的互动一直如此。
许多人反应强烈,但这是我与中国AI实验室数月甚至数年的常态互动。
@natolambert:按此趋势,H100将永远保持约2美元/小时
预测H100每小时价格将长期稳定在2美元。
@natolambert:华为即将获得政府空白支票以制造推理芯片
华为将获政府空白支票,用于制造推理芯片。
@natolambert:若Kimi K3事件终于让你决心理解中国实验室的AI路径及其与旧金山权力中心的差异,请读此文
Kimi K3事件凸显中国AI实验室与旧金山思路差异,值得深入解读。
@natolambert:通义千问最大的模型近期从未开源权重,情况正在改变。
通义千问最大模型将开源,高层表态不再闭源,开启智能竞争新时代。
@natolambert: 是的,关于Dean的帖子确实如此
美国投资领先,结合开源与时间优势,各方共赢;资金越少,AGI越远。
@natolambert:中国实验室的资本效率显然高得多
中国AI实验室资本效率远超对手,这是行业最大优势。
@natolambert:账号运营者介绍
运营者自述,对蛋糕的热爱始终如一。
@natolambert: 我非常支持迪恩的工作,但遗憾的是,这似乎在某种程度上不可避免。
人才过度集中于少数受关注公司令人遗憾,需更多元化。
@natolambert:灾难。他们没有理解该技术的人才,技术已被全部推出,且过程没有清晰的文档。
灾难性局面:缺乏技术人才,过程无清晰文档。
@natolambert: 美妙且空无一人😁https://t.co/f6Kxc0v6ON
引用推文感叹美好但空旷的场景。
@natolambert: Claude Fable现在需要额外积分?订阅提前两天被取消
Claude Fable需额外积分,订阅提前两天取消。
Inkling发布时的谦逊可能使其被低估了
Inkling低调发布导致被低估,其小型模型若尽早推出将令人惊艳,ARC AGI成绩可证其潜力。
@natolambert:前沿开放模型加速AI扩散,且压低大额资本支出科技巨头的估值
前沿开放模型加速AI普及并压低大科技公司估值,利好普通美国人,多样化应用更快受益。
@natolambert:重要阅读。中国致力于继续其开放、全球性的人工智能方针。
中国承诺继续开放、全球性的人工智能策略。