推测解码实现Whisper推理速度翻倍

通过推测解码技术，在不损失质量的情况下将Whisper模型推理速度提升2倍。

2023：开源大语言模型之年

欢迎Mixtral——Hugging Face上最先进的混合专家模型

Hugging Face推出Mixtral，采用混合专家架构，达到最先进性能。

混合专家模型详解

MoE通过动态选择专家子集，平衡模型容量与计算效率，是高效大模型的关键架构。

SetFitABSA：基于SetFit的小样本方面级情感分析

无摘要

告别冷启动：我们如何将LoRA推理速度提升300%

通过解决冷启动问题，LoRA推理速度提升三倍。

Optimum-NVIDIA：仅需一行代码即可实现极速LLM推理

一行代码解锁极速LLM推理

AMD + 🤗：大语言模型在AMD GPU上的开箱即用加速

AMD与Hugging Face合作推出基于AMD GPU的大语言模型加速方案，实现便捷高效推理。

开放LLM排行榜：DROP深度解析

深入分析DROP基准测试，评估大语言模型推理能力。

使用潜在一致性LoRA实现4步SDXL

利用潜在一致性LoRA将SDXL采样压缩至4步，大幅提速。

比较LLM性能：深入探讨Roberta、Llama 2和Mistral在灾难推文分析中结合Lora的表现

比较三种大模型结合Lora在灾难推文分析中的性能差异。

介绍Prodigy-HF：与Hugging Face的直接集成

Prodigy-HF实现与Hugging Face的直连，简化模型训练与部署。

借助AWS Inferentia2，让您的Llama模型生成速度飞升

利用AWS Inferentia2加速Llama模型推理，大幅提升生成效率。

在HF Hub上引入存储区域

HF Hub新增存储区域功能，提升数据管理效率。

个人副驾驶：训练你自己的编码助手

训练专属编程助手，提升编码效率与个性化体验。

用一行代码交互式探索你的Huggingface数据集

一行代码即可交互式探索Huggingface数据集，提升数据分析效率。

探索SDXL的简单优化方法

未提供摘要内容，请补充。

部署嵌入模型与Hugging Face推理端点

利用Hugging Face推理端点快速部署嵌入模型，简化AI应用流程。

基于PPO的RLHF的N个实现细节

RLHF与PPO实现中的N个关键技术细节

Gradio-Lite: 完全在浏览器中运行的无服务器Gradio

在浏览器中无服务器运行Gradio，无需后端，轻量便捷。

使用ONNX Runtime加速超过13万个Hugging Face模型

ONNX Runtime优化了超13万Hugging Face模型，推理速度显著提升。

聊天模板：终结沉默性能杀手

聊天模板有效消除AI对话中隐藏的性能瓶颈问题，提升响应效率。

🧨 使用JAX在Cloud TPU v5e上加速Stable Diffusion XL推理

利用JAX和TPU v5e显著加速SDXL推理性能。

使用推理API部署AI漫画工厂

通过API快速部署，实现AI漫画生成。

使用DDPO通过TRL微调Stable Diffusion模型

无摘要内容

伦理与社会通讯第5期：Hugging Face前往华盛顿及其他2023年夏季思考

本期探讨Hugging Face在华盛顿的活动及2023年夏季AI伦理与社会议题。

非工程师指南：训练一个LLaMA 2聊天机器人

面向非技术人员，简化训练LLaMA 2聊天机器人的步骤。

Llama 2在Amazon SageMaker上的基准测试

评估Llama 2在SageMaker上的训练与推理性能，衡量扩展性与效率。

患者报告结局的推断

Rocket Money与Hugging Face：在生产环境中扩展易变机器学习模型

暂无具体摘要内容

3D高斯泼溅简介

介绍3D高斯泼溅技术，一种通过优化3D高斯参数实现高质量实时渲染的新方法。

对象检测排行榜

汇总最新目标检测模型在标准基准上的性能排名与对比。

在生产中优化你的LLM

从推理加速、资源管理到成本控制，提升LLM生产部署性能。

Würstchen：快速图像生成的扩散模型

无提供摘要内容

使用PyTorch FSDP微调Llama 2 70B

使用PyTorch FSDP高效微调70B参数的大语言模型Llama 2

🤗 Transformers库原生支持的量化方案概述

概述Transformers内置的量化方法。

SafeCoder vs. 闭源代码助手

安全性与效率对比：SafeCoder 开源透明，闭源码助手依赖黑盒模型，各有优劣。

使用T2I适配器实现SDXL的高效可控生成

通过T2I适配器，SDXL实现高效可控图像生成，提升质量与一致性。

展翅高飞：Falcon 180B来了

Falcon 180B大型语言模型正式发布，性能卓越。

使用 Amazon SageMaker 和 Hugging Face 将机器学习处理延迟降低 50%

集成 SageMaker 与 Hugging Face，将 ML 处理延迟削减 50%。

AudioLDM 2，但更快⚡️

AudioLDM 2加速版，显著提升音频生成速度。

弃用使用密码的Git认证

Git宣布弃用密码认证，建议改用令牌或SSH密钥以确保安全。

Code Llama: Llama 2学会编程

Llama 2经代码训练升级为Code Llama，专精编程任务。

利用AutoGPTQ和transformers让LLM更轻量

通过AutoGPTQ和transformers技术减轻大型语言模型负担

IDEFICS：开源复现的最先进视觉语言模型

开源复现最先进视觉语言模型IDEFICS

介绍 SafeCoder

SafeCoder 是一款注重安全的AI代码助手，帮助开发者编写更安全的代码。

AWS Marketplace 上的 Hugging Face Hub：使用 AWS 账户付费

Hugging Face Hub 现可在 AWS Marketplace 购买，支持 AWS 账户支付。

使用🤗 Transformers优化Bark

介绍利用🤗 Transformers库优化Bark模型，提升性能与效率。

使用BentoML部署Hugging Face的DeepFloyd IF模型

展示使用BentoML部署DeepFloyd IF模型的过程。

发布Swift Transformers：在苹果设备上运行本地大语言模型

在苹果设备上本地运行大语言模型