Hugging Face文本生成推理现可用于AWS Inferentia2

Hugging Face推理服务支持AWS Inferentia2，加速文本生成。

Hugging Face中的补丁时间序列变换器

发布企业场景排行榜：真实世界用例的评估平台

针对企业真实应用场景的排行榜，评估AI模型实用性。

在至强上使用🤗 Optimum Intel 加速 StarCoder：Q8/Q4 与推测解码

利用Optimum Intel在Xeon上对StarCoder进行Q8/Q4量化与推测解码加速。

中文标题：幻觉排行榜：大型语言模型幻觉测量的开放努力

一项开放评测大型语言模型幻觉的排行榜，旨在推动模型可靠性评估。

AI安全大语言模型安全排行榜简介

介绍AI安全领域的LLM安全排行榜，涵盖评估标准与重要性。

Hugging Face与谷歌合作，推动开放AI协作

Hugging Face和谷歌合作，共同推进开放人工智能领域的协作。

开源大语言模型作为LangChain智能体

探索利用开源LLM构建LangChain智能体，实现自主决策与工具调用。

HuggingFace中的PatchTSMixer

PatchTSMixer是一种高效的时间序列预测模型，现已集成至HuggingFace，便于使用和部署。

使用🤗 Transformers微调W2V2-Bert实现低资源语音识别

利用Transformers库微调W2V2-Bert模型，提升低资源ASR性能。

使用直接偏好优化方法对大语言模型进行偏好微调

直接偏好优化微调LLM，无需强化学习，高效对齐模型偏好。

加速SD Turbo和SDXL Turbo推理：使用ONNX Runtime和Olive

无摘要内容

使用Gradio在Hugging Face Spaces上免费运行ComfyUI工作流

在HF Spaces用Gradio免费运行ComfyUI工作流

搭建你自己的 Hugging Face 排行榜指南：以 Vectara 的幻觉排行榜为例的端到端示例

未提供摘要

使用Unsloth和🤗 TRL使LLM微调速度提升2倍

利用Unsloth和TRL框架，LLM微调速度翻倍。

欢迎aMUSEd：高效的文本到图像生成

高效文本到图像生成模型，旨在快速、高质量地生成图像。

全世界的LoRA训练脚本，联合起来！

呼吁全球LoRA训练脚本统一联合，以提升效率与协作。

推测解码实现Whisper推理速度翻倍

通过推测解码技术，在不损失质量的情况下将Whisper模型推理速度提升2倍。

2023：开源大语言模型之年

欢迎Mixtral——Hugging Face上最先进的混合专家模型

Hugging Face推出Mixtral，采用混合专家架构，达到最先进性能。

混合专家模型详解

MoE通过动态选择专家子集，平衡模型容量与计算效率，是高效大模型的关键架构。

SetFitABSA：基于SetFit的小样本方面级情感分析

无摘要

告别冷启动：我们如何将LoRA推理速度提升300%

通过解决冷启动问题，LoRA推理速度提升三倍。

Optimum-NVIDIA：仅需一行代码即可实现极速LLM推理

一行代码解锁极速LLM推理

AMD + 🤗：大语言模型在AMD GPU上的开箱即用加速

AMD与Hugging Face合作推出基于AMD GPU的大语言模型加速方案，实现便捷高效推理。

开放LLM排行榜：DROP深度解析

深入分析DROP基准测试，评估大语言模型推理能力。

使用潜在一致性LoRA实现4步SDXL

利用潜在一致性LoRA将SDXL采样压缩至4步，大幅提速。

比较LLM性能：深入探讨Roberta、Llama 2和Mistral在灾难推文分析中结合Lora的表现

比较三种大模型结合Lora在灾难推文分析中的性能差异。

介绍Prodigy-HF：与Hugging Face的直接集成

Prodigy-HF实现与Hugging Face的直连，简化模型训练与部署。

借助AWS Inferentia2，让您的Llama模型生成速度飞升

利用AWS Inferentia2加速Llama模型推理，大幅提升生成效率。

在HF Hub上引入存储区域

HF Hub新增存储区域功能，提升数据管理效率。

个人副驾驶：训练你自己的编码助手

训练专属编程助手，提升编码效率与个性化体验。

用一行代码交互式探索你的Huggingface数据集

一行代码即可交互式探索Huggingface数据集，提升数据分析效率。

探索SDXL的简单优化方法

未提供摘要内容，请补充。

部署嵌入模型与Hugging Face推理端点

利用Hugging Face推理端点快速部署嵌入模型，简化AI应用流程。

基于PPO的RLHF的N个实现细节

RLHF与PPO实现中的N个关键技术细节

Gradio-Lite: 完全在浏览器中运行的无服务器Gradio

在浏览器中无服务器运行Gradio，无需后端，轻量便捷。

使用ONNX Runtime加速超过13万个Hugging Face模型

ONNX Runtime优化了超13万Hugging Face模型，推理速度显著提升。

聊天模板：终结沉默性能杀手

聊天模板有效消除AI对话中隐藏的性能瓶颈问题，提升响应效率。

🧨 使用JAX在Cloud TPU v5e上加速Stable Diffusion XL推理

利用JAX和TPU v5e显著加速SDXL推理性能。

使用推理API部署AI漫画工厂

通过API快速部署，实现AI漫画生成。

使用DDPO通过TRL微调Stable Diffusion模型

无摘要内容

伦理与社会通讯第5期：Hugging Face前往华盛顿及其他2023年夏季思考

本期探讨Hugging Face在华盛顿的活动及2023年夏季AI伦理与社会议题。