本页涵盖了 LangChain 与 Hugging Face Hub 以及 transformers、sentence transformers 和 datasets 等库的所有集成。

聊天模型

ChatHuggingFace

我们可以使用 Hugging Face LLM 类或直接使用 ChatHuggingFace 类。 查看 使用示例。

LLMs

HuggingFaceEndpoint

我们可以使用 HuggingFaceEndpoint 类,通过无服务器的 推理提供者 或专用的 推理端点 来运行开源模型。 查看 使用示例。

HuggingFacePipeline

我们可以使用 HuggingFacePipeline 类在本地运行开源模型。 查看 使用示例。

嵌入模型

HuggingFaceEmbeddings

我们可以使用 HuggingFaceEmbeddings 类在本地运行开源嵌入模型。 查看 使用示例。

HuggingFaceEndpointEmbeddings

我们可以使用 HuggingFaceEndpointEmbeddings 类,通过专用的 推理端点 来运行开源嵌入模型。 查看 使用示例。

文本嵌入推理 (TEI)

对于 Sentence Transformers 模型的自托管生产环境部署,Hugging Face 发布了 文本嵌入推理,这是一个具有批处理和 GPU 支持的专用推理服务器。TEI 暴露了一个兼容 OpenAI 的 API,因此可以通过 OpenAIEmbeddings 将 LangChain 指向 TEI 部署。请参阅专门的 TEI 集成指南。

BGE 嵌入模型

Hugging Face 上的 BGE 模型 是来自 北京人工智能研究院 的强大开源嵌入模型家族。
BGE 模型是 Sentence Transformers 模型,因此请使用 HuggingFaceEmbeddings 并设置 encode_kwargs={"normalize_embeddings": True}。查看 使用示例。