Skip to main content

CloudflareWorkersAI

这将帮助你使用 LangChain 开始使用 Cloudflare Workers AI 文本补全模型 (LLMs)。如需关于 CloudflareWorkersAI 功能和配置选项的详细文档，请参阅 API 参考文档。

概览​

集成详情​

类包本地支持可序列化Python 支持包下载量包最新版本
CloudflareWorkersAI@langchain/cloudflare❌✅❌NPM - 下载量NPM - 版本

准备工作​

要访问 Cloudflare Workers AI 模型，你需要创建一个 Cloudflare 账户，获取 API 密钥，并安装 @langchain/cloudflare 集成包。

凭证信息​

前往 此页面 注册 Cloudflare 并生成 API 密钥。完成操作后，请记录你的 CLOUDFLARE_ACCOUNT_ID 和 CLOUDFLARE_API_TOKEN。

安装​

LangChain Cloudflare 集成位于 @langchain/cloudflare 包中：

:::提示 请参阅安装集成包的一般说明部分。 :::

yarn add @langchain/cloudflare @langchain/core

实例化​

现在我们可以实例化我们的模型对象并生成聊天补全：

import { CloudflareWorkersAI } from "@langchain/cloudflare";

const llm = new CloudflareWorkersAI({
  model: "@cf/meta/llama-3.1-8b-instruct", // Default value
  cloudflareAccountId: CLOUDFLARE_ACCOUNT_ID,
  cloudflareApiToken: CLOUDFLARE_API_TOKEN,
  // Pass a custom base URL to use Cloudflare AI Gateway
  // baseUrl: `https://gateway.ai.cloudflare.com/v1/{YOUR_ACCOUNT_ID}/{GATEWAY_NAME}/workers-ai/`,
});

调用​

const inputText = "Cloudflare is an AI company that ";

const completion = await llm.invoke(inputText);
completion;
"Cloudflare is not an AI company, but rather a content delivery network (CDN) and security company. T"... 876 more characters

链式调用​

我们可以像这样将补全模型与提示模板进行链式调用：

import { PromptTemplate } from "@langchain/core/prompts";

const prompt = PromptTemplate.fromTemplate(
  "How to say {input} in {output_language}:\n"
);

const chain = prompt.pipe(llm);
await chain.invoke({
  output_language: "German",
  input: "I love programming.",
});
"That's a simple but sweet statement! \n" +
  "\n" +
  'To say "I love programming" in German, you can say: "ICH LIEB'... 366 more characters

API 参考​

如需了解所有 CloudflareWorkersAI 功能和配置的详细文档，请访问 API 参考页面：https://api.js.langchain.com/classes/langchain_cloudflare.CloudflareWorkersAI.html

Was this page helpful?


You can also leave detailed feedback on GitHub.