Skip to main content

ChatNovita

提供一个经济实惠、可靠且简单的推理平台，用于运行顶级 LLM 模型。

您可以在以下链接查看我们支持的所有模型：Novita AI 精选模型 或请求模型 API以获取所有可用模型。

立即试用 Novita AI DeepSeek R1 API 演示！

概述​

模型特性​

工具调用结构化输出JSON 模式图像输入音频输入视频输入逐令牌流式传输原生异步令牌使用情况对数概率
❌✅✅❌❌❌❌❌✅❌

环境配置​

访问 Novita AI 模型需要您创建一个 Novita 账户并获取 API 密钥。

凭证信息​

请前往 此页面 注册 Novita AI 并生成 API 密钥。完成此步骤后，请设置 NOVITA_API_KEY 环境变量：

export NOVITA_API_KEY="your-api-key"

安装​

LangChain Novita 集成位于 @langchain-community 包中：

:::提示 请参阅安装集成包的一般说明部分。 :::

yarn add @langchain/community @langchain/core

实例化​

现在我们可以实例化我们的模型对象并生成聊天补全。尝试 Novita AI DeepSeek R1 API 演示 今天！

import { ChatNovitaAI } from "@langchain/community/chat_models/novita";

const llm = new ChatNovitaAI({
  model: "deepseek/deepseek-r1",
  temperature: 0,
  // other params...
})

调用​

const aiMsg = await llm.invoke([
  {
    role: "system",
    content: "You are a helpful assistant that translates English to French. Translate the user sentence.",
  },
  {
    role: "human",
    content: "I love programming."
  },
]);
console.log(aiMsg.content)

链式调用​

我们可以像这样将模型与提示模板链式调用：

import { ChatPromptTemplate } from "@langchain/core/prompts"

const prompt = ChatPromptTemplate.fromMessages(
  [
    [
      "system",
      "You are a helpful assistant that translates {input_language} to {output_language}.",
    ],
    ["human", "{input}"],
  ]
)

const chain = prompt.pipe(llm);
await chain.invoke(
  {
    input_language: "English",
    output_language: "German",
    input: "I love programming.",
  }
)

API 参考​

如需详细了解 Novita AI LLM API 的文档，请访问 Novita AI LLM API 参考

Was this page helpful?


You can also leave detailed feedback on GitHub.