免费额度总览
NVIDIA Build 的定位是"开发与原型验证用的免费 serverless 推理",官方明确说明它不是为生产流量准备的。这一点决定了它的使用方式:适合验证想法、跑通链路、做小规模评测,不适合拿来做线上服务。
下列数据统计截至 2026 年 10 月 7 日,来源为 NVIDIA Build 的 NIM 模型目录页与公开额度追踪站。额度政策变动频繁,落地前请以官方控制台显示为准。
| 项 | 内容 |
|---|---|
| API Key | 开发者账号免费获取 |
| 银行卡 | 不需要 |
| 接口 | OpenAI Chat Completions 兼容 |
| Base URL | https://integrate.api.nvidia.com/v1 |
| 模型数量 | 60 个 |
| 最大上下文 | 1M(Nemotron 3 Ultra 550B) |
| 限额 | 官方未公开固定数值,随负载调整 |
| 用途限制 | 开发与原型,非生产流量 |
目录里的代表模型(按 Artificial Analysis 指数排列):
| 模型 | 系别 | 规模档 | 指数 |
|---|---|---|---|
| GLM 5.3 | z-ai/glm-5.3 | Frontier | 44.8 |
| Kimi K3 | moonshotai/kimi-k3 | Frontier | 43.6 |
| GLM 5.3 Flash | z-ai/glm-5.3-flash | Mid-size | 41.8 |
| DeepSeek V4.1 Flash | deepseek-ai/deepseek-v4.1-flash | Frontier | 39.5 |
| Nemotron 3 Ultra | nvidia/nemotron-3-ultra-550b-a55b | Frontier(1M 上下文) | 22.9 |
| Kimi K2.6 | moonshotai/kimi-k2.6 | Frontier | 27.0 |
| Gemma 4 31B | google/gemma-4-31b-it | Mid-size | 14.7 |
| gpt-oss-20b | openai/gpt-oss-20b | Mid-size | 10.0 |
横向对比同期其他免费层(口径来自公开额度追踪,2026 年 10 月上旬):
| 平台 | 免费形式 | 特点 | 主要限制 |
|---|---|---|---|
| NVIDIA Build | 持续免费 serverless | 模型目录最全,含前沿开源权重 | 非生产用途,限额不公开 |
| Groq | 持续免费,仅受速率限制 | 推理速度极快 | 2026 年下半年下调了每日请求上限 |
| Cerebras | 注册即得免费层 | 多款开源模型 | 额度较小 |
| OpenRouter | :free 后缀模型池 | 一个 Key 路由 500+ 模型 | 免费请求 50 次/日,一次性充值后可升到 1000 次/日 |
| Google AI Studio | 持续免费 | Gemini Flash / Flash-Lite | 2026 年收紧配额,按项目而非按 Key 计 |
各平台申请流程
NVIDIA Build 的领取流程只有三步,不需要信用卡:
第一步,打开 build.nvidia.com,用邮箱注册开发者账号并完成邮箱验证。
第二步,登录后进入任意模型页面,右侧有 "Get API Key" 按钮,点击后会生成一个以 nvapi- 开头的密钥。这个密钥对所有已开放 serverless 接入的模型通用,不需要逐个申请。
第三步,把密钥写进环境变量,不要硬编码进代码:
export NVIDIA_API_KEY="nvapi-xxxxxxxxxxxxxxxx"
Windows PowerShell:
$env:NVIDIA_API_KEY = "nvapi-xxxxxxxxxxxxxxxx"
接入与用量监控
因为接口兼容 OpenAI 协议,接入只需要改两行:
import osfrom openai import OpenAIclient = OpenAI(base_url="https://integrate.api.nvidia.com/v1",api_key=os.environ["NVIDIA_API_KEY"],)resp = client.chat.completions.create(model="z-ai/glm-5.3",messages=[{"role": "user", "content": "解释一下 attention 的复杂度瓶颈"}],max_tokens=512,)print(resp.choices[0].message.content)由于官方不公开剩余额度,实际做法是自己在客户端侧记用量。下面这段把每次调用的 token 数与耗时写进本地 SQLite,方便每周复盘:
import sqlite3, timefrom datetime import datetimedb = sqlite3.connect("nvidia_usage.db")db.execute("""CREATE TABLE IF NOT EXISTS calls( ts TEXT, model TEXT, prompt_tokens INT, completion_tokens INT, ms INT)""")def tracked_call(model, messages, **kw):t0 = time.time()r = client.chat.completions.create(model=model, messages=messages, **kw)db.execute("INSERT INTO calls VALUES (?,?,?,?,?)", (datetime.now().isoformat(), model,r.usage.prompt_tokens, r.usage.completion_tokens,int((time.time() - t0) * 1000)))db.commit()return r查询本周用量:
SELECT model, COUNT(*) AS n, SUM(prompt_tokens+completion_tokens) AS tokensFROM callsWHERE ts >= datetime('now','-7 day')GROUP BY model ORDER BY tokens DESC;成本优化建议
免费额度的正确用法是"把它当评测沙盒,而不是当主力"。三条实操建议:
第一,把评测集固定下来。同一个任务、同一批样本,分别在 GLM 5.3、Kimi K3、DeepSeek V4.1 Flash 上跑一遍,记录准确率与延迟,选出的模型再考虑上付费服务。这一步用免费额度做,成本为零。
第二,长上下文任务优先选支持 1M 上下文的模型。Nemotron 3 Ultra 是这里唯一能一次塞进整份长文档的选项,避免自己做分块带来的信息损失。
第三,把 429 当作正常信号而不是故障。免费 serverless 在高峰时段限流是常态,客户端要写指数退避,而不是直接失败:
import timedef call_with_backoff(fn, retries=4):for i in range(retries):try:return fn()except Exception as e:if "429" in str(e) and i < retries - 1:time.sleep(2 ** i)continueraise
风险与注意事项
别把它放进生产链路。 官方措辞很明确:这些额度面向开发与原型验证。用它承载真实用户流量,一旦限流或下线,业务会直接中断。
限额不透明。 官方没有公布固定的请求数或 token 上限,只说明"随负载调整"。这意味着你不能基于它做容量规划,只能把它当作可用时就用、不可用时降级的补充资源。
模型目录会变。 60 个模型这个数字是 2026 年 10 月 7 日的快照,模型上下架都很正常。生产代码里不要硬编码模型 ID,把模型名做成配置项。
数据合规。 走第三方 serverless 推理意味着请求内容会离开你的网络。涉及客户数据、内部代码、个人信息的输入,不要发到任何免费公共推理端点,除非你已确认其数据处理条款。
密钥管理。 nvapi- 开头的密钥一旦泄露,别人可以消耗你的额度并可能触发账号风控。用环境变量或密钥管理服务,不要提交到 Git。
总结
NVIDIA Build 在 2026 年 10 月的免费推理资源里属于"目录最全"的一档:60 个模型、覆盖 GLM 5.3 与 Kimi K3 这类前沿开源权重、支持 1M 上下文、兼容 OpenAI 协议、不需要银行卡。代价是不透明限额与非生产用途限制。
合理的使用姿势是:把它作为模型选型的评测场地和开发期的默认后端,把生产流量交给有 SLA 的付费服务。等评测结论稳定后,再决定哪些任务值得为它付费。
以上额度与模型信息统计截至 2026 年 10 月 7 日,政策可能随时调整,请以 NVIDIA Build 控制台的最新显示为准。