Ollama API：成本与 无限制 模型指南

为什么 Ollama 模型需要一个专用的 API

本地推理需要大量的硬件资源。在您的机器上运行大型语言模型会消耗 RAM 和 GPU 显存。您必须自行管理模型下载和更新。专用 API 将这些负担转移到托管服务器上。基础设施负责扩展和可用性。您只需发送请求并接收文本响应。

开发者通常更喜欢本地部署以保护隐私。数据不会离开您的硬件。然而，这种方法限制了并发性。如果不进行昂贵的升级，您无法同时为多个用户提供服务。托管 API 解决了这个扩展问题。它为应用程序提供稳定的端点。模型在针对推理优化的专用服务器上运行。

我们的 API 提供无审查模型。它无需标准的内容拒绝即可回答。这非常适合创意写作或角色扮演。端点与现有 OpenAI SDK 兼容。您只需更改基础 URL。模型 ID 为 "uncensored"。此设置适用于文本生成任务。不支持图像或音频。

无审查推理的成本

托管推理成本取决于 Token 使用量。我们的定价透明且预付。您每 1M 输入 Token 支付 $0.15。输出 Token 每 1M 个收费 $0.50。错误和拒绝不消耗余额。这种模式奖励高效的提示词。

• 余额永不过期。
• 充值从 20 美元开始。
• 最大充值额为 $500。

我们仅接受加密货币。支持 TRC20 网络的 USDT 和 Base 网络的 USDC。没有月度订阅。大额充值可添加赠金。充值 $50 赠送 +5% 余额。充值 $100 赠送 +10% 余额。充值 $200 赠送 +15% 余额。这种结构有利于重度用户。它降低了每令牌的等效成本。

每个新账户获得 $0.50 的试用余额。有效期为 7 天。您可以在承诺之前测试 API。试用允许您验证兼容性。它确认模型满足您的需求。然后您可以购买更大金额的积分包。

技术限制：上下文窗口与吞吐量

上下文窗口定义了内存限制。我们的 API 总共支持 100,000 个 token。这包括提示和补全。您可以发送大型文档进行分析。模型保留早期的指令。这对于长表单任务至关重要。它在响应之间保持一致性。

每次请求的最大输出为 16,000 个 token。如果您未设置限制，默认值为 2,048 个 token。支持通过服务器发送事件 (SSE) 进行流式传输。您会在生成时收到 token。这降低了感知延迟。最后一个分块包含使用统计信息。您可以实时跟踪成本。

吞吐量限制是为了公平。您可以每分钟发送300次请求。每个密钥最多同时运行8个请求。请求体必须小于8 MB。这些限制可防止资源耗尽。它们确保所有用户的稳定性能。如果您需要更高的吞吐量，可以请求额外的密钥。每个密钥都有各自的限制。这允许在您的应用程序中进行并行处理。

NSFW 与角色扮演用例

无审查模型在创意场景中表现出色。它们不会拒绝成人话题。这对角色扮演应用很有价值。用户希望获得沉浸式、无限制的互动。模型生成文本时不带说教意味。它遵循提示的语气和风格。这创造了更自然的对话。

内容过滤会破坏沉浸感。标准模型通常会拒绝轻微的脏话或性主题。我们的模型允许这些元素。它只阻止涉及未成年人的内容。这是一个硬性限制。此类请求将被拒绝。其他一切都可以自由探索。

构建聊天机器人的开发人员将从中受益。用户期望一致的角色行为。该模型保持角色设定。它不会在对话中途改变语气。这种可靠性对于用户参与度至关重要。API 支持 JSON 模式。您可以为应用程序结构化输出。函数调用允许工具集成。该模型可以根据对话执行操作。

编码与数据提取工作流

代码生成需要精确。模型理解编程语言。它可以编写函数或调试错误。它遵循提供的上下文。如果您提供代码片段，它可以扩展它。这对于快速原型设计非常有用。您可以快速生成样板代码。

数据提取是另一个强大的用例。解析 Word 文档可能会很混乱。奇怪的字符经常会导致解析器出错。正则表达式有助于清理文本。模型能很好地处理这种清理工作。它提取相关文本。它忽略格式伪影。这节省了数据预处理的时间。

你可以使用 API 进行分类任务。输入文档并接收标签。模型分析内容。它返回结构化数据。这与 RAG 系统集成。你可以构建知识库。100,000 Token 的上下文允许上传大型文档。你可以在一次请求中处理整个手册。这减少了 API 调用次数。它降低了总体成本。

来自 Reddit 的开发者问题

开发者经常询问本地设置。在 Ryzen APU 上运行 Ollama 是可行的。性能因硬件而异。本地推理最适合隐私。您控制数据流。但是，它需要大量资源。托管 API 更适合扩展性。

另一个常见问题涉及文档解析。用户在提取干净文本方面遇到困难。API 能高效处理此问题。你发送原始文本。模型返回清理后的输出。你不需要复杂的正则表达式管道。模型理解上下文。它自动识别相关部分。

部分开发者使用 Ollama 处理多模态任务。我们的 API 仅支持文本。它不处理图像。如果您需要视觉功能，必须使用其他提供商。然而，对于纯文本任务，我们的 API 速度更快。它专注于速度和准确性。uncensored 模型能很好地处理细微的提示。它不会过度拒绝创意请求。

对比：本地 Ollama 与托管 API

本地 Ollama 提供完全的数据隐私。你的提示词保留在你的机器上。这非常适合敏感数据。你避免网络延迟。然而，你需要管理硬件。你处理模型更新。扩展很困难。你需要更多的 RAM 来支持更多用户。

我们的托管 API 提供可扩展性。您可以服务数千名用户。基础设施处理负载。您只为使用量付费。无月费。这降低了固定成本。您可以从小规模开始并扩展。

两者之间存在隐私差异。本地推理使数据保留在本地。托管推理将数据发送到服务器。我们的 API 不会将提示词用于训练。您的数据会被处理，但不会存储用于模型改进。这是一个关键区别。您获得了云端的便利。您保留了特定查询的隐私。无审查模型在两种模式下均可用。本地模式下您运行模型。托管模式下我们为您运行。

关于价值的最终结论

托管 API 提供极高的价值。定价具有竞争力。每 1M 输入令牌 $0.15 很低。每 1M 输出令牌 $0.50 很合理。预付费模式可防止意外账单。你控制支出。奖金额度增加价值。大额存款降低有效成本。这对重度用户有利。

无审查模型是一个关键特性。它移除了限制。这对创意工作至关重要。用户获得不受限制的响应。API 可靠。它支持流式传输和函数调用。这使其适合生产应用。100,000 token 的上下文是一个主要优势。您可以高效处理大型文档。

仅加密货币的支付方式吸引了注重隐私的开发者。不共享银行详细信息。交易速度快。试用信用额度便于轻松测试。你可以验证 API 是否适用于你的用例。然后你承诺进行更大的存款。这种低摩擦的入口是一个显著的好处。它消除了长期合同的风险。

如何开始

创建账户非常简单。点击网站上的“获取 API 密钥”。您可以使用 Google 登录。或者使用邮箱和密码。无需电话号码。您的邮箱是唯一的标识符。这保护了您的身份隐私。API 密钥将立即显示。将其复制到剪贴板。

在您的代码中使用密钥。将 base URL 设置为 HTTPS://api.ollamaapidoc.com/v1。向 /v1/chat/completions 发送 POST 请求。模型 id 为 "uncensored"。您可以使用 OpenAI SDK。它适用于任何兼容的客户端。设置只需几分钟。您可以立即开始生成文本。

要添加额度，请访问充值页面。选择 USDT (TRC20) 或 USDC (Base)。输入 20 美元至 500 美元之间的金额。将加密货币发送至提供的地址。额度将自动添加。您可以立即开始使用 API。试用额度从一开始就可用。它在 7 天后过期。用它来测试 API。然后购买更大的套餐以持续使用。