Ollama API：成本與 無審查 模型指南

為什麼 Ollama 模型需要專屬 API

本機推理需要大量的硬體資源。在您的機器上運行大型語言模型會消耗 RAM 和 GPU 記憶體。您必須自行管理模型的下載和更新。專用 API 將此負擔轉嫁給託管伺服器。基礎設施負責擴展和可用性。您只需傳送請求並接收文字回應。

開發者通常偏好本地部署以保護隱私，數據不會離開您的硬體。然而，這種方式會限制併發能力。若無昂貴的升級，您無法同時為多個用戶提供服務。託管 API 則能解決此擴展問題，為應用程式提供穩定的端點。模型運行於針對推理優化的專用伺服器上。

我們的 API 提供無審查模型。它會回答而不受標準內容拒絕的限制。這非常適合創意寫作或角色扮演。端點與現有的 OpenAI SDK 相容。您只需更改基礎 URL 即可。模型 id 為 "uncensored"。此設定適用於文字生成任務。它不支援影像或音訊。

無審查推理的成本

託管式推理成本取決於 Token 使用量。我們的計價透明且採預付制。輸入 Token 每 1M 個收費 $0.15，輸出 Token 每 1M 個收費 $0.50。錯誤和拒絕請求不會消耗信用額度。這種模式獎勵高效的提示詞使用。

• 信用永不過期。
• 充值從 20 美元開始。
• 最大充值金額為 $500。

我們僅接受加密貨幣。支援 TRC20 上的 USDT 和 Base 上的 USDC。沒有月度訂閱。您可以透過較大存款獲得贈送餘額。存入 $50 可獲得 +5% 餘額。存入 $100 可獲得 +10% 餘額。存入 $200 可獲得 +15% 餘額。這種結構對重度使用者有益。它降低了每個 token 的有效成本。

每個新帳戶獲得 $0.50 的試用信用額度。有效期為 7 天。您可以在承諾之前測試 API。試用允許您驗證相容性。它確認模型符合您的需求。然後您可以購買更大額度的信用額度包。

技術限制：上下文視窗與吞吐量

上下文視窗定義了記憶體限制。我們的 API 支援總共 100,000 個 token。這包含提示與補全。您可以傳送大型文件進行分析。模型會保留較早的指令。這對於長篇幅任務至關重要。它在回應之間維持一致性。

每次請求的最大輸出為 16,000 個 token。若未設定限制，預設值為 2,048 個 token。支援透過伺服器發送事件 (SSE) 進行串流。您將在 token 生成時接收它們。這降低了感知延遲。最後一個區塊包含使用統計數據。您可以即時追蹤成本。

吞吐量受限於公平性。您可以每分鐘發送 300 次請求。每個金鑰最多同時執行 8 個請求。請求主體必須小於 8 MB。這些限制可防止資源耗盡。它們確保所有使用者的穩定效能。如果您需要更高的吞吐量，可以申請額外的金鑰。每個金鑰都有各自的限制。這允許在應用程式中進行平行處理。

NSFW 與角色扮演使用情境

無審查模型在創意場景中表現出色。它們不會拒絕成人主題。這對於角色扮演應用程式非常有價值。用戶希望獲得沉浸式、無限制的互動。模型生成文本時不會說教。它遵循提示詞的語氣和風格。這創造了更自然的對話。

內容篩選會破壞沉浸感。標準模型經常拒絕輕度髒話或性主題。我們的模型允許這些元素。它只封鎖涉及未成年人的內容。這是一個硬性限制。此類請求會被拒絕。其他一切皆有可能。您可以自由探索成熟主題。

開發聊天機器人可從中受益。用戶期望一致的行為表現。模型保持其人格特質。它不會在對話中途改變語氣。這種可靠性對於維持用戶參與度至關重要。API 支援 JSON 模式。您可以為應用程式結構化輸出內容。函式呼叫允許工具整合。模型可以根據對話執行動作。

編碼與數據提取工作流

程式產生需要精確度。模型理解程式語言。它能撰寫函式或除錯錯誤。它遵循提供的上下文。如果您提供程式碼片段，它可以擴展它。這對於快速原型設計很有用。您可以快速產生样板程式碼。

資料擷取是另一個強大的使用案例。解析 Word 文件可能會很混亂。奇怪的字符經常會導致解析器出錯。正則表達式有助於清理文字。模型能很好地處理此清理工作。它會擷取相關文字。它會忽略格式瑕疵。這能節省資料預處理的時間。

您可以使用 API 進行分類任務。輸入文件並接收標籤。模型會分析內容。它返回結構化資料。這可與 RAG 系統整合。您可以建構知識庫。100,000 token 的上下文允許上傳大型文件。您可以在一次請求中處理整個手冊。這減少了 API 呼叫次數。它降低了整體成本。

來自 Reddit 的開發者問題

開發者經常詢問關於本地設置的問題。在 Ryzen APU 上運行 Ollama 是可能的。性能因硬體而异。本地推理最適合隱私保護。您控制數據流。然而，它需要大量資源。託管 API 更適合擴展性。

另一個常見的問題涉及文件解析。使用者在提取乾淨的文字時遇到困難。API 能高效處理此問題。您發送原始文字。模型返回清理後的輸出。您不需要複雜的正則表達式管道。模型理解上下文。它會自動識別相關部分。

部分開發者使用 Ollama 處理多模態任務。我們的 API 僅限文字。它不處理影像。如果您需要視覺功能，必須使用其他供應商。然而，對於純文字任務，我們的 API 速度更快。它專注於速度和準確性。uncensored 模型能很好地處理細微的提示。它不會過度拒絕創意請求。

比較：本地 Ollama 與託管 API

本地 Ollama 提供完全的資料隱私。你的提示詞保留在你的機器上。這非常適合敏感資料。你避免了網路延遲。然而，你需要管理硬體。你負責模型更新。擴展較為困難。你需要更多 RAM 來支援更多使用者。

我們的託管 API 提供擴展性。您可以服務數千名用戶。基礎設施處理負載。您僅為使用的部分付費。無月費。這降低了固定成本。您可以從小規模開始並擴展。

兩者的隱私有所不同。本機推理讓資料保留在本機。託管推理則將資料傳送至伺服器。我們的 API 不會將提示詞用於訓練。您的資料會被處理，但不會為了模型改進而儲存。這是一個關鍵區別。您享有雲端的好處。您為特定查詢保留隱私。無審查模型兩者皆有。本機由您執行模型。託管由我們為您執行。

價值最終裁決

託管式 API 提供極高的性價比。定價具競爭力。輸入 token 每 1M 僅需 $0.15，價格低廉。輸出 token 每 1M 僅需 $0.50，價格合理。預付模式可避免帳單驚奇。您能掌控支出。贈送額度增加價值。大額存款可降低實際成本。這對重度用戶大有裨益。

該無審查模型是一個關鍵功能。它移除了限制。這對於創意工作至關重要。用戶獲得不受限制的回應。API 可靠。它支援串流和函式呼叫。這使其適合生產環境應用。100,000 token 的上下文是一大優勢。您可以高效地處理大型文件。

僅限加密的支付方式吸引注重隱私的開發者。不共享銀行詳情。交易速度快。試用信用額度允許輕鬆測試。您可以驗證 API 是否適用於您的用例。然後承諾更大的存款。這種低摩擦的入口是一個顯著的好處。它消除了長期合同的風險。

如何開始

建立帳戶很簡單。點擊網站上的「取得 API 金鑰」。您可以使用 Google 登入。或使用電子郵件和密碼。無需手機號碼。您的電子郵件是唯一的識別碼。這可保護您的身分隱私。API 金鑰會立即顯示。將其複製到剪貼簿。

在您的程式碼中使用金鑰。將 base URL 設定為 HTTPS://api.ollamaapidoc.com/v1。向 /v1/chat/completions 發送 POST 請求。模型 ID 為 "uncensored"。您可以使用 OpenAI SDK。它與任何兼容的客戶端配合。設置只需幾分鐘。您可以立即開始生成文本。

要增加信用額度，請前往充值頁面。選擇 USDT (TRC20) 或 USDC (Base)。輸入介於 $20 至 $500 之間的金額。將加密貨幣發送至提供的地址。信用額度將自動加入。您可以立即開始使用 API。試用信用額度從一開始即可使用。它在 7 天後過期。您可以使用它來測試 API。然後購買更大的套餐以進行持續使用。