ollamaapidoc.comİçgörüler
Ollama API: Maliyet & Uncensored Model Rehberi
Uncensored büyük dil modelleri yaratıcı ve teknik iş akışları için güçlüdür; ancak bunları yerel olarak çalıştırmak donanım ve bakım gerektirir. Bu kılavuz, bağlam pencereleri, veri çıkarma ve çıkarım maliyetleri gibi teknik gerçekleri açıklar ve yalnızca kripto kabul eden, OpenAI uyumlu bir barındırılmış alternatifi tanıtır.
Son güncelleme
Özet
- Yerel Ollama modelleri toplam gizlilik sunar ancak önemli miktarda RAM ve GPU kaynağı gerektirir.
- Barındırılan API'miz, giriş tokenları başına 1M başına $0.15 ve çıktı tokenları başına 1M başına $0.50 ile sansürsüz bir model sunar.
- Ödemeler özel olarak USDT (TRC20) veya USDC (Base) aracılığıyla işlenir, abonelik kilitlemelerini ortadan kaldırır.
- API, streaming, fonksiyon çağırma ve karmaşık veri görevleri için 100.000 belirteçlik bir bağlam penceresi desteği sunar.
Neden Ollama Modelleri Özel Bir API'ye İhtiyaç Duyar
Yerel çıkarım önemli donanım kaynakları gerektirir. Büyük bir dil modelini kendi makinenizde çalıştırmak RAM ve GPU belleği tüketir. Model indirmelerini ve güncellemelerini kendiniz yönetmeniz gerekir. Özel bir API, bu yükü barındırılan sunuculara devreder. Altyapı ölçeklendirmeyi ve erişilebilirliği yönetir. Sadece istek gönderirsiniz ve metn yanıtları alırsınız.
Geliştiriciler genellikle gizlilik için yerel dağıtımı tercih eder. Veriler asla donanımınızdan ayrılmaz. Ancak bu yaklaşım eşzamanlılığı sınırlar. Pahalı yükseltmeler olmadan aynı anda birden fazla kullanıcıya hizmet veremezsiniz. Barındırılan bir API bu ölçeklendirme sorununu çözer. Uygulamalar için kararlı bir uç nokta sağlar. Model, çıkarım için optimize edilmiş özel sunucularda çalışır.
API'miz bir sansürsüz model sunar. Standart içerik reddetmeleri olmadan yanıt verir. Bu, yaratıcı yazarlık veya rol yapma için idealdir. Uç nokta mevcut OpenAI SDK'ları ile uyumludur. Yalnızca temel URL'yi değiştirmeniz gerekir. Model kimliği "uncensored"dir. Bu kurulum metin oluşturma görevleri için çalışır. Görüntüleri veya sesi desteklemez.
Uncensored Çıkarımın Maliyeti
Barındırılan çıkarım maliyetleri token kullanımına bağlıdır. Fiyatlandırma şeffaf ve önceden ödenmiştir. 1M girdi token başına $0.15 ödersiniz. Çıktı token'ları 1M token başına $0.50'dir. Hatalar ve reddetmeler krediyi tüketmez. Bu model, verimli istemleri ödüllendirir.
- Kredi süresi dolmaz.
- Yüklemeler $20 ile başlar.
- Maksimum yükleme $500'dür.
Yalnızca kripto para kabul ediyoruz. TRC20 üzerinde USDT ve Base üzerinde USDC desteklenir. Aylık abonelikler yoktur. Daha büyük yüklemelerle bonus ekleyebilirsiniz. $50'lik yükleme +%5 bakiye verir. $100'lik yükleme +%10 bakiye verir. $200'lik yükleme +%15 bakiye verir. Bu yapı yoğun kullanıcılar için faydalıdır. Token başına etkin maliyeti düşürür.
Her yeni hesap, 7 gün boyunca $0.50 deneme kredisi alır. API'yi taahhüt etmeden önce test edebilirsiniz. Deneme, uyumluluğu doğrulamanıza olanak tanır. Modelin ihtiyaçlarınızı karşıladığını onaylar. Ardından daha büyük bir kredi paketi satın alabilirsiniz.
Teknik Sınırlamalar: Bağlam Penceresi ve İşleme Gücü
Bağlam penceresi bellek sınırını tanımlar. API'miz toplamda 100.000 token destekler. Bu hem prompt hem de tamamlamayı içerir. Analiz için büyük belgeler gönderebilirsiniz. Model önceki talimatları hatırlar. Bu uzun formatlı görevler için kritiktir. Yanıtlar arasında tutarlılığı korur.
İstek başına maksimum çıktı 16.000 token'dır. Bir limit ayarlanmazsa varsayılan değer 2.048 token'dır. Sunucu Tarafından Olaylar (SSE) üzerinden akış desteği sağlanır. Tokenlar oluşturuldukça alınır. Bu, algılanan gecikmeyi azaltır. Son parça kullanım istatistiklerini içerir. Maliyetleri gerçek zamanlı takip edebilirsiniz.
Verimlilik adil kullanım için sınırlandırılmıştır. Dakikada 300 istek gönderebilirsiniz. Anahtar başına eşzamanlı olarak 1 isteğe kadar çalışır. İstek gövdesi 8 MB'ın altında olmalıdır. Bu sınırlar kaynak tükenmesini önler. Tüm kullanıcılar için kararlı performans sağlar. Daha yüksek verimlilik gerekiyorsa ek anahtar talep edebilirsiniz. Her anahtarın kendi sınırları vardır. Bu, uygulamanızda paralel işleme sağlar.
NSFW ve Rol Yapma Kullanım Alanları
Uncensored modellerler yaratıcı senaryolarda öne çıkar. Yetişkin konuları reddetmezler. Bu, rol yapma uygulamaları için değerlidir. Kullanıcılar sürükleyici, kısıtlamasız etkileşimler ister. Model, ahlak yapmadan metin üretir. İstemin tonunu ve stilini takip eder. Bu daha doğal bir konuşma yaratır.
İçerik filtreleme sürükleyiciliği bozabilir. Standart modeller genellikle hafif küfürleri veya cinsel temaları reddeder. Modelimiz bu unsurlara izin verir. Yalnızca reşit olmayanlarla ilgili içerikleri engeller. Bu bir sert sınırdır. Bu tür istekler reddedilir. Geri kalanı serbesttir. Olgun temaları özgürce keşfedebilirsiniz.
Sohbetbotları geliştirenler bundan yararlanır. Kullanıcılar tutarlı karakter davranışı bekler. Model kişiliği korur. Konuşma sırasında tonu değiştirmez. Bu güvenilirlik etkileşim için kritiktir. API JSON modunu destekler. Çıktıyı uygulamanız için yapılandırabilirsiniz. Fonksiyon çağrısı araç entegrasyonuna olanak tanır. Model, diyalog bazında eylemler gerçekleştirebilir.
Kodlama ve Veri Çıkarma İş Akışları
Kod üretimi hassasiyet gerektirir. Model programlama dillerini anlar. Fonksiyonlar yazabilir veya hataları ayıklayabilir. Sağlanan bağlama uyar. Bir kod parçacığı sağlarsanız, onu genişletebilir. Bu, hızlı prototipleme için faydalıdır. Şablon kodları hızlıca oluşturabilirsiniz.
Veri çıkarma güçlü bir kullanım alanıdır. Word belgelerini ayrıştırmak karmaşık olabilir. Tuhaf karakterler genellikle ayrıştırıcıları bozar. Düzenli ifadeler metni temizlemeye yardımcı olur. Model bu temizlemeyi iyi yönetir. İlgili metni ayıklar. Biçimlendirme kalıntılarını yok sayar. Bu, veri ön işleme süresinden tasarruf sağlar.
Sınıflandırma görevleri için API'yi kullanabilirsiniz. Belgeleri girdi olarak verin ve etiketler alın. Model içeriği analiz eder. Yapılandırılmış veri döndürür. Bu, RAG sistemleriyle entegre olur. Bir bilgi tabanı oluşturabilirsiniz. 100.000-token bağlamı büyük belge yüklemelerine olanak tanır. Tüm kılavuzları tek bir istekle işleyebilirsiniz. Bu, API çağrılarının sayısını azaltır. Toplam maliyeti düşürür.
Reddit'ten Geliştirici Soruları
Geliştiriciler sıkça yerel kurulum hakkında soru sorar. Ryzen APU üzerinde Ollama çalıştırmak mümkündür. Performans donanıma göre değişir. Yerel çıkarım gizlilik için en iyisidir. Veri akışını siz kontrol edersiniz. Ancak, önemli kaynaklar gerektirir. Ölçeklenebilirlik için barındırılan bir API daha iyidir.
Yaygın bir soru belge ayrıştırma ile ilgilidir. Kullanıcılar temiz metin çıkarma konusunda zorlanır. API bunu verimli bir şekilde işler. Ham metni gönderirsiniz. Model temizlenmiş çıktıyı döndürür. Karmaşık regex hatlarına gerek yoktur. Model bağlamı anlar. İlgili bölümleri otomatik olarak tanımlar.
Bazı geliştiriciler çok modlu görevler için Ollama kullanır. API'miz yalnızca metin içindir. Görüntüleri işlemez. Vizyon (görüş) ihtiyacınız varsa, farklı bir sağlayıcı kullanmalısınız. Ancak saf metin görevleri için API'miz daha hızlıdır. Hız ve doğruluğa odaklanır. uncensored model, nüanslı promptları iyi yönetir. Yaratıcı istekleri aşırı reddetmez.
Karşılaştırma: Yerel Ollama vs. Barındırılan API
Yerel Ollama toplam veri gizliliği sağlar. Prompt'larınız makinenizde kalır. Bu hassas veriler için idealdir. Ağ gecikmesinden kaçınırsınız. Ancak donanımı siz yönetirsiniz. Model güncellemelerini siz yaparsınız. Ölçekleme zordur. Daha fazla kullanıcı için daha fazla RAM'e ihtiyacınız vardır.
Barındırılan API'miz ölçeklenebilirlik sunar. Binlerce kullanıcıya hizmet verebilirsiniz. Altyapı yükü yönetir. Kullandığınız şey için ödeme yaparsınız. Aylık ücret yoktur. Bu, sabit maliyetleri azaltır. Küçük başlayabilir ve büyüyebilirsiniz.
İkisi arasındaki gizlilik farklılık gösterir. Yerel çıkarım verileri yerel tutar. Barındırılan çıkarım verileri sunuculara gönderir. API'miz istemleri eğitim için kullanmaz. Verileriniz işlenir ancak model iyileştirmesi için saklanmaz. Bu önemli bir ayrımdır. Bulutun avantajlarını elde edersiniz. Belirli sorgularınız için gizliliği korursunuz. Uncensored model her iki seçenekte de mevcuttur. Yerelde modeli siz çalıştırırsınız. Barındırılan seçenekte biz sizin için çalıştırırız.
Değer Üzerine Son Yargı
Barındırılan API mükemmel bir değer sunar. Fiyatlandırma rekabetçidir. 1M giriş tokenı başına $0.15 düşüktür. 1M çıktı tokenı başına $0.50 makuldur. Ön ödemeli model sürpriz faturaları önler. Harcamalarınızı siz kontrol edersiniz. Bonus kredi değer katar. Büyük depozitolar etkili maliyeti düşürür. Bu güç kullanıcıları için faydalıdır.
Uncensored model, ana bir özelliktir. Kısıtlamaları kaldırır. Bu, yaratıcı iş için hayati önem taşır. Kullanıcılar sınırsız yanıtlar alır. API güvenilirdir. Akış ve fonksiyon çağırma destekler. Bu da onu üretim uygulamaları için uygun kılar. 100,000 token'lık bağlam büyük bir avantajdır. Büyük belgeleri verimli bir şekilde işleyebilirsiniz.
Yalnızca kripto ödeme yöntemi, gizlilik odaklı geliştiriciler için çekicidir. Banka detayları paylaşılmaz. İşlemler hızlıdır. Deneme kredisi kolay test etmenizi sağlar. API'nin kullanım durumunuz için çalışıp çalışmadığını doğrulayabilirsiniz. Ardından daha büyük bir yatırıma geçersiniz. Bu düşük sürtünmeli giriş önemli bir avantajdır. Uzun vadeli sözleşme riskini ortadan kaldırır.
Nasıl Başlanır
Hesap oluşturmak basittir. Sitedeki "API anahtarı al" butonuna tıklayın. Google ile giriş yapabilirsiniz. Veya bir e-posta ve parola kullanın. Telefon numarası gerekmez. E-postanız tek tanımlayıcınızdır. Bu, kimliğinizi gizli tutar. API anahtarı hemen gösterilir. Panonuza kopyalayın.
Anahtarı kodunuzda kullanın. Base URL'yi HTTPS://api.ollamaapidoc.com/v1 olarak ayarlayın. /v1/chat/completions uç noktasına bir POST isteği gönderin. Model ID'si "uncensored"dir. OpenAI SDK'sını kullanabilirsiniz. Herhangi bir uyumlu istemci ile çalışır. Kurulum dakikalar sürer. Hemen metin üretmeye başlayabilirsiniz.
Kredi eklemek için üst yükleme sayfasını ziyaret edin. USDT (TRC20) veya USDC (Base) seçin. $20 ile $500 arasında bir miktar girin. Kripto para, sağlanan adrese gönderin. Kredi otomatik olarak eklenir. API'yi hemen kullanmaya başlayabilirsiniz. Deneme kredisi başlangıçtan itibaren mevcuttur. 7 gün içinde sona erer. API'yi test etmek için kullanın. Ardından devam eden kullanım için daha büyük bir paket satın alın.
Sık sorulan sorular
'ollama API dokümantasyonu' nedir ve yerel çıkarımdan nasıl farklıdır?
"ollama API dokümantasyonu", barındırılan OpenAI-uyumlu uç noktamızın dokümantasyonunu ifade eder. Modeli donanımınızda çalıştırdığınız yerel çıkarımın aksine, API'miz kısıtlanmamış modeli sunucularımızdan sunar. Bu, yüksek uçlu GPU'lara ihtiyacınız olmasını ortadan kaldırır ve altyapıyı yönetmeden uygulamanızı ölçeklendirmenize olanak tanır. Standart API çağrıları kullanarak onunla etkileşim kurarsınız.
Uncensored model ücretsiz mi ve ne kadar ücretlendiriliyor?
Model ücretsiz değildir ancak aylık ücreti olmayan ön ödemeli kredi sistemi sunar. Giriş token'ları 1M token başına $0.15, çıkış token'ları ise 1M token başına $0.50'dir. Sadece kullandığınız şey için ödeme yaparsınız. Hatalar ve reddiyatlar krediyi tüketmez. Her yeni hesap, 7 gün boyunca $0.50 deneme kredisi alır.
API için nasıl ödeme yaparım ve bonus var mı?
Ödemeler yalnızca kripto para birimi yoluyla kabul edilir. USDT (TRC20) veya USDC (Base) kullanarak yükleme yapabilirsiniz. Minimum yükleme $20'dir ve maksimum $500'dür. Daha büyük para yatırmaları için bonus kredi alırsınız: $50 için +%5, $100 için +%10 ve $200 için +%15.
API streaming ve fonksiyon çağırma destekliyor mu?
Evet, API, Sunucu Tarafından Gönderilen Olaylar (SSE) üzerinden akış desteği sağlar. Belirteçler oluşturulduklarında alırsınız, bu da gecikmeyi azaltır. Ayrıca işlev çağırma (araçlar) ve JSON modunu da destekler. İsteklerinizde araçlar tanımlayabilir ve model yapılandırılmış veri döndürür. Bu, karmaşık iş akışları ve sohbet botları için uygundur.
Anahtarınızı saniyeler içinde alın
Kaydolun, anahtarı kopyalayın, temel URL'nizi güncelleyin. Gerekli yapılandırma bu kadar.