Ollama API: ค่าใช้จ่าย & Uncensored คู่มือโมเดล

ทำไมโมเดล Ollama จึงต้องการ API เฉพาะ

การอนุมานแบบท้องถิ่นต้องการทรัพยากรฮาร์ดแวร์จำนวนมาก การรันโมเดลภาษาขนาดใหญ่บนเครื่องของคุณจะกินแรมและหน่วยความจำ GPU คุณต้องดาวน์โหลดและอัปเดตโมเดลด้วยตนเอง API เฉพาะทางจะโอนภาระนี้ไปยังเซิร์ฟเวอร์โฮสต์ โครงสร้างพื้นฐานจัดการการปรับขนาดและความพร้อมใช้งาน คุณเพียงแค่ส่งคำขอและรับข้อความตอบกลับ

นักพัฒนาจำนวนมากชอบการติดตั้งแบบโลคัลเพื่อความเป็นส่วนตัว ข้อมูลจะไม่ออกจากฮาร์ดแวร์ของคุณ อย่างไรก็ตาม วิธีนี้จำกัดความสามารถในการรองรับผู้ใช้พร้อมกัน คุณไม่สามารถให้บริการผู้ใช้หลายคนได้พร้อมกันโดยไม่ต้องอัปเกรดราคาแพง API แบบโฮสต์ช่วยแก้ปัญหาการขยายขนาดนี้ โดยให้จุดปลายที่เสถียรสำหรับแอปพลิเคชัน โมเดลทำงานบนเซิร์ฟเวอร์เฉพาะทางที่ปรับแต่งสำหรับการอนุมาน

API ของเราเสนอโมเดลแบบไม่มีเซนเซอร์ ซึ่งตอบคำถามโดยไม่มีการปฏิเสธเนื้อหามาตรฐาน เหมาะสำหรับงานเขียนเชิงสร้างสรรค์หรือโรลเพลย์ จุดปลายนี้เข้ากันได้กับ SDK ของ OpenAI ที่มีอยู่ คุณเพียงแค่เปลี่ยน URL พื้นฐาน รหัสโมเดลคือ "uncensored" การตั้งค่านี้ใช้สำหรับงานสร้างข้อความ แต่ไม่รองรับรูปภาพหรือเสียง

ต้นทุนของการอนุมานแบบไร้เซ็นเซอร์

ต้นทุนการอนุมานแบบโฮสต์ขึ้นอยู่กับการใช้งานโทเคน การกำหนดราคาของเราโปร่งใสและชำระเงินล่วงหน้า คุณจ่าย $0.15 ต่อ 1M โทเคนอินพุต โทเคนเอาต์พุตมีราคา $0.50 ต่อ 1M โทเคน ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต โมเดลนี้ให้รางวัลแก่การเขียนคำสั่งที่มีประสิทธิภาพ

• เครดิตไม่หมดอายุ
• การเติมเงินเริ่มต้นที่ $20
• การเติมเงินสูงสุดคือ $500

เรารับเฉพาะคริปโตเคอเรนซี USDT บน TRC20 และ USDC บน Base รองรับ ไม่มีสมาชิกภาพรายเดือน คุณสามารถเพิ่มโบนัสด้วยการเติมเงินจำนวนมากขึ้น การเติมเงิน $50 ให้เครดิต +5% การเติมเงิน $100 ให้เครดิต +10% การเติมเงิน $200 ให้เครดิต +15% โครงสร้างนี้ประโยชน์ต่อผู้ใช้หนัก ช่วยลดต้นทุนต่อโทเค็นที่มีประสิทธิภาพ

ทุกบัญชีใหม่ได้รับเครดิตทดลอง $0.50 ใช้เวลา 7 วัน คุณสามารถทดสอบ API ก่อนที่จะตัดสินใจ เครดิตทดลองช่วยให้คุณตรวจสอบความเข้ากันได้ ยืนยันว่าโมเดลตรงตามความต้องการของคุณ จากนั้นคุณสามารถซื้อแพ็กเกจเครดิตจำนวนมากขึ้น

ข้อจำกัดทางเทคนิค: หน้าต่างบริบทและปริมาณงาน

หน้าต่างบริออบกำหนดขีดจำกัดหน่วยความจำ API ของเรารองรับ 100,000 tokens รวมกัน ซึ่งรวมถึงทั้ง prompt และ completion คุณสามารถส่งเอกสารขนาดใหญ่เพื่อการวิเคราะห์ โมเดลจะจดจำคำสั่งก่อนหน้านี้ สิ่งนี้สำคัญสำหรับงานแบบยาว รักษาความสอดคล้องตลอดการตอบกลับ

การส่งออกสูงสุดต่อคำขอคือ 16,000 tokens หากคุณไม่ได้ตั้งค่าจำกัด ค่าเริ่มต้นคือ 2,048 tokens การสตรีมผ่าน Server-Sent Events รองรับอยู่ คุณได้รับ tokens เมื่อพวกมันถูกสร้าง สิ่งนี้ลดความหน่วงเวลา perceived ชิ้นสุดท้ายรวมถึงสถิติการใช้งาน คุณสามารถติดตามต้นทุนแบบเรียลไทม์

ปริมาณงานถูกจำกัดเพื่อความยุติธรรม คุณสามารถส่งคำขอได้ 300 คำขอต่อนาที คำขอสูงสุด 8 คำขอทำงานพร้อมกันต่อคีย์ ร่างคำขอต้องมีขนาดไม่เกิน 8 MB ขีดจำกัดเหล่านี้ป้องกันการใช้ทรัพยากรเกินจำเป็น และรับประกันประสิทธิภาพที่เสถียรสำหรับผู้ใช้ทุกคน หากคุณต้องการปริมาณงานที่สูงขึ้น คุณสามารถขอคีย์เพิ่มเติมได้ แต่ละคีย์มีขีดจำกัดของตัวเอง ซึ่งอนุญาตให้ประมวลผลแบบขนานในแอปพลิเคชันของคุณได้

กรณีการใช้งานบทบาทสมมติ NSFW

โมเดล Uncensored เก่งในสถานการณ์สร้างสรรค์ พวกมันไม่ปฏิเสธหัวข้อผู้ใหญ่ สิ่งนี้มีค่าสำหรับแอปพลิเคชันการเล่นบทบาท ผู้ใช้ต้องการการโต้ตอบที่สมจริงและไร้ข้อจำกัด โมเดลสร้างข้อความโดยไม่มีการตัดสินทางศีลธรรม มันปฏิบัติตามน้ำเสียงและสไตล์ของพรอมต์ สิ่งนี้สร้างการสนทนาที่เป็นธรรมชาติมากขึ้น

การกรองเนื้อหาสามารถทำลายความสมจริง โมเดลมาตรฐานมักปฏิเสธคำหยาบคายหรือธีมทางเพศเล็กน้อย โมเดลของเราอนุญาตองค์ประกอบเหล่านี้ มันบล็อกเฉพาะเนื้อหาที่เกี่ยวข้องกับเด็กเท่านั้น นี่คือขีดจำกัดแบบแข็ง คำขอประเภทนั้นจะถูกปฏิเสธ ทุกอย่างอื่นเป็นเกมที่คุณสามารถสำรวจธีมผู้ใหญ่ได้อย่างอิสระ

นักพัฒนาที่สร้างแชทบอทได้รับประโยชน์จากสิ่งนี้ ผู้ใช้คาดหวังพฤติกรรมของตัวละครที่สม่ำเสมอ โมเดลรักษาบุคลิกภาพไว้ ไม่เปลี่ยนโทนเสียงระหว่างบทสนทนา ความน่าเชื่อถือนี้เป็นกุญแจสำคัญสำหรับการมีส่วนร่วม API รองรับโหมด JSON คุณสามารถจัดโครงสร้างผลลัพธ์สำหรับแอปของคุณได้ การเรียกฟังก์ชันช่วยให้รวมเครื่องมือได้ โมเดลสามารถดำเนินการต่างๆ ได้ตามบทสนทนา

เวิร์กโฟลว์การเขียนโค้ดและการดึงข้อมูล

การสร้างโค้ดต้องการความแม่นยำ โมเดลเข้าใจภาษาโปรแกรม สามารถเขียนฟังก์ชันหรือแก้ไขข้อผิดพลาด ปฏิบัติตามบริบทที่ให้มา หากคุณให้โค้ดมา โมเดลสามารถขยายต่อได้ ซึ่งมีประโยชน์สำหรับการสร้างต้นแบบอย่างรวดเร็ว คุณสามารถสร้างโค้ดพื้นฐานได้รวดเร็ว

การดึงข้อมูลเป็นอีกกรณีการใช้งานที่แข็งแกร่ง การแยกวิเคราะห์เอกสาร Word อาจยุ่งยาก ตัวอักษรแปลกๆ มักทำให้ตัวแยกวิเคราะห์ทำงานผิดพลาด การใช้ regular expressions ช่วยทำความสะอาดข้อความ โมเดลจัดการการทำความสะอาดนี้ได้ดี มันดึงข้อความที่เกี่ยวข้องออก และละเว้นจากสิ่งรบกวนจากการจัดรูปแบบ ช่วยประหยัดเวลาในการเตรียมข้อมูล

คุณสามารถใช้ API สำหรับงานการจัดประเภท ป้อนเอกสารและรับป้ายกำกับ โมเดลวิเคราะห์เนื้อหา และส่งกลับข้อมูลที่มีโครงสร้าง ซึ่งผสานเข้ากับระบบ RAG ได้ คุณสามารถสร้างฐานความรู้ หน้าต่างบริบทขนาด 100,000 โทเค็นรองรับการอัปโหลดเอกสารขนาดใหญ่ คุณสามารถประมวลผลคู่มือทั้งหมดในคำขอเดียว ซึ่งลดจำนวนการเรียก API และลดต้นทุนโดยรวม

คำถามจากนักพัฒนาจาก Reddit

นักพัฒนามักถามเกี่ยวกับการตั้งค่าแบบโลคัล การรัน Ollama บน Ryzen APU เป็นไปได้ แต่ประสิทธิภาพจะแตกต่างกันไปตามฮาร์ดแวร์ การอนุมานแบบโลคัลเหมาะที่สุดสำหรับความเป็นส่วนตัว คุณควบคุมการไหลของข้อมูล อย่างไรก็ตาม จำเป็นต้องใช้ทรัพยากรจำนวนมาก API แบบโฮสต์จึงดีกว่าสำหรับความสามารถในการขยายขนาด

คำถามทั่วไปอีกอย่างหนึ่งเกี่ยวข้องกับการแยกวิเคราะห์เอกสาร ผู้ใช้ struggled กับการสกัดข้อความที่สะอาด API จัดการเรื่องนี้ได้อย่างมีประสิทธิภาพ คุณส่งข้อความดิบ โมเดลส่งผลลัพธ์ที่ทำความสะอาดแล้ว คุณไม่จำเป็นต้องใช้เส้นทางการแสดงแบบปกติ โมเดลเข้าใจบริบท ระบุส่วนที่เกี่ยวข้องโดยอัตโนมัติ

นักพัฒนาบางคนใช้ Ollama สำหรับงานมัลติโมดอล API ของเราเป็นแบบข้อความเท่านั้น ไม่ประมวลผลรูปภาพ หากคุณต้องการวิสัยทัศน์ คุณต้องใช้ผู้ให้บริการอื่น อย่างไรก็ตาม สำหรับงานข้อความล้วนๆ API ของเราจะเร็วกว่า โดยเน้นที่ความเร็วและความแม่นยำ โมเดล uncensored จัดการพรอมต์ที่ละเอียดอ่อนได้ดี และไม่ปฏิเสธคำขอเชิงสร้างสรรค์มากเกินไป

เปรียบเทียบ: Ollama แบบ Local เทียบกับ API แบบ Hosted

Ollama แบบ Local ให้ความเป็นส่วนตัวของข้อมูลสูงสุด คำสั่งของคุณจะอยู่บนเครื่องของคุณ ซึ่งเหมาะสำหรับข้อมูลที่มีความอ่อนไหว คุณหลีกเลี่ยงความล่าช้าของเครือข่าย อย่างไรก็ตาม คุณต้องจัดการฮาร์ดแวร์ คุณจัดการการอัปเดตโมเดล การขยายขนาดทำได้ยาก คุณต้องการ RAM มากขึ้นสำหรับผู้ใช้ที่มากขึ้น

API ที่โฮสต์ไว้ของเรารองรับการปรับขนาด คุณสามารถให้บริการผู้ใช้ได้หลายพันคน โครงสร้างพื้นฐานจัดการภาระงาน คุณจ่ายเฉพาะสิ่งที่ใช้ ไม่มีค่าธรรมเนียมรายเดือน สิ่งนี้ช่วยลดต้นทุนคงที่ คุณสามารถเริ่มต้นขนาดเล็กและขยายได้

ความเป็นส่วนตัวแตกต่างกันระหว่างสองวิธี การอนุมานในเครื่องเก็บข้อมูลไว้ในเครื่อง การอนุมานแบบโฮสต์ส่งข้อมูลไปยังเซิร์ฟเวอร์ API ของเราไม่ใช้คำสั่งสำหรับการฝึกฝน ข้อมูลของคุณได้รับการประมวลผลแต่ไม่ถูกเก็บไว้เพื่อปรับปรุงโมเดล นี่คือความแตกต่างที่สำคัญ คุณได้รับประโยชน์จากคลาวด์ คุณยังคงความเป็นส่วนตัวสำหรับคำสั่งเฉพาะของคุณ โมเดล uncensored มีให้บริการทั้งสองแบบ ในแบบในเครื่องคุณรันโมเดล ในแบบโฮสต์เรารันให้คุณ

คำตัดสินสุดท้ายเกี่ยวกับคุณค่า

API แบบโฮสต์ให้มูลค่าที่ยอดเยี่ยม ราคาแข่งขันได้ $0.15 ต่อ 1M โทเค็นอินพุตถือว่าต่ำ $0.50 ต่อ 1M โทเค็นเอาต์พุตถือว่าสมเหตุสมผล โมเดลการชำระเงินล่วงหน้าป้องกันบิลที่ไม่คาดเดา คุณควบคุมการใช้จ่ายของคุณ เครดิตโบนัสเพิ่มมูลค่า การฝากเงินจำนวนใหญ่ลดต้นทุนที่มีประสิทธิภาพ ประโยชน์นี้เหมาะสำหรับผู้ใช้ขั้นสูง

โมเดลแบบไม่เซ็นเซอร์เป็นคุณสมบัติหลัก มันลบข้อจำกัด ซึ่งสำคัญมากสำหรับงานเชิงสร้างสรรค์ ผู้ใช้ได้รับคำตอบที่ไม่จำกัด API มีความน่าเชื่อถือ รองรับสตรีมมิ่งและการเรียกใช้ฟังก์ชัน ทำให้เหมาะสำหรับแอปพลิเคชันการผลิต หน้าต่างบริบทขนาด 100,000 tokens เป็นข้อได้เปรียบสำคัญ คุณสามารถประมวลผลเอกสารขนาดใหญ่ได้อย่างมีประสิทธิภาพ

วิธีการชำระเงินแบบคริปโตเพียงอย่างเดียวดึงดูดนักพัฒนาที่เน้นความเป็นส่วนตัว ไม่มีการแชร์รายละเอียดธนาคาร การทำธุรกรรมรวดเร็ว เครดิตทดลองอนุญาตให้ทดสอบได้ง่าย คุณสามารถตรวจสอบว่า API ทำงานสำหรับกรณีการใช้งานของคุณหรือไม่ จากนั้นคุณจึงผูกมัดกับการฝากเงินจำนวนมากขึ้น การเข้าสู่ระบบที่มีความเสียดทานต่ำนี้เป็นประโยชน์สำคัญ มันขจัดความเสี่ยงของสัญญาระยะยาว

วิธีการเริ่มต้น

การสร้างบัญชีนั้นง่ายมาก คลิก "รับคีย์ API" บนเว็บไซต์ คุณสามารถลงชื่อเข้าใช้ด้วย Google หรือใช้อีเมลและรหัสผ่าน ไม่ต้องใช้เบอร์โทรศัพท์ อีเมลของคุณเป็นตัวระบุเพียงอย่างเดียว ซึ่งช่วยรักษาความเป็นส่วนตัวของคุณ คีย์ API จะปรากฏทันที คัดลอกไปยังคลิปบอร์ดของคุณ

ใช้คีย์ในโค้ดของคุณ โดยตั้งค่า base URL เป็น HTTPS://api.ollamaapidoc.com/v1 ส่งคำขอ POST ไปยัง /v1/chat/completions โดยระบุ model id เป็น "uncensored" คุณสามารถใช้ OpenAI SDK ได้ และเข้ากันได้กับไคลเอนต์ที่เข้ากันได้ทุกชนิด การตั้งค่าใช้เวลาเพียงไม่กี่นาที คุณสามารถเริ่มสร้างข้อความได้ทันที

เพื่อเพิ่มเครดิต ให้ไปที่หน้าเติมเงิน เลือก USDT (TRC20) หรือ USDC (Base) ระบุจำนวนเงินระหว่าง $20 ถึง $500 ส่งคริปโตไปยังที่อยู่ที่ได้รับให้ เครดิตจะถูกเพิ่มโดยอัตโนมัติ คุณสามารถเริ่มใช้ API ได้ทันที เครดิตทดลองมีให้ตั้งแต่เริ่มต้น และหมดอายุใน 7 days ใช้เพื่อทดสอบ API จากนั้นซื้อแพ็กเกจที่ใหญ่ขึ้นสำหรับการใช้งานต่อเนื่อง