OpenRelay

OpenRelay เป็นแพลตฟอร์มโครงสร้างพื้นฐาน AI สำหรับการอนุมานโมเดลแบบโฮสต์และการประมวลผล GPU ตามความต้องการ ช่วยให้นักพัฒนาและทีมเรียกใช้ปริมาณงาน AI ผ่าน API แบบครบวงจรที่เข้ากันได้กับ OpenAI พร้อมการเข้าถึงโมเดลจากผู้ให้บริการ เช่น DeepSeek, Llama, Qwen, Mistral, Gemma และ GPT-OSS คำขอสามารถกำหนดเส้นทางโดยอัตโนมัติโดยอิงตามเวลาแฝง ต้นทุน ความพร้อมใช้งาน และประสิทธิภาพของโมเดล แพลตฟอร์มดังกล่าวรองรับการอนุมานแบบไร้เซิร์ฟเวอร์ เครื่องเสมือน GPU เฉพาะ และงานแบทช์สำหรับปริมาณงานทั้งเชิงโต้ตอบและปริมาณสูง ผู้ใช้สามารถเลือกทรัพยากร GPU ปรับใช้สภาพแวดล้อมแบบกำหนดเอง เชื่อมต่อผ่าน SSH และใช้วอลุ่มถาวรสำหรับข้อมูลที่สามารถรีสตาร์ทได้ OpenRelay ยังมอบการเฟลโอเวอร์อัตโนมัติและการปรับสมดุลโหลดในโครงสร้างพื้นฐานที่มีอยู่ พร้อมด้วยการผสานรวมบรรทัดคำสั่งและ MCP สำหรับการจัดการการปรับใช้ การใช้งาน และทรัพยากรการประมวลผลจากเครื่องมือการพัฒนาหรือเวิร์กโฟลว์อัตโนมัติ

ข้อสงวนสิทธิ์: WebCatalog ไม่มีความเกี่ยวข้อง เชื่อมโยง ได้รับอนุญาต รับรองโดย หรือมีความเชื่อมโยงอย่างเป็นทางการกับ OpenRelay ไม่ว่าในลักษณะใด ชื่อผลิตภัณฑ์ โลโก้ และแบรนด์ทั้งหมดเป็นทรัพย์สินของเจ้าของที่เกี่ยวข้อง