การดำเนินงานของโมเดลภาษาขนาดใหญ่ (LLMOps) | แอปและซอฟต์แวร์ยอดนิยม

Dify

Dify เป็นแพลตฟอร์มโอเพ่นซอร์สสำหรับพัฒนาและปรับใช้แอปที่ใช้ LLM มีเครื่องมือออกแบบเวิร์กโฟลว์ RAG การจัดการโมเดล และ API สำหรับบูรณาการ

LangSmith

LangSmith เป็นแพลตฟอร์มสำหรับนักพัฒนาที่ช่วยในการพัฒนาและตรวจสอบแอพพลิเคชั่น LLM ตั้งแต่ต้นแบบจนถึงการผลิต.

Wordware

WordWare เป็น IDE สำหรับการพัฒนาและปรับใช้ตัวแทน AI ที่ช่วยให้ผู้ใช้ร่วมมือและจัดการเวิร์กโฟลว์ได้อย่างมีประสิทธิภาพ.

Langfuse

Langfuse เป็นแพลตฟอร์ม LLMOps ที่ช่วยทีมพัฒนา ควบคุม และประเมินแอป AI โดยมีเครื่องมือสำหรับการตรวจสอบและปรับปรุงแอปพลิเคชัน LLM.

Klu.ai

Klu.ai เป็นแพลตฟอร์มที่ช่วยออกแบบ ปรับใช้ และเพิ่มประสิทธิภาพแอปพลิเคชัน AI โดยรองรับแบบจำลองภาษาหลายแบบและการทำงานร่วมกันของทีม.

Promptly

ทันทีเป็นแพลตฟอร์ม AI ที่ช่วยให้ผู้ใช้สร้างและจัดการระบบที่เชื่อมต่อกับโมเดลภาษาขนาดใหญ่โดยไม่ต้องเขียนโค้ดมาก

Humanloop

Humanloop เป็นแพลตฟอร์มที่ช่วยพัฒนาและปรับปรุงแอปพลิเคชัน LLM โดยรวมความคิดเห็นของมนุษย์และสนับสนุนการฝึกอบรมแบบต่อเนื่อง.

Agenta

Agenta เป็นแพลตฟอร์มโอเพนซอร์สสำหรับพัฒนา ติดตาม และประเมินแอปที่ใช้ LLM โดยรองรับการทดลอง prompt เวอร์ชัน การทดสอบ A/B การติดตามค่าใช้จ่ายและการดีบัก

Laminar AI

Laminar AI เป็นแพลตฟอร์มโอเพนซอร์ซที่ช่วยตรวจสอบและวิเคราะห์แอพ LLM โดยให้เครื่องมือสำหรับติดตามและประเมินประสิทธิภาพ.

LLM Gateway

LLM Gateway คือแพลตฟอร์ม API รวมที่ช่วยให้นักพัฒนาเข้าถึงและจัดการการร้องขอจากโมเดล AI หลายผู้ให้บริการได้อย่างมีประสิทธิภาพ

Promptmonitor

Promptmonitor เป็นแอปที่ช่วยนักการตลาดในการติดตามและปรับปรุงการมองเห็นของแบรนด์ใน AI และ LLMs เพื่อเพิ่มการเข้าชมและยอดขาย.

Traceloop

TraceLoop เป็นแอปสำหรับตรวจสอบและทดสอบคุณภาพของแอป LLM โดยให้ข้อมูลเชิงลึกและการแจ้งเตือนสำหรับการปรับเปลี่ยนที่มั่นใจได้ในสภาพแวดล้อมการผลิต.

Inworld

Inworld เป็นแพลตฟอร์ม AI Runtime ที่ช่วยสร้าง ปรับใช้ และจัดการโมเดลสำหรับแอปผู้บริโภค รองรับการปรับขนาด การทดลอง A/B และเสียงพูดเรียลไทม์

Maxim AI

Maxim AI เป็นแพลตฟอร์มสำหรับประเมินและสังเกต AI ที่ช่วยทีมพัฒนาในการปรับใช้ผลิตภัณฑ์ AI ด้วยคุณภาพและความเชื่อถือได้สูง.

Arkor

Arkor ช่วยนักพัฒนาสร้างชุดข้อมูล ฝึก และปรับใช้โมเดล AI แบบเปิดผ่านโค้ด TypeScript โดยไม่ต้องตั้งค่า GPU พร้อม API ที่เข้ากันได้กับ OpenAI

Vellum

Vellum เป็นแพลตฟอร์มพัฒนาแอพ AI ที่รองรับการสร้างและตรวจสอบการใช้งาน AI ในองค์กร โดยสามารถทำงานร่วมกันได้ในทีมและใช้งานง่าย.

Galileo

Galileo เป็นแพลตฟอร์มสำหรับประเมิน ติดตาม และทดสอบแอป AI ช่วยตรวจจับปัญหาและความเสี่ยง พร้อมรองรับการใช้งานทั้งก่อนและหลังนำขึ้นใช้งาน

Helicone

Helicone เป็นแพลตฟอร์มสำหรับนักพัฒนาที่ออกแบบมาสำหรับการสังเกตและตรวจสอบโมเดลภาษา (LLM) โดยมีเครื่องมือในการติดตามและปรับปรุงประสิทธิภาพการทำงาน.

Confident AI

แอป Confident AI เป็นแพลตฟอร์มประเมินและตรวจสอบแบบจำลองภาษาขนาดใหญ่ (LLM) ช่วยให้ตรวจสอบ ทดสอบ และปรับปรุงแอปพลิเคชัน LLM อย่างมีประสิทธิภาพ.

Mastra

Mastra เป็นเฟรมเวิร์ก TypeScript สำหรับสร้างและปรับใช้แอป AI ระดับโปรดักชัน ให้ SDK/CLI รองรับเวิร์กโฟลว์, เอเจนต์อัตโนมัติ, การรวมความรู้ (RAG) และการประเมินคุณภาพ

Lamini

Lamini เป็นแพลตฟอร์มที่ช่วยให้ทีมซอฟต์แวร์พัฒนาโมเดลภาษาขนาดใหญ่ได้เอง โดยใช้ข้อมูลที่เป็นกรรมสิทธิ์ในสภาพแวดล้อมที่ปลอดภัย.

GradientJ

GradientJ เป็นแอปที่ช่วยให้ทีมผลิตภัณฑ์ปรับใช้และจัดการโมเดลภาษาขนาดใหญ่ มีเครื่องมือสำหรับการสร้างการเปรียบเทียบติดตามประสิทธิภาพและปรับปรุงโมเดลจากข้อเสนอแนะ

AI Monitor

AI Monitor ติดตามและจัดการผลลัพธ์จากแพลตฟอร์มปัญญาประดิษฐ์ เช่น ChatGPT และ Google AI Overview เพื่อให้แบรนด์ควบคุมการปรากฏบนผลการค้นหา

TrueFoundry

TrueFoundry เป็นแพลตฟอร์มคลาวด์สำหรับการพัฒนาและปรับใช้แอพพลิเคชัน Machine Learning และ AI ให้เร็วขึ้น มีเครื่องมือสนับสนุนที่ใช้งานง่ายและยืดหยุ่น.

Test AI Models

แอปที่ให้คุณทดสอบ prompt ของตัวเองกับหลายโมเดล AI พร้อมกันแบบเรียลไทม์ โดยไม่ต้องตั้งค่า ใช้เวลา ~30 วินาที แสดงผลเปรียบเทียบคุณภาพ ความเร็ว และค่าใช้จ่าย

Deepchecks

DeepChecks เป็นแพลตฟอร์มที่ช่วยตรวจสอบและประเมินระบบ LLM และ ML โดยให้รายงานและข้อมูลเชิงลึกเกี่ยวกับประสิทธิภาพและความเสถียรของโมเดล.

Orq.ai

Orq.ai เป็นแพลตฟอร์ม AI ที่ช่วยทีมพัฒนาแอปพลิเคชัน AI ด้วยเครื่องมือที่ใช้งานง่าย รองรับการทดลอง ปรับใช้ และตรวจสอบประสิทธิภาพในเวลาจริง.

FinetuneDB

FinetuneDB เป็นแพลตฟอร์มสำหรับปรับแต่งแบบจำลองภาษาขนาดใหญ่ ช่วยจัดการชุดข้อมูลและวิเคราะห์ผลลัพธ์ในการพัฒนาโมเดล AI.

Weavel

Weavel เป็นแพลตฟอร์มวิเคราะห์ประสิทธิภาพและการทดสอบสำหรับแอปพลิเคชัน LLM ช่วยสร้างชุดข้อมูล ทดสอบ วิเคราะห์ และติดตามการใช้งานในระบบผลิต.

Patronus AI

Patronus AI เป็นแพลตฟอร์มตรวจสอบอัตโนมัติที่ช่วยให้องค์กรประเมินความถูกต้องของโมเดลภาษาขนาดใหญ่ (LLMs) และลดความเสี่ยงจากการใช้งาน AI.

SiliconFlow

SiliconFlow ให้บริการโครงสร้างพื้นฐาน AI แก่นักพัฒนา เพื่อรัน ปรับจูน และปรับใช้โมเดลภาษาและแบบหลายรูปแบบผ่าน API เข้ากันกับ OpenAI พร้อมรองรับการสเกลและความเป็นส่วนตัวของข้อมูล

Braintrust

Braintrust เป็นแพลตฟอร์มที่ช่วยให้ทีมพัฒนาและปรับแต่งแอพ AI ด้วยเครื่องมือในการประเมินและจัดการโมเดลอย่างมีประสิทธิภาพ.

CoreCtic AI

แพลตฟอร์มพร็อกซีและวิเคราะห์ AI สำหรับเชื่อมต่อและจัดการโมเดลหลายราย เช่น OpenAI และ Claude พร้อมแคช ติดตามการใช้งาน ต้นทุน และการเรียกเก็บเงิน

Not Diamond

Not Diamond เป็นแพลตฟอร์มโครงสร้างพื้นฐาน AI แบบหลายโมเดล ที่ปรับคำสั่งอัตโนมัติและเลือกโมเดลที่เหมาะสมให้แต่ละคำขอ เพื่อเพิ่มความแม่นยำ ลดต้นทุนและเพิ่มความทนทาน

LLMTest

LLMTest เป็นเครื่องมือจัดการและทดสอบการเรียก LLM ที่พร็อกซี OpenAI/Anthropic ติดตามต้นทุน เปรียบเทียบโมเดล และปรับพร้อมท์อัตโนมัติจากทราฟฟิกจริง

Entry Point AI

Entry Point AI เป็นแพลตฟอร์มสำหรับปรับแต่ง จัดการ และฝึกฝนโมเดลภาษาขนาดใหญ่ โดยช่วยเพิ่มประสิทธิภาพและการทำงานของโมเดลต่าง ๆ ได้ง่ายขึ้น

Augento

Augento เป็นแพลตฟอร์มสำหรับปรับปรุงโมเดล AI โดยผู้ใช้สามารถให้ข้อเสนอแนะแม่นยำและปรับปรุงประสิทธิภาพของเอเจนต์ได้ง่าย

Ultra AI

Ultra AI เป็นแอปที่รวมฟังก์ชัน AI ไว้ในที่เดียว ช่วยให้เข้าถึงผู้ให้บริการ AI หลายราย ผ่าน API เดียว และจัดการข้อมูลอย่างมีประสิทธิภาพ.

AgentOps

AgentOps เป็นเครื่องมือที่ช่วยจัดการและตรวจสอบตัวแทน AI โดยมีฟังก์ชันการบันทึกและวิเคราะห์ข้อมูลเพื่อปรับปรุงประสิทธิภาพ.

Fiddler

แพลตฟอร์มสำหรับตรวจสอบ วิเคราะห์ และควบคุมความปลอดภัยของ AI/ML และแอป LLM ในการพัฒนาและการใช้งานจริง

MosaicML

MosaicML เป็นแพลตฟอร์มสำหรับการพัฒนาและปรับใช้โมเดล AI ที่เชื่อมโยงข้อมูลกับการสร้างแอพพลิเคชั่นเฉพาะโดเมนอย่างมีประสิทธิภาพ.

Gentrace

Gentrace เป็นแพลตฟอร์มสำหรับทดสอบและตรวจสอบแอป AI โดยใช้เครื่องมือที่ช่วยปรับปรุงประสิทธิภาพและความน่าเชื่อถือในการพัฒนา.

AnyApiAI

แพลตฟอร์ม API สำหรับเข้าถึงและจัดการโมเดล AI กว่า 400 รายการผ่าน API เดียว พร้อมสลับผู้ให้บริการ ทดสอบ และติดตามการใช้งาน

Bellaire AI

Bellaire AI เป็นแพลตฟอร์มที่ช่วยสร้างเอเย่นต์ AI ที่อัจฉริยะ โดยรองรับโมเดลภาษาขนาดใหญ่และการทำงานร่วมกันในองค์กร.

Parea

แอป Parea AI ช่วยนักพัฒนาสร้างผลิตภัณฑ์ LLM ที่พร้อมใช้งานได้เร็วขึ้น โดยสามารถทดลองคำสั่งและเวอร์ชันต่าง ๆ ได้ง่าย.

Relyable

สร้าง ทดสอบ และปรับใช้เอเจนต์เสียง AI; รันการสนทนาจำลองระหว่างเอเจนต์และประเมินการโทรสด; เชื่อมต่อโดยตรงกับ Vapi และ Retell AI

Toolhouse

Toolhouse เป็นแพลตฟอร์มแบ็กเอนด์ที่ช่วยนักพัฒนาสร้าง ปรับใช้ และจัดการเอเจนต์ AI ด้วยโค้ดเพียง 3 บรรทัด รองรับการทำงานอัตโนมัติและการจัดการข้อมูล.

LaminarFlow

LaminarFlow เป็นแพลตฟอร์มที่ช่วยอัตโนมัติกระบวนการสร้างและเผยแพร่เนื้อหา ใช้ AI ในการจัดการและสร้างเนื้อหาอย่างมีประสิทธิภาพ.

Pioneer

แพลตฟอร์มสำหรับปรับแต่ง ฝึกประเมิน และนำโมเดลภาษาโอเพ่นซอร์สไปใช้งาน โดยอัปเดตโมเดลจากข้อมูลการใช้งานจริงได้อัตโนมัติ

Lang.ai EU

Lang.ai คือแพลตฟอร์มการทำงานอัตโนมัติที่ช่วยทีมสนับสนุนลูกค้าสร้างโมเดล AI เพื่อปรับปรุงกระบวนการสนับสนุน โดยเชื่อมต่อกับ Zendesk และ Salesforce.

Athina AI

Athina ช่วยนักพัฒนาตรวจสอบและประเมินแอปพลิเคชัน LLMs ในการผลิต โดยให้ข้อมูลเกี่ยวกับ RAG pipeline และมีเครื่องมือประเมินผลกว่า 40 ตัว

Mosaic

Mosaic คือแอปพลิเคชันวิดีโอที่ใช้ AI ช่วยตัดต่อวิดีโอจากหลายชั่วโมงให้เหลือเพียงไม่กี่วินาที โดยผู้ใช้สามารถบรรยายการแก้ไขในภาษาไทยได้ทันที.

PromptPilot

PromptPilot เป็นแพลตฟอร์มสำหรับพัฒนา ปรับแต่ง และทดสอบพรอมต์ของโมเดลขนาดใหญ่ ตั้งแต่สร้างเริ่มต้น เชื่อม API รับข้อมูลตอบกลับ และปรับปรุงตามข้อมูลผู้ใช้

Parlance

Parlance ใช้ AI สนทนาเพื่อปรับปรุงประสบการณ์โทรศัพท์ โดยให้ผู้ใช้สามารถสื่อสารได้อย่างเป็นธรรมชาติและเชื่อมต่อได้อย่างรวดเร็ว.

Tracer

แพลตฟอร์มที่ประสานโมเดล AI แบบเปิดหลายตัว จัดเส้นทางคำขอและปรับการอนุมานผ่านจุดเชื่อมต่อเดียว เพื่อเลือกโมเดลให้เหมาะกับแต่ละงานและติดตามประสิทธิภาพ

OrcaRouter

เกตเวย์ AI API ที่กำหนดเส้นทางคำขอไปยังโมเดลจากผู้ให้บริการหลายรายผ่านจุดเดียว รองรับโมเดลกว่า 200 แบบ และใช้งานร่วมกับ OpenAI SDK ได้

Nirixa AI

แพลตฟอร์มสำหรับติดตามและวิเคราะห์การเรียก LLM จากผู้ให้บริการต่างๆ พร้อมดูต้นทุนโทเค็น ความหน่วง และความเสี่ยงภาพหลอนแบบเรียลไทม์

ModelRiver

เกตเวย์ API สำหรับเชื่อมต่อ LLM หลายราย ให้สตรีมผล, ตั้งค่าเฉพาะ, มีแพ็กเกจในตัว, การกำหนดเส้นทาง, จำกัดอัตรา, สำรองเมื่อล้มเหลว และวิเคราะห์การใช้งาน.

Draft'n run

Draft'n run เป็นแพลตฟอร์มโอเพ่นซอร์สสำหรับสร้าง ปรับใช้ และตรวจสอบฟีเจอร์และตัวแทน AI พร้อมเครื่องมือออโตเมชัน มอนิเตอร์ และการกำกับดูแล

Flutch

Flutch เป็นแพลตฟอร์มสำหรับติดตาม ทดสอบ และปรับใช้ตัวแทน/เวิร์กโฟลว์ AI ระบุการตัดสินใจ วัดคุณภาพและต้นทุน ป้องกันรีเกรสชัน รองรับหลายกรอบงานและการใช้งานผ่านเว็บ/แชท