LLMOps: de bästa apparna och programvarorna

Dify

Dify är en öppen källkodsplattform för att bygga, köra och övervaka LLM-baserade AI-applikationer med visuella arbetsflöden, RAG, agentintegration, modellhantering och API:er.

LangSmith

LangSmith är en plattform för utveckling och övervakning av LLM-applikationer, som underlättar testning och optimering av prestanda.

Wordware

Wordware är en samarbetsinriktad IDE för utveckling av AI-agenter och applikationer med verktyg för effektivitet och enkel integration av API:er.

Langfuse

Langfuse är en plattform för att utveckla, övervaka och utvärdera AI-applikationer med fokus på stora språkmodeller, med verktyg för analys och spårning.

Humanloop

Humanloop är en plattform för utveckling och utvärdering av AI-applikationer med fokus på att integrera mänsklig feedback för att förbättra språkmodeller.

Agenta

Agenta är en öppen källkodsplattform för att utveckla, testa och övervaka LLM-baserade applikationer med promptversionering, A/B-testning, spårning av prestanda och kostnader.

Klu.ai

Klu.ai är en plattform för att utveckla och optimera AI-applikationer som använder stora språkmodeller, med stöd för samarbete och prestandaanalys.

Promptly

Promptly är en lågkodplattform för att skapa och hantera systemuppmaningar för AI, som underlättar utvecklingsprocessen för både tekniska och icke-tekniska användare.

Laminar AI

Laminar AI är en öppen källkodsplattform för övervakning och analys av stora språkmodeller (LLM) som hjälper utvecklare att optimera sina LLM-applikationer.

LLM Gateway

LLM Gateway är en plattform som centraliserar och hanterar LLM-begäran från olika leverantörer via ett enda API för effektiv användning och analys.

Arkor

Arkor hjälper utvecklare att förbereda data, träna och distribuera anpassade AI-modeller via ett OpenAI-kompatibelt API, utan egen GPU eller Python-miljö.

Inworld

Inworld är en AI-runtime för konsumentappar som hanterar modell‑drift, telemetri, A/B‑testning och text‑till‑tal, med stöd för skalning och olika distributionsalternativ.

Traceloop

Traceloop övervakar och testar stora språkmodellapplikationer, vilket ger insikter och möjliggör förändringar i produktionen.

Promptmonitor

Promptmonitor hjälper marknadsförare att övervaka och optimera varumärkens synlighet på AI-plattformar som ChatGPT och Gemini för att öka trafik, leads och försäljning.

Vellum

Vellum är en AI-utvecklingsplattform som stödjer skapandet och övervakningen av AI-applikationer för olika team, med fokus på samarbete och effektiv utvecklingsprocess.

Helicone

Helicone är en plattform för LLM-observerbarhet som hjälper utvecklare att spåra, optimera och övervaka stora språkmodeller.

Galileo

Galileo är en plattform för att utvärdera, övervaka och säkra generativa AI- och agentappar i utveckling och produktion.

Maxim AI

Maxim AI är en plattform för utvärdering och övervakning av AI, som hjälper team att utveckla och testa AI-appar med fokus på kvalitet och effektivitet.

Confident AI

Confident AI är en plattform för utvärdering och övervakning av stora språkmodeller (LLM), som hjälper team med testning, optimering och analys av deras applikationer.

Mastra

Mastra är ett TypeScript-baserat ramverk för att bygga, testa och distribuera AI-applikationer med stöd för agenter, arbetsflöden, RAG, minne och produktionsövervakning.

Lamini

Lamini är en plattform för företag som möjliggör utveckling och hantering av stora språkmodeller (LLM) med anpassad data och hög hastighet i både lokala och molnmiljöer.

GradientJ

GradientJ hjälper produktteam att distribuera och övervaka stora språkmodeller (LLM) med verktyg för att bygga, jämföra och optimera modeller.

TrueFoundry

TrueFoundry är en plattform för att bygga och distribuera AI-applikationer på olika infrastrukturer, vilket möjliggör snabb utveckling med kostnadseffektivitet och bra styrning.

Test AI Models

Test AI Models låter dig prova dina faktiska prompts mot flera AI‑modeller samtidigt utan installation. Visar jämförelser av kvalitet, hastighet och kostnad i realtid.

Deepchecks

DeepChecks är en plattform för utvärdering och validering av språkmodeller och maskininlärningssystem, som erbjuder automatiserade tester och insikter för att förbättra prestanda.

Orq.ai

Orq.ai är en plattform för samarbete kring Generative AI som hjälper team att utveckla, distribuera och optimera AI-applikationer på ett användarvänligt sätt.

AI Monitor

AI Monitor hjälper företag bevaka och optimera sina resultat i AI-genererade sökningar och konversationsplattformar som ChatGPT och Google AI Overview.

FinetuneDB

FinetuneDB är en plattform för att skapa och hantera datasätt för finjustering av stora språkmodeller, vilket underlättar anpassning av AI-lösningar.

Weavel

Weavel är en plattform för prestandaanalys och testning av LLM-applikationer som möjliggör datainsamling, testkörning och övervakning av produktion.

Patronus AI

Patronus AI är en plattform för automatisk utvärdering och övervakning av stora språkmodeller, vilket hjälper företag att säkert och noggrant använda generativ AI.

SiliconFlow

SiliconFlow är en molnbaserad API-plattform för utvecklare som tillhandahåller snabb inferens, finjustering och driftsättning av språk- och multimodala AI-modeller.

Braintrust

Braintrust är en plattform för att utveckla och optimera AI-appar, med verktyg för samarbete, analys och hantering av modeller och data.

CoreCtic AI

AI-proxy och analysplattform som samlar flera språkmodeller, optimerar API-anrop och följer användning, kostnader, prestanda och kundhantering.

Not Diamond

Not Diamond är en plattform som anpassar prompts och routar förfrågningar till bästa LLM, förbättrar svarskvalitet, tillförlitlighet och kostnadseffektivitet via flera modeller.

LLMTest

LLMTest proxyar OpenAI/Anthropic-anrop, spårar kostnader, testar över 340 modeller och optimerar prompts mot verklig trafik.

Entry Point AI

Entry Point AI är en plattform för finjustering av stora språkmodeller, som möjliggör träning, utvärdering och hantering av modeller från olika leverantörer.

Augento

Augento är en plattform för finjustering av AI-modeller där användare ger feedback för att förbättra agentprestanda med förstärkningsinlärning.

Ultra AI

Ultra AI är en plattform för att effektivisera AI-applikationer via en enhetlig API, cachehantering, användarbegränsningar och analys av prestanda.

AgentOps

AgentOps är en plattform för att övervaka och optimera AI-agenter, som stödjer inspelning av händelser och integration med populära AI-plattformar.

Fiddler

Fiddler är en plattform för att övervaka, förklara och säkra AI-modeller, LLM-appar och agentbaserade AI-system i utveckling och produktion.

MosaicML

MosaicML är en plattform för utveckling och distribution av anpassade maskininlärningsmodeller som effektiviserar AI-applikationer och säker datahantering.

Gentrace

Gentrace är en plattform för att testa och övervaka AI-applikationer, som förbättrar utveckling, pålitlighet och effektivitet i testfasen.

AnyApiAI

API-plattform för att ansluta, testa och övervaka 400+ AI-modeller via ett enhetligt, OpenAI-kompatibelt API.

Bellaire AI

Bellaire AI är en plattform för att skapa intelligenta AI-agenter och automatisera uppgifter med stöd av avancerad maskininlärning och integrerade arbetsflöden.

Parea

Parea AI hjälper utvecklare att snabbt skapa LLM-produkter för produktion genom att hantera arbetsflöden, testa och utvärdera prestanda.

Toolhouse

Toolhouse är en molnplattform för att skapa och hantera AI-agenter, som enkelt kan distribueras som API:er med tre rader kod.

LaminarFlow

LaminarFlow är en plattform för att automatisera innehållsskapande och publicering, vilket effektiviserar arbetsflöden och säkerställer noggrannhet.

OrcaRouter

En OpenAI-kompatibel AI-gateway som routar frågor till rätt modell bland 200+ modeller via en enda API-slutpunkt.

Ramp Router

Ramp Router ger tillgång till flera AI-modeller via en enda API-slutpunkt och dirigerar förfrågningar utifrån kostnad, kvalitet, prestanda och tillgänglighet.

Pioneer

En AI-plattform som finjusterar öppna språkmodeller, skapar träningsdata, kör utvärderingar och uppdaterar modeller löpande från live-inferensdata.

Lang.ai EU

Lang.ai är en plattform för automatisk service som hjälper supportteam att skapa AI-modeller för att effektivisera sina processer utan kod.

Athina AI

Athina hjälper utvecklare att övervaka och utvärdera sina LLM-appar i produktion, med verktyg för att mäta prestanda och upptäcka hallucinationer.

Mosaic

Mosaic är en AI-agent för videoredigering som gör det möjligt för användare att beskriva ändringar i naturligt språk och ser dem genomförda på sekunder.

PromptPilot

En plattform för att skapa, testa och förbättra promptar för stora språkmodeller, med API-stöd och löpande optimering utifrån användardata.

Relyable

Relyable låter dig snabbt lansera AI-röstagenter. Kör simulerade konversationer mellan AI‑agenter, utvärdera live‑samtal och integrerar med Vapi och Retell AI.

Parlance

Parlance är en app som använder konverserande AI för att förbättra kunders telefonupplevelse och förenkla kommunikationen mellan konsumenter och organisationer.

Nirixa AI

Nirixa AI är en plattform som visar LLM-anrop i realtid, spårar kostnader och latens samt hjälper till att upptäcka promptdrift och hallucinationsrisk.

Tracer

Tracer samordnar öppna AI-modeller via en OpenAI-kompatibel slutpunkt för modellrouting, adaptiv slutledning och effektiv hantering av olika AI-uppgifter.

ModelRiver

API-gateway som samlar flera LLM-leverantörer och erbjuder strömning, anpassade konfigurationer, inbyggda paket, ruttning, hastighetsbegränsning, failover och analys.

Draft'n run

Draft'n run är en öppen källkodsplattform för att bygga, distribuera och övervaka AI‑agenter, chattbotar och automatiska arbetsflöden med stöd för drift och övervakning.