LLMOps | Top apps og software

Dify

Dify er en open source-platform til udvikling og drift af LLM-baserede AI-applikationer; den tilbyder visuel workflow-builder, RAG, agentintegration, modelvalg, API og observabilitet.

LangSmith

LangSmith er en udviklerplatform, der hjælper med at bygge, overvåge og evaluere LLM-applikationer effektivt, uanset om man bruger LangChain.

Wordware

Wordware er et samarbejdsorienteret IDE til udvikling af AI-agenter, der muliggør effektiv oprettelse og integration af AI-løsninger.

Langfuse

Langfuse er en open-source platform til monitorering, evaluering og fejlretning af AI-applikationer og store sprogmodeller, som kan selvhostes.

Klu.ai

KLU.AI er en platform til design, implementering og optimering af AI-applikationer, der støtter samarbejde og integration med store sprogmodeller.

Promptly

Straks er en lavkode AI-platform, der hjælper organisationer med at oprette og optimere systemopskrivninger til store sprogmodeller effektivt.

Humanloop

Humanloop er en platform til udvikling og evaluering af LLM -applikationer, der integrerer menneskelig feedback for at forbedre AI-modeller.

Agenta

Agenta er en open source-platform til udvikling, overvågning og evaluering af LLM-applikationer med samarbejdende promptstyring, versionering, A/B-tests, tracing og omkostnings- og performanceoverblik.

Laminar AI

Laminar AI er en open source-platform til overvågning og analyse af LLM-applikationer og tilbyder værktøjer til sporing, evaluering og datasætbygning.

LLM Gateway

LLM Gateway er en platform til at rute og administrere forespørgsler til store sprogmodeller fra forskellige udbydere via en enkelt API.

Promptmonitor

Promptmonitor hjælper marketingfolk med at overvåge og optimere brands synlighed på AI-platforme som ChatGPT og andre LLM'er for at øge trafik og salg.

Traceloop

Traceloop monitorerer og forbedrer kvaliteten af LLM-applikationer i produktion gennem overvågning, indsigt og fejlfinding.

Inworld

Inworld er en platform til at køre og administrere AI i forbrugerapps, med automatiseret drift, realtidstale, eksperimenter og fleksible udrulningsmuligheder for skalerbar brug.

Maxim AI

Maxim AI er en platform til evaluering og overvågning af AI, der hjælper teams med at udvikle pålidelige AI-applikationer effektivt.

Arkor

Arkor hjælper udviklere med at træne og implementere tilpassede AI-modeller. Appen genererer datasæt og træningsprojekter, kører træning og leverer en OpenAI-kompatibel API.

Vellum

Vellum er en AI-udviklingsplatform, der understøtter oprettelse, implementering og overvågning af AI-applikationer med værktøjer til samarbejde og process-optimering.

Galileo

Galileo er en platform til evaluering, overvågning og sikring af generative AI- og agentapps med metrikker, testværktøjer og realtidsbeskyttelse.

Helicone

Helicone er en open source-platform til overvågning og optimering af stor sprogmodel (LLM)-applikationer med funktioner til fejlfinding og brugersegmentering.

Confident AI

Selvsikker AI er en platform til evaluering og overvågning af store sprogmodeller, der tilbyder værktøjer til test, analyse og forbedring af LLM-applikationer.

Mastra

Mastra er et open-source TypeScript-rammeværk til at bygge og drifte produktions-AI-applikationer med arbejdsgange, autonome agenter, hukommelse, RAG og overvågning.

Lamini

Lamini er en platform der hjælper virksomheder med at udvikle og tilpasse store sprogmodeller (LLM) ved hjælp af egne data.

GradientJ

GradientJ hjælper produktteams med at implementere og overvåge sprogmodeller i stor skala, samt optimere dem baseret på brugerfeedback.

AI Monitor

AI Monitor overvåger og analyserer AI-genererede resultater (fx ChatGPT, Google AI) for virksomheder, så de kan forstå og optimere deres synlighed.

TrueFoundry

TrueFoundry er en cloud-baseret platform, der muliggør effektiv bygning og implementering af AI-applikationer med fokus på skalering og omkostningsoptimering.

Test AI Models

Test AI Models lader dig afprøve dine egne prompts på flere AI-modeller samtidigt uden opsætning. Viser kvalitet, hastighed og pris i realtid, så du vælger model før implementering.

Deepchecks

Deepchecks er en platform til evaluering og validering af sprogmodeller, der muliggør automatiserede kontroller og indsigter for at sikre modelydelse og retfærdighed.

Orq.ai

Orq.ai er en platform til samarbejde om generativ AI, der hjælper teams med at udvikle, implementere og optimere AI-applikationer effektivt.

FinetuneDB

FinetuneDB er en platform til finjustering af sprogmodeller, der muliggør oprettelse, styring og evaluering af datasæt til AI-tilpasning.

Weavel

Weavel er en platform til performanceanalyse og test af LLM-applikationer, hvor brugere kan opbygge datasæt, køre tests og overvåge brug.

Patronus AI

Patronus AI er en platform til automatisk evaluering og overvågning af store sprogmodeller (LLM'er), der hjælper virksomheder med at sikre præcision og pålidelighed.

SiliconFlow

SiliconFlow er en skybaseret API-platform for udviklere, der accelererer inferens, finjustering og udrulning af sprog- og multimodale modeller med lav latenstid og databeskyttelse.

Braintrust

Braintrust er en platform til udvikling og evaluering af AI-applikationer, der muliggør samarbejde, datasætstyring og overvågning af modelydelse.

CoreCtic AI

CoreCtic AI samler AI-modeller i én API, styrer routing og klienter samt overvåger brug, omkostninger, ydeevne og videresalg med semantisk caching.

Not Diamond

Not Diamond er en platform til multi-model AI-routing og automatisk prompt-tilpasning, der vælger og dirigerer forespørgsler til den mest egnede sprogmodel og håndterer fallback og load-balancing.

LLMTest

LLMTest proxyer OpenAI/Anthropic-kald, sporer omkostninger, benchmarker modeller og optimerer prompts ud fra live trafik.

Entry Point AI

Entry Point AI er en platform til finjustering, træning og evaluering af store sprogmodeller, der forbedrer modelpræstation og samarbejde.

Augento

Augento er en platform til finjustering af AI-agenter, der hjælper brugere med at forbedre deres modeller gennem feedback og forstærkende læring.

Ultra AI

Ultra AI er et samlet AI-kommandocenter, der tilbyder adgang til forskellige AI-udbydere og forbedrer udviklingen af AI-applikationer med caching og analyse.

AgentOps

AgentOps er et værktøj til at teste og debugge AI-agenter, som muliggør registrering og visualisering af agenter og deres ydeevne.

Fiddler

Fiddler er en platform til at overvåge, forklare og sikre AI-modeller, LLM-apps og agentiske systemer i udvikling og produktion.

MosaicML

MosaicML er en platform til udvikling og implementering af specialiserede AI-modeller, der understøtter maskinlæring og sikrer datasikkerhed.

Gentrace

Gentrace er en udviklerplatform til test og overvågning af AI-applikationer, der forbedrer udviklingens effektivitet og pålidelighed.

AnyApiAI

AnyApiAI er en API-platform til at få adgang til og styre 400+ AI-modeller fra flere udbydere via én OpenAI-kompatibel grænseflade.

Bellaire AI

Bellaire AI platformen gør det muligt at udvikle intelligente AI-agenter til automatisering og datadrevet beslutningstagning med integration i eksisterende systemer.

Parea

Parea AI hjælper udviklere med hurtigt at bygge produktionsklare LLM-produkter, inklusive eksperimentering med prompts, versionering og evaluering af præstation.

Relyable

Relyable lader dig hurtigt udrulle AI-stemmeagenter, køre simulerede agent-samtaler og evaluere live-opkald. Integrerer med Vapi og Retell AI.

Toolhouse

Toolhouse er en backend-as-a-service platform til udvikling og styring af AI-agenter, der gør det muligt at integrere intelligens i applikationer med få linjer kode.

LaminarFlow

LaminarFlow er en platform, der automatiserer indholdsoprettelse og publicering ved hjælp af AI-teknologi, hvilket forbedrer arbejdsgange og sikrer nøjagtighed.

Pioneer

AI-platform til at finjustere open source-sprogmodeller med automatisk data-generering, træning, evaluering, udrulning og løbende forbedring fra live inferensdata.

Lang.ai EU

Lang.ai er en no-code platform til automatisering af kundesupport, der integrerer med Zendesk og Salesforce for at forbedre supportprocesser.

Athina AI

Athina hjælper udviklere med at overvåge og evaluere deres LLM-applikationer i produktion ved at tilbyde synlighed i RAG-pipelinen og 40+ prædefinerede evalueringsmetrikker.

Mosaic

Mosaic er en AI-agent til videoredigering, der gør det muligt for brugere at beskrive redigeringer med naturligt sprog, som så udføres øjeblikkeligt.

PromptPilot

PromptPilot er en platform til udvikling og optimering af prompts til store sprogmodeller, fra idé og implementering til løbende forbedring via API og evalueringsdata.

Parlance

Parlance er en app, der bruger konversations-AI til at forbedre telefonoplevelsen ved at give kunder mulighed for at kommunikere naturligt og effektivt.

Tracer

Tracer kombinerer og dirigerer AI-modeller til forskellige opgaver via ét OpenAI-kompatibelt API og analyserer resultater for at optimere modelvalg og ydeevne.

OrcaRouter

OrcaRouter er en OpenAI-kompatibel API-gateway, der ruter forespørgsler til den bedste model på tværs af 200+ modeller via ét enkelt slutpunkt.

Nirixa AI

Nirixa AI er en observationsplatform til LLM-apps, der sporer kald, tokenomkostninger, prompt-drift, hallucinationsrisiko og latency i realtid.

ModelRiver

API-gateway til flere LLM-udbydere med streaming, brugerdefinerede konfigurationer, indbyggede pakker, routing, hastighedsbegrænsning, failover og analyse.

Draft'n run

Draft'n run er en open source-platform til at udvikle, implementere og overvåge AI-agenter, automatiserede workflows og chatbots.

Flutch

Flutch sporer, tester og deployer AI-agenter: logger beslutninger og spor, måler kvalitet og omkostninger, stopper regressionsfejl og understøtter integrationer og chat-udrulning.