LLMOps - Top-Apps & Software

Flutch

Flutch bietet Observability, Tests und Deployment für KI‑Agenten: Ablauftracing, Qualitäts‑ und Kostenkontrolle, Versionierung, Akzeptanztests und Bereitstellung via CLI/Chat‑UIs.

PromptWaveAI

PromptWaveAI ermöglicht das Speichern, Organisieren und Teilen von Eingabeaufforderungen. Nutzer können Eingaben erstellen, optimieren und deren Leistung testen.

Promptic

Promptic vergleicht und optimiert Modelle, Prompts, Agenten und Tool-Einsatz anhand eigener Daten sowie Kennzahlen zu Qualität, Kosten und Latenz.

ReasonBlocks

ReasonBlocks analysiert Produktionsspuren von KI-Agenten, optimiert Modelle, Routing und Bereitstellung und reduziert dadurch Tokenverbrauch und Inferenzkosten.

Mentlio

Mentlio analysiert KI-Nutzung, Kosten und Produktivität in Entwicklungsteams und optimiert Ausgaben durch Modellrouting, Kontextabruf und Prompt-Komprimierung.

Belvedir

Belvedir verbindet sich per SDK mit Agenten-Workflows, erstellt daraus Trainingsdaten und Benchmarks und trainiert, hostet sowie verbessert private KI-Modelle und Agenten.

Experiential Labs

Open-Source-KI-Gateway zur zentralen Verwaltung und Weiterleitung von Anfragen an gehostete, selbst betriebene und private Modelle mit Zugriffskontrolle und Nutzungsüberwachung.

qRaptor

qRaptor ermöglicht das Erstellen, Integrieren, Bereitstellen und Überwachen von Anwendungen und KI-Agenten per visueller, codefreier Entwicklungsumgebung.

Bursora

Bursora ist eine KI-App zur Budgetkontrolle für Modellanbieter. Sie prüft, begrenzt oder blockiert Anfragen vor dem Senden und verwaltet Budgets pro Kunde, Agent, Workflow und Workspace.

Syrin AI

Syrin AI überwacht KI-Agenten in Produktion, erkennt Abweichungen und Fehler in Echtzeit und erlaubt Konfigurationsänderungen ohne erneutes Deployment.

Polarity

Plattform zur Bewertung und Überwachung von KI-Agenten in der Produktion mit Tests, Fehlersuche, Trace-Analyse und Warnungen bei Fehlern.

Plurai

Plurai prüft und schützt KI-Agenten mit synthetischen Tests, Bewertungen und Echtzeit-Leitplanken, um Fehler, Verstöße und Halluzinationen zu reduzieren.

Tracium.ai

Tracium.ai überwacht KI-Systeme: Kosten, Anfragen, Fehler, Prompts/Modelle und Drift in Echtzeit – zentral und ohne aufwendige Einrichtung.

Respan

Respan ist eine LLM-Plattform zur Überwachung, Bewertung und Optimierung von KI-Anwendungen. Sie erfasst Ausführungsspuren, automatisiert Bewertungen und unterstützt Fehleranalyse.

Hicap

Hicap bietet Enterprise-KI-Infrastruktur mit reservierter GPU-Kapazität, Multi-Provider-Zugriff (OpenAI, Anthropic, Google), Kostenkontrolle und Echtzeit-Monitoring für Produktionsanwendungen.

GTWY.AI

GTWY.AI bietet eine einheitliche API zum Zugriff, Routing und Management mehrerer KI-Modelle und -Dienste, inklusive Authentifizierung, Monitoring, Lastverteilung und Fallback.

ZeroEval

Plattform, die erklärt, warum Ihre Agenten fehlschlagen; durchsucht Traces, führt Experimente mit Produktionsdaten durch und ermöglicht Tests vor dem Einsatz.

EvalsOne

EvalsOne ist eine Plattform zur systematischen Bewertung und iterativen Optimierung von LLM-Aufforderungen mittels quantitativer Metriken und A/B-Tests.

Langwatch

Langwatch ist eine Plattform zur Verwaltung und Optimierung von LLM-Anwendungen mit Tools für Überwachung, Analyse und Integration verschiedener LLM-Anbieter.

Weave

Weave nutzt ML zur Messung von Ingenieurarbeit. Die App analysiert PRs, zeigt die benötigte Zeit, die Qualität der Überprüfung und die Art der Arbeit an.