LLMOps : les meilleures applications et logiciels

Dify

Dify est une plateforme open source pour développer, déployer et gérer des applications basées sur de grands modèles de langage, avec workflows visuels, RAG, agents et API.

LangSmith

Langsmith est une plateforme pour développer et optimiser des applications basées sur des modèles de grande langue, en offrant des outils de traçage et d'évaluation.

Wordware

Wordware est un IDE collaboratif permettant de créer et déployer des agents et applications d'IA en facilitant la gestion et l'intégration des flux de travail.

Langfuse

Langfuse est une plateforme open-source pour développer, surveiller et évaluer des applications d'IA basées sur des modèles de langage, avec des outils personnalisables.

Humanloop

Humanloop est une plateforme pour développer et évaluer des applications d'IA avec des modèles de langue, intégrant des retours humains pour améliorer leur précision et adaptabilité.

Agenta

Agenta est une plateforme open source pour développer, tester et surveiller des applications et agents LLM : gestion collaborative des prompts, versioning, tests A/B, observabilité et traçage.

Klu.ai

Klu.ai est une plateforme pour concevoir, déployer et optimiser des applications d'IA générative, facilitant la collaboration et l'intégration avec divers modèles de langage.

Promptly

Une plateforme d'IA générative low-code permettant aux entreprises de créer et gérer efficacement des invites pour les modèles de langage.

Laminar AI

Laminar AI est une plateforme open source d'observabilité et d'analyse pour optimiser les applications LLM, offrant des outils de suivi, évaluation et gestion des chaînes prompts.

LLM Gateway

LLM Gateway centralise l'accès aux modèles de langage de différents fournisseurs via une API unique, permettant gestion, analyse et contrôle des LLM.

Arkor

Arkor aide les développeurs à entraîner et déployer des modèles d’IA à poids ouverts. Il prépare les données, exécute l’entraînement sur GPU gérés et fournit une API compatible OpenAI.

Inworld

Plateforme d'IA pour applications grand public : exécution et gestion de modèles, mise à l'échelle, automatisation des opérations, télémétrie, tests et voix en temps réel.

Traceloop

Traceloop est une plateforme qui surveille et teste les applications LLM en production, fournissant des alertes et des outils d'optimisation.

Promptmonitor

Promptmonitor permet aux marketers de suivre et d'optimiser la visibilité des marques sur divers LLMs pour augmenter le trafic, les prospects et les ventes.

Vellum

Vellum est une plateforme de développement pour créer et déployer des applications alimentées par l'IA, facilitant la collaboration et l'expérimentation des équipes.

Helicone

Helicone est une plateforme open source qui permet la surveillance et l'optimisation des applications utilisant des modèles de langage (LLM).

Galileo

Plateforme d’évaluation et d’observabilité pour applications d’IA générative, avec suivi, tests, métriques et garde-fous en développement et production.

Maxim AI

Maxim AI est une plateforme d'évaluation et d'observabilité dédiée à aider les équipes d'IA à développer et déployer des modèles d'IA de qualité avec efficacité.

Confident AI

Confident AI est une plateforme d'évaluation pour les modèles de langage, permettant de tester, surveiller et optimiser leurs performances.

Mastra

Mastra est un framework TypeScript open-source pour créer, orchestrer et déployer des applications IA : agents autonomes, workflows durables, RAG, gestion de mémoire et évaluations.

Lamini

Lamini est une plateforme permettant aux entreprises de développer et gérer des modèles de langage personnalisé avec des données propriétaires, offrant des solutions sur site et cloud.

GradientJ

GradientJ aide les équipes produit à déployer et gérer des modèles de langage à grande échelle, en fournissant des outils pour optimiser et surveiller les performances.

TrueFoundry

TrueFoundry est une plateforme PaaS pour équipes ML, permettant la construction, le déploiement et la gestion d'applications IA sur infrastructures cloud ou sur site.

Test AI Models

Teste vos propres prompts sur plusieurs modèles d'IA simultanément sans configuration : comparaisons en temps réel de qualité, vitesse et coût. Collez un prompt, obtenez des réponses en ~30s.

Deepchecks

Deepchecks simplifie l'évaluation et la validation des modèles de langage et de ML, en offrant des outils d'automatisation et de détection des biais dans les processus.

Orq.ai

Orq.ai est une plateforme de collaboration IA qui aide les équipes à développer et déployer des applications IA à grande échelle, tout en garantissant sécurité et conformité.

AI Monitor

Surveille et optimise la présence de votre marque dans les résultats générés par des plateformes d'IA (ChatGPT, Google AI Overview et autres).

FinetuneDB

FinetuneDB est une plateforme pour créer et gérer des ensembles de données afin de régler finement des modèles de langage, améliorant leur performance et pertinence.

Weavel

Weavel est une plateforme d'analytique de performance et de tests pour les applications LLM, permettant de créer des ensembles de données, de tester et d'analyser les performances.

Patronus AI

Patronus AI est une plate-forme d'évaluation automatisée qui détecte les erreurs des modèles de langage et aide les entreprises à utiliser l'IA générative en toute confiance.

SiliconFlow

Plate‑forme cloud pour développeurs : API unique pour inférence, ajustement et déploiement de modèles de langage et multimodaux, faible latence et pas de stockage des données utilisateur.

Braintrust

Braintrust est une plateforme pour développer, évaluer et optimiser des applications d'IA, facilitant la collaboration et la gestion des modèles et données.

CoreCtic AI

Plateforme proxy IA unifiant plusieurs modèles, avec mise en cache sémantique, suivi des coûts et performances, orchestration des fournisseurs et gestion multi-clients.

Not Diamond

Not Diamond adapte automatiquement les prompts et achemine les requêtes entre LLM pour choisir le meilleur modèle, gérer bascuplement/équilibrage et fournir des APIs Python, TypeScript et REST.

LLMTest

LLMTest proxy les appels OpenAI/Anthropic, suit les coûts, compare plus de 340 modèles et optimise automatiquement les invites sur le trafic réel.

Entry Point AI

Entry Point AI est une plateforme d'affinage pour gérer et évaluer des modèles de langage, optimisant leur performance et facilitant la collaboration autour des données d'entraînement.

Augento

Augento est une plateforme qui permet d'améliorer des agents AI en fonction des retours utilisateurs, optimisant ainsi leur performance via un apprentissage par renforcement.

Ultra AI

Ultra AI est une plateforme qui centralise l'accès à différents fournisseurs d'IA via une API unique et offre des outils pour gérer l'efficacité des applications IA.

AgentOps

AgentOps est une plateforme pour tester et déboguer des agents IA, offrant des outils d'observabilité et d'intégration avec des systèmes d'IA populaires.

Fiddler

Plateforme d’observabilité et de sécurité pour surveiller, expliquer et gouverner les modèles d’IA, les LLM et les agents en développement et en production.

MosaicML

MosaicML est une plateforme pour le développement, le déploiement et la gestion de modèles d'IA, permettant des applications spécifiques au domaine et sécurisées.

Gentrace

Gentrace est une plateforme pour tester et surveiller les applications d'IA, améliorant leur efficacité et fiabilité dans le développement et le déploiement.

AnyApiAI

Plateforme API unifiée pour accéder, tester et gérer plus de 400 modèles d’IA, avec routage, suivi et compatibilité OpenAI.

Bellaire AI

Bellaire AI est une plateforme pour créer des agents IA intelligents, automatiser des tâches et intégrer des modèles de langage, adaptée aux besoins des entreprises.

Parea

L'application Parea AI aide les développeurs à créer plus rapidement des produits LLM prêts pour la production, en gérant l'ensemble de leur workflow LLM.

Toolhouse

Toolhouse est une plateforme permettant de créer et déployer facilement des agents IA via des API, en optimisant le développement avec un minimum de code.

LaminarFlow

LaminarFlow est une plateforme qui automatise la création et la publication de contenu, simplifiant les tâches complexes et améliorant l'efficacité des flux de travail.

OrcaRouter

Passerelle API IA compatible OpenAI qui route les requêtes vers plus de 200 modèles via un seul point d’accès, avec sélection de modèle, secours et suivi des coûts.

Ramp Router

Passerelle API donnant accès à plusieurs modèles d’IA, avec routage selon le coût, la qualité, les performances et la disponibilité, sans dépendre d’un seul fournisseur.

Pioneer

Plateforme d’IA pour affiner, évaluer et déployer des modèles open source, avec amélioration continue à partir des données d’inférence.

Lang.ai EU

Lang.ai est une plateforme d'automatisation sans code qui permet aux équipes de support client de créer des modèles d'IA pour améliorer leurs processus de support.

Athina AI

Athina aide les développeurs à surveiller et évaluer leurs applications LLM en production, en offrant une visibilité sur leur pipeline RAG et en fournissant des métriques d'évaluation.

Mosaic

Mosaic est un agent AI pour le montage vidéo. Il rend le montage instantané en permettant aux utilisateurs de décrire leurs modifications en langage naturel.

PromptPilot

PromptPilot est une plateforme d’optimisation de prompts pour applications de grands modèles, de la création au déploiement, avec ajustement basé sur les retours et les données d’évaluation.

Relyable

Relyable permet de déployer des agents vocaux IA, simuler des conversations entre agents et évaluer des appels en direct. Intégration native avec Vapi et Retell AI.

Parlance

Parlance est une application qui utilise l'intelligence artificielle conversationnelle pour améliorer l'accès vocal des consommateurs aux organisations.

Tracer

Tracer orchestre plusieurs modèles d’IA ouverts pour router les tâches, adapter l’inférence et optimiser les performances via une interface compatible avec OpenAI.

Nirixa AI

Plateforme d’observabilité pour applications LLM : suit les appels, les coûts par fonctionnalité, la dérive des prompts, le risque d’hallucination et la latence.

ModelRiver

Passerelle API unifiée pour plusieurs fournisseurs de LLM, offrant streaming, configurations personnalisées, paquets intégrés, routage, limites de débit, basculement et analytique.

Draft'n run

Draft'n run est une plateforme open source pour créer, déployer et surveiller des agents IA et workflows automatisés, avec intégration d’outils DevOps et observabilité.