LLMOPS平台（用于大型语言模型运营的内容）旨在帮助组织部署到现实世界业务应用程序中，以帮助组织管理，监视和优化大型语言模型（LLMS）。 这些平台不仅仅是模型部署。他们支持完整的LLM生命周期，包括维护，微调和迭代。借助LLMOPS工具，数据科学家团队，ML工程师和开发人员可以有效地将LLM带入Power用例，例如客户服务聊天机器人，内容创建等。 LLMOPS解决方案可以自动化许多关键流程：模型部署，性能监控，健康检查和准确性跟踪。他们适应不断发展的数据模式和业务需求，使整个组织的LLM使用量更容易。许多平台还提供协作功能，使团队能够更有效地构建，部署和维护模型。 安全性，治理和访问控制是LLMOPS平台的核心组件。这些工具有助于确保只有授权的用户才能修改版本，更新部署设置或访问敏感的模型数据，即支持合规性和负责任的AI使用。 LLMOPS平台在LLM生命周期中的焦点不同，其中一些专门从事及时的工程，定制培训，评估或实时监控。其他人则优先考虑解释性，可调性和遵守监管要求。 大多数LLMOPS工具都是模型不合时宜的，支持各种框架，编程语言和基础架构。一些平台为特定的LLM或生态系统提供了量身定制的支持，而另一些平台则是为更广泛的通用集成而构建的。 高级功能可以包括培训数据扩展，漂移检测和实时推理，确保LLM保持准确，高效且随着时间的推移而与业务需求保持一致。 最后，许多LLMOPS解决方案提供了集中的模型管理，使企业可以通过统一界面来管理所有LLM部署。尽管它们与传统的MLOP平台有着相似之处，但LLMOPS工具是专门的，可以解决大型语言模型的独特运营挑战，并更加专注于语言驱动的性能，模型保障和大规模的道德部署。
提交新应用
Vertex AI Studio
cloud.google.com
顶点AI工作室是一个生成AI模型的开发与部署平台，提供简单的界面和工具，无需深厚编码知识即可自定义和集成模型。
Dify
cloud.dify.ai
Dify是一个开源平台，支持大语言模型应用的开发和管理，简化数据处理、监控和插件集成。
Botpress
botpress.com
Botpress是一个生成AI平台，允许用户创建聊天机器人，支持多渠道部署和高度定制，适合开发者和企业使用。
Together AI
together.ai
Together AI是一个平台，允许用户训练、微调和部署开源AI模型，支持多模式应用程序和低延迟语音API，改善客户体验和运营。
LangSmith
langchain.com
LangSmith 是一个开发平台，支持大型语言模型(LLM)应用的开发、监控与评估，集成了调试与反馈功能。
Clarifai
clarifai.com
Clarifai是一款专注于计算机视觉、自然语言处理和音频识别的人工智能平台，支持图像、视频、文本和音频数据的分析与处理。
Promptly
trypromptly.com
迅速是一款低代码生成式AI平台，帮助企业创建和优化系统提示，支持技术与非技术用户参与及时工程。
Exa
exa.ai
Exa是一款AI API，用于将AI应用与互联网连接，专注于智能网络搜索和检索，支持多种查询类型和内容定制。
AICamp
aicamp.so
AICamp 是一个团队协作平台，允许使用多个 AI 模型，提供角色访问控制和使用分析，提升工作效率并简化工具管理。
Unify
unify.ai
Unify是一个集中平台，通过单一API密钥调用和评估第三方LLM端点，优化LLM部署和路由。
Tune AI
tunehq.ai
Tune AI推动企业应用生成式人工智能，包括聊天应用TuneChat、开发者可调优模型的TuneStudio和开源提示引擎ChainFury。
FinetuneDB
finetunedb.com
FinetuneDB是一个AI微调平台，简化数据集创建和管理，支持优化大型语言模型，提高性能和降低成本。
Dynamiq
getdynamiq.ai
Dynamiq 应用程序用于构建、部署和监控本地生成AI应用，以满足业务需求，提高收入和竞争力。
Dataiku
dataiku.com
Dataiku是一个综合数据分析平台，帮助企业系统化使用数据和AI，以支持决策和解决特定业务问题。
Composio
composio.dev
Composio是一个AI代理平台，提供功能调用、集成和身份验证，帮助开发者高效构建和管理AI工具。
SuperAnnotate
superannotate.com
SuperAnnotate是一个数据注释平台，支持图像数据的多种注释类型，提供协作功能和AI辅助，以提高数据准备效率和质量。
Shaip
shaip.com
Shaip提供高质量的数据解决方案，包括文本、音频、图像和视频，为企业构建高效公正的AI模型。
Robust Intelligence
robustintelligence.com
Robust Intelligence 提供自动化解决方案，帮助企业保护 AI 应用，检测模型漏洞并实施安全措施，确保 AI 安全和合规。
Lamini
lamini.ai
Lamini是一个企业平台，帮助软件团队使用专有数据开发和管理定制的大型语言模型，支持本地和云安装。
Vext
vextapp.com
Vext 是一个 LLMOps 平台，帮助用户快速构建定制化 AI 应用，以满足特定的业务需求和数据。
OctoAI
octo.ai
OctoAI提供基础设施，支持生成AI应用的运行、调优和扩展，帮助开发者轻松集成和自定义AI模型。
lettria
lettria.com
Lettria 是一个无代码AI平台，专注于文本数据的结构化、处理和分析，支持用户创建定制的自然语言处理解决方案。
Opentune
opentune.ai
Opentune是一个为AI爱好者和开发者设计的应用，提供管理和定制大型语言模型的平台，并支持企业需求。
Vocode
vocode.dev
Vocode是一个开源平台，用于开发基于语音的应用程序，可实现自然对话、电话自动化和个人助手功能，支持多种语音识别和合成服务。
Vectorize
vectorize.io
Vectorize 是一款 AI 工具，可以将非结构化数据转换为优化的向量搜索索引，支持多种 AI 应用的开发与数据处理。
PromptPrivacy
promptprivacy.com
及时私人是一款保护AI系统提示中敏感信息的应用，通过检测泄漏确保数据隐私。
CalypsoAI
calypsoai.com
CalypsoAI是一个安全平台，提供AI系统的实时漏洞扫描、风险保护和性能分析，帮助组织管理AI安全风险。
Freeplay
freeplay.ai
Freeplay 是一个工具，帮助产品团队实验、测试、监控和优化 AI 特性，支持团队在生成性 AI 功能开发中的协作。
Future AGI
futureagi.com
Future AGI是一个支持企业AI生命周期的平台，提供快速原型、评估、监控和部署生成式AI应用的工具。它实现自动化和自主流程管理。
Credal
credal.ai
Credal 是一个集工作流助手、企业搜索和 AI 聊天于一体的平台，支持安全的数据连接和合规性管理。
Katonic.ai
katonic.ai
Katonic.ai是一个无代码平台，利用生成AI帮助企业提高生产力、自动化重复任务并优化工作流程。
Kong
konghq.com
Kong是一个API管理平台，简化API的开发、部署和管理，支持多种环境和灵活的插件架构，增强安全性和可扩展性。
Lamatic.ai
lamatic.ai
Lamatic.ai是一个完全管理的平台，提供低代码构建工具，支持构建和部署高性能AI代理，具备数据源连接和自动化功能。
Aporia
aporia.com
Aporia是一个AI控制平台，确保机器学习模型的隐私、安全和可靠性，提供性能跟踪、偏差检测等工具，增强AI系统透明度。
Textual.ai
textual.ai
Textual.ai 是一款人工智能翻译平台，支持文本生成、翻译及流程自动化，适用于希望利用生成式 AI 的企业。
Autoblocks
autoblocks.ai
Autoblocks AI是一个基于云的工作空间，帮助产品团队协作评估、测试和改进他们的GenAI/LLM产品。
Narus AI
narus.ai
Narus AI 应用管理多个大型语言模型，保护数据，并监控人工智能费用，帮助企业安全有效地使用生成式人工智能。
Portkey
portkey.ai
Portkey是一款用于AI应用程序的控制面板，提供请求管理、安全性和性能监控，旨在提高AI操作的可靠性和效率。
Patronus AI
patronus.ai
Patronus AI是一个自动评估平台，帮助企业检测大型语言模型的错误，确保其准确性和可靠性，支持安全使用生成AI。
elvex
elvex.com
Elvex是一个AI平台，帮助企业快速安全地采用生成性AI，支持数据分析和应用开发，提高工作效率。
Voyage AI
voyageai.com
Voyage AI提供先进的嵌入模型和重新排序器，帮助企业提高非结构化数据的检索准确性，支持定制化AI应用。
Cerebrium
cerebrium.ai
Cerebrium是一个无服务器GPU基础设施平台，允许用户在云中有效运行机器学习模型，轻松扩展调用并节省成本。
Predibase
predibase.com
Predibase 是一个开发平台，帮助团队在云端生产化开源大语言模型，支持快速微调和服务，确保数据控制在私有云。
MarkovML
markovml.com
MarkovML 是一个低代码平台，支持数据分析和机器学习，提供数据管理、模型共享和无编码的 AI 应用构建功能。
Lakera
lakera.ai
Lakera应用为组织提供安全工具，帮助构建生成AI应用，分析LLM漏洞，减轻相关风险，确保安全与可用性的平衡。
Orq.ai
orq.ai
Orq.ai是一个生成式人工智能协作平台，帮助团队开发、部署和优化AI应用，支持150多种大型语言模型的集成与测试。
Braintrust
braintrust.dev
Braintrust是一个开发和优化AI应用的平台，支持实时监控、比较实验和团队协作，以提升模型性能和可靠性。
Martian
withmartian.com
Martian应用通过模型路由器提升AI性能，降低成本，实现高效请求分配，预测模型表现并节省费用，提供成本计算工具。
Arthur
arthur.ai
Arthur是一个AI性能公司，旨在优化模型准确性、可解释性和公平性，支持数据科学家和商业领导者。
TrueFoundry
truefoundry.com
TrueFoundry是一个云原生PaaS平台，帮助机器学习团队在自己的云或本地基础设施上快速构建、部署和管理AI应用。
Rayven
rayven.io
Rayven是一个便捷的SaaS平台，允许企业集成系统、实时数据分析和应用开发，提升运营效率，无需替换现有技术。
Griptape
griptape.ai
Griptape是一款模块化Python框架，支持开发、部署和扩展基于检索的AI应用，能安全连接企业数据和API，简化开发流程。
illumex
illumex.ai
Illumex 是一个AI平台，通过智能的数据建模和分析，帮助用户在不移动数据的情况下获得上下文感知的见解和自动化工具。
Vertesia
vertesiahq.com
Vertesia是一个安全的低代码平台，帮助企业快速开发和部署生成式AI应用，实现智能运营和合规管理。
