LlamaIndex 发布 LlamaParse 与 LlamaCloud 托管解析及数据管线服务

今天是 LlamaIndex 生态的大日子：我们宣布推出 LlamaParse，这是新一代的托管解析、摄取和检索服务，旨在为您的 LLM 和 RAG 应用带来生产级上下文增强。

立即探索我们的免费和付费计划。

作为企业 AI 工程师，使用 LlamaParse 可以让您专注于编写业务逻辑，而不是数据整理。处理大量生产数据，立即带来更好的响应质量。LlamaParse 发布时包含以下关键组件：

LlamaParse：针对包含表格和图表等嵌入对象的复杂文档的专有解析。LlamaParse 直接与 LlamaIndex 摄取和检索集成，让您能够在复杂的半结构化文档上构建检索。您将能够回答以前根本不可能回答的复杂问题。
托管摄取和检索 API：一个 API，允许您轻松加载、处理和存储 RAG 应用的数据，并以任何语言使用。由 LlamaHub 中的数据源支持，包括 LlamaParse，以及我们的数据存储集成。

LlamaParse 从今天起提供公开预览。它目前可以处理 PDF，公开使用有上限；联系我们了解商业条款。托管摄取和检索 API 作为私有预览提供；我们正在向有限的企业设计合作伙伴提供访问权限。如果您感兴趣，请联系我们。（我们还推出了新版网站 🦙！）

RAG 的好坏取决于您的数据

LLM 的核心承诺是能够对任何非结构化数据源自动进行知识搜索、综合、提取和规划。在过去一年中，出现了一种新的数据栈来支持这些上下文增强的 LLM 应用，通常被称为检索增强生成（RAG）。这个栈包括加载数据、处理数据、嵌入数据，并加载到向量数据库中。这使得下游的检索和提示编排能够在 LLM 应用中提供上下文。

这个栈不同于以往的任何 ETL 栈，因为与传统软件不同，数据栈中的每个决策都直接影响准确性，影响整个 LLM 驱动系统。每个决策，如块大小和嵌入模型，都会影响 LLM 的输出，而且由于 LLM 是黑盒，您无法通过单元测试来确保正确行为。

过去一年，我们一直致力于提供工具并教育用户如何为各种用例构建高性能、高级的 RAG。我们的月下载量突破了 200 万次，被从大型企业到初创公司的用户使用，包括 Adyen、T-Systems、Jasper.ai、Weights and Biases、DataStax 等。

但是，虽然我们著名的 5 行入门示例很容易上手，但构建生产级 RAG 仍然是一个复杂而微妙的问题。在数百次用户对话中，我们了解到最大的痛点：

结果不够准确：应用无法为长尾输入任务/查询产生令人满意的结果。
需要调整的参数数量太多：不清楚数据解析、摄取、检索中哪些参数需要调整。
PDF 尤其是个问题：我有许多格式混乱、结构复杂的文档。我该如何以正确的方式表示它，让 LLM 能够理解？
数据同步是一项挑战：生产数据经常定期更新，而持续同步新数据会带来一系列新的挑战。

这些正是我们着手用 LlamaParse 解决的问题。

将你带入生产环境的数据管道

我们构建了 LlamaParse 和 LlamaParse 作为数据管道，让你的 RAG 应用更快进入生产环境。

LlamaParse 是一款最先进的解析器，专为解锁对包含嵌入表格和图表的复杂 PDF 进行 RAG 而设计。这在以前用其他方法根本不可能实现，我们对这项技术感到无比兴奋。

LlamaParse 演示。给定一个 PDF 文件，返回一个解析后的 markdown 文件，保持文档内的语义结构。

过去几个月里，我们一直痴迷于这个问题。这是一个出奇普遍的使用场景，横跨各种数据类型和垂直领域，从 ArXiv 论文到 10K 财报再到医疗报告。

朴素的切块和检索算法表现极差。我们率先提出了一种新颖的递归检索 RAG 技术，能够对文档中的表格和文本进行分层索引和查询。唯一剩下的挑战就是如何首先正确地解析出表格和文本。

LlamaParse 与 PyPDF 在 Apple 10K 财报上的对比。完整对比在此。单元格中的绿色高亮表示 RAG 管道正确返回了该单元格的值作为针对该单元格问题的答案。红色高亮表示问题被错误回答。

这正是 LlamaParse 的用武之地。我们开发了一项专有解析服务，非常擅长将包含复杂表格的 PDF 解析为结构良好的 markdown 格式。这种表示可以直接接入开源库中可用的高级 Markdown 解析和递归检索算法。最终结果是，你能够对复杂文档构建 RAG，从而回答关于表格数据和非结构化数据的问题。查看下面的结果对比：

在 Uber 10K 数据集上的结果。有关我们评估指标的更多信息，请查看我们的评估页面。

该服务以公开预览模式提供：所有人都可以使用，但有使用限制（每天 1k 页）。它作为一项独立服务运行，同时也可接入我们的托管摄取和检索 API（见下文）。查看我们的LlamaParse 入门指南了解更多详情。

from llama_parse import LlamaParse

parser = LlamaParse(
    api_key="llx-...",  
    result_type="markdown",  
    verbose=True
)

如需无限制商业使用 LlamaParse，请与我们联系。

后续步骤

我们的早期用户已经就他们希望接下来看到的功能给了我们重要反馈。目前我们主要支持带表格的 PDF，但我们也在构建对图形的更好支持，并扩展最流行的文档类型：.docx、.pptx、.html。

托管摄取与检索

我们在 LlamaParse 中的另一项主要产品是托管摄取和检索 API，它允许你为任何上下文增强的 LLM 应用轻松声明高性能的数据管道。

为你的 LLM 应用获取干净的数据，这样你就能减少花在数据整理上的时间，把更多时间用于编写核心应用逻辑。LlamaParse 为企业开发者带来以下优势：

节省工程时间：无需用 Python 编写自定义连接器和解析逻辑，我们的 API 让你可以直接连接不同的数据源。
性能：我们为不同数据类型提供良好的开箱即用性能，同时提供直观的路径用于实验、评估和改进。
简化系统复杂性：通过增量更新处理大量数据源。

让我们简要浏览一下核心组件！

数据接入：声明一个托管管道，用于处理和转换/分块/嵌入数据，背后由 LlamaHub 中 150 多个数据源和 40 多个存储集成作为目标端提供支持。自动处理同步和负载均衡。可通过 UI 或我们的开源库进行定义。
检索：获取最先进的、高级检索能力，由我们的开源库和你的数据存储提供支持。将其封装为易于使用的 REST API，你可以从任何语言调用。
Playground：交互式 UI，用于在部署前测试和改进你的数据接入/检索策略，并将评估纳入循环。

LlamaParse Playground：在部署前配置、评估和优化你的数据接入/检索管道。

LlamaParse Retrieval：通过 API 访问基于你的存储系统的高级检索。

我们正在向有限的企业合作伙伴开放托管数据接入和检索 API 的私有测试版。如果你有兴趣集中管理你的数据管道，并花更多时间处理实际的 RAG 用例，欢迎与我们交流。

发布合作伙伴与协作者

我们在二月初与 Futureproof Labs 和 Datastax 共同举办的黑客松上开放了 LlamaParse 的访问权限。我们看到了 LlamaParse 的一些令人难以置信的实际应用，包括为附属住宅单元（ADU）规划解析建筑规范、为购房解析房地产披露文件，以及数十个其他应用。

Mendable AI 联合创始人 Eric Ciarla 将 LlamaParse 整合进了 Mendable 的数据栈：“我们将 LlamaParse 集成到了我们的开源数据连接器仓库中，该仓库为我们的生产数据接入套件提供支持。它易于集成，并且比我们尝试过的任何替代方案都更强大。”

我们也很高兴地欢迎 LLM 和 AI 生态系统中从存储到计算的初始发布合作伙伴和协作者加入。

DataStax

Datastax 已将 LlamaParse 整合进其 RAGStack，为企业带来隐私保护的即用型 RAG 解决方案：“上周，我们的客户 Imprompt 推出了一个开创性的‘Chat-to-Everything’平台，利用由 LlamaIndex 提供支持的 RAGStack 来增强其企业产品，同时优先考虑隐私。”DataStax 首席技术官兼执行副总裁 Davor Bonaci 表示。“我们很高兴与 LlamaIndex 合作，将简化的解决方案推向市场。通过将 LlamaIndex 整合进 RAGStack，我们为企业开发者提供了一个全面的 Gen AI 技术栈，简化了 RAG 实施的复杂性，同时提供长期支持和兼容性保证。”

MongoDB

MongoDB 全球 AI 生态系统负责人 Greg Maxson 表示：“MongoDB 与 LlamaIndex 的合作允许将数据摄取到 MongoDB Atlas Vector 数据库中，并通过 LlamaParse 和 LlamaParse 从 Atlas 中检索索引，从而支持 RAG 系统及其他 AI 应用的开发。”“现在，开发者可以抽象化与数据摄取相关的复杂性，简化 RAG 管道的实现，并更经济高效地开发大型语言模型应用，最终加速生成式 AI 应用的开发，并更快地将应用推向市场。”

Qdrant

Qdrant 首席执行官 André Zayarni 表示：“Qdrant 团队很高兴能与 LlamaIndex 合作，将最优数据预处理、向量化和摄取的能力与 Qdrant 相结合，打造强大的全栈 RAG 解决方案。”

NVIDIA

我们还很高兴与 NVIDIA 合作，将 LlamaIndex 与 NVIDIA AI Enterprise 软件平台集成，用于生产级 AI：“LlamaParse 将帮助企业通过连接器将专有数据与大语言模型的能力相连接，从而将生成式 AI 应用从开发推进到生产环境，”NVIDIA 企业与边缘计算副总裁 Justin Boitano 表示。“将 LlamaParse 与 NVIDIA AI Enterprise 搭配使用，可以加速端到端 LLM 管道——包括数据处理、嵌入创建、索引，以及在跨云、数据中心并延伸至边缘的加速计算上进行模型推理。”

FAQ

这是否会与向量数据库形成竞争？

不会。LlamaParse 主要专注于数据解析和摄取，这是任何向量存储提供商的补充层。检索层是在现有存储系统之上的编排。LlamaIndex 开源版已与 40 多个最流行的向量数据库集成，我们正在努力完成以下事项：

将 LlamaParse 与现有设计合作伙伴的存储提供商集成
让 LlamaParse 以更“自助式”的方式提供。

后续步骤

如以上章节所述，LlamaParse 从今天起开放公开预览，但有使用上限。LlamaParse 处于私密预览模式；我们正在向有限的一组企业设计合作伙伴提供访问权限。如果你感兴趣，欢迎与我们联系！

LlamaParse：Repo、Cookbook、Contact Us

LlamaParse：Contact Us