跳到正文
北京时间
原文
LlamaIndex:产品、工程与评测·· 2023-11-14精选AI 评分61

LlamaIndex 发布 create-llama 命令行工具,一键生成全栈 LlamaIndex 应用

create-llama, a command line tool to generate LlamaIndex apps

AI 导读

LlamaIndex 推出 create-llama 命令行工具,通过 npx create-llama 即可交互式生成一个可与自己数据对话的全栈应用。

推荐理由

原文给出了脚手架工具的技术选项和数据接入方式,开发者可以据此快速判断是否用它搭建 LlamaIndex 应用。

正文 · AI 翻译

隆重推出 create-llama,这是开始使用 LlamaIndex 最简单的方式!

更新于 2023–11–20:我们现在有了一份部署 create-llama 应用的指南!

想利用 LlamaIndex 的强大功能,使用 GPT-4 等 LLM 来加载、索引你的数据并与之对话吗?现在这变得容易多了!我们打造了一个简单易用的命令行工具,能直接为你生成一个全栈应用——你只需带上自己的数据!要开始使用,请运行:

立即了解我们的免费和付费方案。

npx create-llama

随后,应用会向你询问一系列关于你想要什么样的应用的问题。你需要提供自己的 OpenAI API 密钥(或者你可以自定义以使用其他 LLM),并做出几个决定。

它如何获取我的数据?

生成的应用有一个 data 文件夹,你可以在其中放入任意数量的文件;应用会在构建时自动为它们建立索引,之后你就可以快速与它们对话。如果你使用 LlamaIndex.TS 作为后端(见下文),你将能够摄取 PDF、文本、CSV、Markdown、Word 和 HTML 文件。如果你使用 Python 后端,你甚至可以读取更多类型,包括音频和视频文件!

技术细节

它生成的前端是一个 Next.js 应用,你可以选择使用 shadcn/ui 或原生 HTML 和 CSS 来设置样式。

对于后端,你有 3 个选项:

  • Next.js:如果你选择此选项,你将得到一个全栈 Next.js 应用,只需点击几下即可部署到像 Vercel 这样的托管平台。它使用我们的 TypeScript 库 LlamaIndex.TS。
  • Express:如果你想要一个更传统的 Node.js 应用,你可以生成一个 Express 后端。它同样使用 LlamaIndex.TS。
  • Python FastAPI:如果你选择此选项,你将得到一个由 llama-index python 包驱动的后端,你可以将其部署到像 Render 或 fly.io 这样的服务上。

你还会被问到另外几个问题:

  • 流式还是非流式:如果你不确定,你很可能想要一个流式后端。
  • SimpleChatEngine 还是 ContextChatEngine:ContextChatEngine 是使用你数据的那个。如果你只是想和 GPT 聊天,你可以使用 SimpleChatEngine。

尽情去自定义吧!

一旦你的应用运行起来,你就可以随心所欲地自定义它!出于成本考虑,默认情况下应用会使用 GPT-3.5-Turbo。如果你想使用 GPT-4,你可以通过修改文件 app/api/chat/llamaindex-stream.ts(在 Next.js 后端中)来配置,或者你也可以将其配置为完全使用其他 LLM!LlamaIndex 集成了数十种 LLM,包括 API 和本地的。

来源:LlamaIndex:产品、工程与评测 · llamaindex.ai