LlamaIndex

LlamaIndex 是开源 Python toolkit，帮助为语言模型提供自有数据访问。你加载 PDF、web page 或 database row 等文件，toolkit 将文本切分为 chunk、转为 vector 并存入 FAISS 或 Pinecone 等 vector store。用户提问时，LlamaIndex 找到最佳 chunk、加入 prompt 并发送给模型。此流程称为 retrieval-augmented generation，使 agent 能基于你的内容回答。library 提供 loading、indexing、querying 与 composing tool 的简单 class，减少 boilerplate。它也与 LangChain 等 framework 协作，支持 OpenAI 或 Hugging Face 模型。几行代码即可构建 chatbot、Q&A system 或其他了解你文档的 agent。