提取、转换和加载 (ETL) 框架是检索增强生成 (RAG) 用例中数据处理的核心。ETL 管道协调从原始数据源到结构化向量存储的数据流,确保数据以最适合 AI 模型检索的格式呈现。RAG 旨在通过从数据集中检索相关信息来增强生成模型的能力,从而提高生成输出的质量和相关性。
API概览
ETL管道创建、转换和存储文档实例,Document 类包含文本、元数据,还可以选择包含图像、音频和视频等其他媒体类型。

ETL管道主要包含三个组成部分:
Document 类内容是借助 DocumentReader 从 PDF、文本文件和其他文档类型创建而来
DocumentReader实现了Supplier<List<Document>>DocumentTransformer实现了Function<List<Document>, List<Document>>DocumentWriter实现了Consumer<List<Document>>
