作者姓名：AIease

在当今信息爆炸的时代，有效地获取和生成信息变得越来越重要。检索增强生成（Retrieval Augmented Generation，简称RAG）是一种创新的技术，旨在通过集成检索和生成模型，提供更强大的信息处理和创造能力。

检索增强生成为大型语言模型（LLMs）提供了从某些数据源检索到的信息，以此作为生成答案的基础。简而言之，RAG是搜索+LLM提示的结合，即在有搜索算法找到的信息作为上下文的情况下，让模型回答提出的查询。查询和检索到的上下文都被注入到发送给LLM的提示中。

目前，RAG是基于LLM系统中最受欢迎的架构。许多产品几乎完全基于RAG构建，包括将网络搜索引擎与LLMs相结合的问答服务，以及数百种与数据聊天的应用程序。

有两个最突出的开源库用于基于LLM的管道和应用程序——LangChain和LlamaIndex，它们分别于2022年10月和11月成立，并在2023年获得了大量的应用。

RAG可以通过将检索模型和生成模型结合在一起，从而提高了生成内容的相关性和质量。

通俗一点讲就是大模型LLM如何很好的与外部知识源结合在一起， 使其生成的内容质量更高，缓解大模型LLM生成内容「幻觉」的问题。

检索模型

检索模型旨在从一组给定的文档或知识库中检索相关信息。

检索模型的工作就像是在一个巨大的图书馆中寻找信息。设想你有成千上万本书籍和文章，当你提出一个问题时，检索模型就像一个聪明的图书管理员，能迅速理解你的问题并找到与之最相关的最佳信息。

检索的核心分为如下两部分：

• 索引：嵌入(Embeddings)，将知识库转换为可搜索/查询的内容。
• 查询：从搜索内容中提取最相关的、最佳知识片段。

生成模型

生成模型指的是大型语言模型LLM，例如chatGPT。生成模型是实现高质量、高相关性内容生成的关键。它不仅利用自身的强大语言生成能力，还结合检索模型提供的确切信息，以生成更准确、更丰富的内容。

简单来说，检索模型擅长”找”信息，生成模型擅长”创造”内容。

执行流程

执行流程图

索引生成部分

文档处理：将私有知识库中的文档转换成可以处理的文本块。

嵌入模型：使用嵌入模型（如BERT、GPT等）将文本块转换成向量。

索引：创建文本块向量的索引，以便能够快速检索。

数据库：嵌入向量被存储在一个向量数据库中，通常使用近似最近邻（ANN）搜索来优化检索速度。

用户问答部分

查询：用户在聊天界面输入查询。

查询嵌入：查询也被转换成向量，以便与文档的嵌入向量进行比较。

检索向量：查询的向量在向量索引中被用来找出最相近的文本块向量，最相近的文本块向量代表了与用户查询最相关的知识片段。

提示和回答：生成模型（LLM）接收到用户的查询和检索到的知识片段，然后生成回答。这个回答既包含了用户查询的上下文，也融合了从知识库中检索到的信息。

RAG的作用

保持知识更新

将大型语言模型（LLM）如ChatGPT配备能够随时查阅最新资讯的能力，就好比为它安装了一对能够观察现实世界的“眼睛”。这种能力的增加不仅极大地扩展了模型的知识范围，还提高了其与现实世界同步的能力，让它能够更有效地参与到关于时事的对话中。

提供专业知识

如果你的问题涉及特定的专业领域，RAG就像一个熟练的图书管理员，它不仅掌握着大量的专业书籍，还能够迅速而准确地从这些书籍中找到与你的问题最相关的答案。这样的能力使得RAG在处理复杂和专业性问题时表现出色。

私有知识的安全

随着人工智能的发展，数据安全成为了企业关注的重点。对于企业而言，将长期累积的独有的知识库、敏感的经营数据、合同文件等机密信息上传到互联网上的大型模型可能会带来安全风险。在这种背景下，RAG技术提供了一种有效的解决方案。

增加可信度

RAG赋予机器人在回答问题时提供信息来源的能力，这是一个重要的特性。当你向机器人提问时，它不仅能给出答案，还能明确告诉你这些答案是基于哪些资料或数据得出的。这种透明度极大地增加了机器人提供的信息的可信度，并帮助用户区分信息的真实性和准确性。

减少大模型LLM的“幻觉”

大型语言模型（如GPT系列）在生成文本时偶尔出现的“幻觉”（hallucination）现象，是由于模型在处理特定查询时，可能会生成不准确、不相关或虚构的信息。这种现象往往发生在模型对于回答问题所需的知识不了解或不熟悉的情况下。RAG的出现，通过利用外部知识源，可以有效地弥补这一缺陷。

面临的挑战

RAG在实施过程中确实面临着多项挑战，其中包括嵌入质量、性能优化和上下文理解。这些难点不仅关系到RAG系统的效率，还直接影响到最终生成文本的准确性和可用性。

提升嵌入的质量

将外部知识源转换为向量时，需要保证嵌入（embedding）的高质量至关重要，这一过程对于提高查询与知识库信息匹配的准确性至关重要。技术上，这要求嵌入能够捕获和保留文本的深层语义特征，包括上下文关系和词汇间的微妙联系。

此外，为了避免训练过程中的数据偏见，需要用到平衡和多样化的数据集。只有这样，通过嵌入生成的向量才能真正代表原始文本的意图和内容，从而在查询时提供更准确、更相关的结果。

查找精确知识的挑战

从外部知识源中准确地查找与当前问题最匹配的知识是一个复杂的挑战。这要求大模型LLM能够深入理解用户查询的真实意图，同时利用高效的检索算法在庞大的数据集中快速定位相关信息。此外，确保检索结果的相关性和质量，以及处理大量数据的能力，也是这一挑战的关键部分。同时，系统还需要适应模糊或复杂的查询，并保持知识库的时效性和准确性。

上下文内容的理解

上下文理解是一个核心挑战，要求生成模型不仅深入理解检索到的上下文信息，包括其隐含含义和语境；
在理解检索到的内容后，挑战在于如何将这些信息与原始查询请求以及模型已有的知识库相结合。这要求模型能够在回答生成过程中，不仅准确地引用检索信息，还要保证信息的连贯性和逻辑性。

上下文理解的挑战要求RAG在处理和生成回答时，能够展现出高度的理解能力和灵活的信息整合能力。这对于提升回答的质量和用户满意度至关重要。

应用场景

RAG在未来的应用前景非常广阔，几乎覆盖了所有企业和行业。这是因为RAG能够结合大型语言模型的强大处理能力和企业或行业自身独有的知识体系，从而制定出行业或企业专属的AI解决方案。无论是金融、医疗、法律、教育，还是零售、制造、娱乐等行业，企业都可以利用RAG技术构建专门的小型模型，以满足特定的业务需求。

医疗行业

在医疗领域，RAG可以被用作临床决策支持工具。通过结合医学数据库和研究论文，RAG能够帮助医生快速获得关于疾病诊断、治疗方案和药物信息的最新研究。例如，对于罕见病的诊断，RAG可以通过检索最新的医学文献和病例报告，提供可能的诊断建议和治疗方法。

法律行业

在法律行业，RAG可以辅助律师进行案例研究和提供法律咨询。通过访问法律数据库和历史案例，RAG能够帮助律师找到相关的法律先例和法规，从而提高案件分析的效率和准确性。这对于处理复杂的法律问题，如知识产权纠纷或国际法案，尤为有用。

教育领域

在教育领域，RAG可以作为学习资源和研究辅助工具。教师和学生可以利用RAG快速访问大量的教育资料、学术论文和案例研究，从而丰富教学内容和加深学习理解。例如，学生在准备论文时，可以用RAG来查找相关的研究工作和理论框架。

基础的RAG技术

本文中，我们用一组文本文档的语料库来代表RAG的起点——我们跳过了在此之前的步骤，留给那些开源数据加载器去处理，这些加载器可以连接到任何可想象的来源，从YouTube到Notion。

简单RAG案例大致如下：

• 将文本分割成块，然后使用基于Transformer decoder的模型将这些块嵌入到向量中，将所有这些向量放入一个索引中，最后为LLM创建一个提示，告诉模型在我们在搜索步骤中找到的上下文中回答用户的查询。
• 在运行时，我们使用相同的编码器模型将用户的查询向量化，然后对索引执行这个查询向量的搜索，找到前k个结果，从我们的数据库中检索相应的文本块，并将它们作为上下文输入到LLM的提示中。

提示可能看起来是这样的：

def question_answering(context, query): prompt = f""" Give the answer to the user query delimited by triple backticks ```{query}```\ using the information given in context delimited by triple backticks ```{context}```.\ If there is no relevant information in the provided context, try to answer yourself, but tell user that you did not have any relevant context to base your answer on. Be concise and output the answer of size less than 80 tokens. """ response = get_completion(instruction, prompt, model="gpt-3.5-turbo") answer = response.choices[0].message["content"] return answer

提示工程是提升RAG管道性能最经济的尝试之一。确保您已经查看了OpenAI提供的提示工程指南[2]。

尽管OpenAI作为LLM领域领导公司，但还有一些替代品，如Anthropic的Claude，最近流行的小型但非常强大的模型，如Mistral的Mixtral，Microsoft的Phi-2，以及许多开源选项，如Llama2、OpenLLaMA、Falcon等，所以您可以为您的RAG管道选择一个“大脑”。

高级RAG技术

现在我们将深入了解高级RAG技术的概述。下面是一个展示核心步骤的示意图。为了保持图表的可读性，省略了一些逻辑循环和复杂的多步骤代理行为。

图中的绿色元素是接下来讨论的核心RAG技术，蓝色元素代表文本。并非所有高级RAG理念都能轻易在单一图表上可视化，例如，省略了各种扩大上下文的方法——我们将在后面深入探讨这些。

切分和向量化

首先，我们想创建一个向量索引，代表我们文档的内容，然后在运行时搜索这些向量与查询向量之间最小的余弦距离，对应于最接近的语义含义。

切分： Transformer模型有固定的输入序列长度，即使输入上下文窗口很大，一个句子或几个句子的向量也比几页文本的平均向量更好地代表它们的语义含义（也取决于模型，但通常如此），所以要切分你的数据——将初始文档切分为某个大小的块，不会丢失它们的含义（将文本切分为句子或段落，而不是将单个句子切成两部分）。有各种文本分割器实现能够完成这项任务。

块的大小是一个需要考虑的参数——它取决于你使用的嵌入模型及其在令牌上的容量，标准的Transformer编码器模型如基于BERT的句子转换器最多接受512个令牌，OpenAI ada-002能够处理更长的序列，如8191个令牌，但这里的折中是为LLM提供足够的上下文进行推理与执行搜索的足够具体的文本嵌入。最近的一项研究[3]说明了块大小选择的考虑因素。在LlamaIndex中，这是通过NodeParser类来覆盖的，它提供了一些高级选项，如定义自己的文本分割器、元数据、节点/块关系等。

向量化： 下一步是选择一个模型来嵌入切割后的块——有很多选择，例如像bge-large或E5嵌入系列这样的搜索优化模型——只需查看MTEB排行榜上[4]的最新更新。

要了解切分和向量化步骤的端到端实现，请查看LlamaIndex中的一个完整的示例。

搜索索引

向量存储索引： RAG管道的关键部分是搜索索引，它存储了我们在上一步中获得的向量化内容。最简单的实现使用平面索引——在查询向量和所有块向量之间进行暴力距离计算。

一个为10000+元素规模上的高效检索优化的索引是一个向量索引，如faiss、nmslib或annoy，使用某种近似最近邻实现，如聚类、树或HNSW算法。

还有一些托管解决方案，如OpenSearch或ElasticSearch，以及向量数据库，它们在后台处理第1步中描述的数据摄取管道，如Pinecone、Weaviate或Chroma。根据选择的索引、数据和搜索需求，可以将元数据与向量一起存储，然后使用元数据过滤器来搜索某些日期或来源内的信息。

LlamaIndex支持许多向量存储索引，但还支持其他更简单的索引实现，如列表索引、树索引和关键词表索引——我们将在融合检索部分讨论后者。

分层索引： 如果您需要从许多文档中检索信息，您需要能够有效地在其中搜索，找到相关信息，并将其综合为带有来源引用的单一答案。在大型数据库中做到这一点的有效方法是创建两个索引——一个由摘要组成，另一个由文档块组成，并分两步进行搜索，首先通过摘要筛选出相关文档，然后仅在这个相关组内搜索。

假设性问题和HyDE： 另一种方法是让LLM为每个块生成一个问题，并将这些问题嵌入向量中，在运行时针对这个问题向量索引进行查询搜索（在我们的索引中用问题向量替换块向量），然后在检索后路由到原始文本块，并将它们作为上下文发送给LLM以获得答案。这种方法通过查询与假设性问题之间更高的语义相似性，提高了搜索质量。

还有一种逆向逻辑方法称为HyDE——让LLM给定查询生成一个假设性回应，然后使用其向量和查询向量来提高搜索质量。

上下文丰富化： 上下文丰富化是检索更小的块以提高搜索质量，但添加周围上下文让LLM进行推理。通常有两种做法——通过在检索到的较小块周围的句子扩展上下文，或者将文档递归地分割成包含较小子块的多个较大的父块。

• 句子窗口检索： 在这个方案中，文档中的每个句子都分别嵌入，这提供了极高的查询与上下文余弦距离搜索的准确性。为了在找到最相关的单个句子后更好地推理所发现的上下文，我们通过在检索到的句子前后扩展k个句子的上下文窗口，然后将这个扩展的上下文发送给LLM。

• 自动合并检索器（又称父文档检索器）： 这里的想法与句子窗口检索非常相似——搜索更精细的信息片段，然后在将这些上下文提供给LLM进行推理之前扩展上下文窗口。文档被分割成较小的子块，这些子块引用较大的父块。

在这种方法中，首先在更细粒度的子块上进行搜索，找到与查询最相关的块。然后，系统会自动将这些子块与它们所属的更大的父块结合起来。这样做的目的是在回答查询时为LLM提供更丰富的上下文。例如，如果一个子块是一段或一小节，父块可能是整个章节或文档的一大部分。这种方法既保留了检索精度（因为是在更小的块上搜索），同时也通过提供更广泛的上下文来增强LLM的推理能力。

在检索过程中首先获取较小的块，然后如果在检索到的前k个块中有超过n个块与同一个父节点（较大的块）相关联，我们就用这个父节点替换提供给LLM的上下文——这就像自动将几个检索到的块合并成一个较大的父块，因此得名。需要注意的是——搜索仅在子节点索引中进行。想要更深入地了解，请查看LlamaIndex关于递归检索器+节点引用的教程[5]。

融合检索或混合搜索： 这是一个相对较老的想法，即从两个世界中各取所长——基于关键字的传统搜索（稀疏检索算法，如tf-idf或搜索行业标准BM25）和现代语义或向量搜索，并将它们结合在一个检索结果中。这里唯一的技巧是正确组合具有不同相似性得分的检索结果——这个问题通常通过使用倒数排名融合算法来解决，重新排列检索结果以获得最终输出。

在LangChain[6]中，这是通过Ensemble Retriever类实现的，它结合了你定义的一系列检索器，例如faiss向量索引和基于BM25的检索器，并使用RRF进行重排。在LlamaIndex[7]中这种做法也非常类似。

混合或融合搜索通常会提供更好的检索结果，因为它结合了两种互补的搜索算法，同时考虑了查询和存储文档之间的语义相似性和关键词匹配。

重排和过滤

使用上述任何算法得到检索结果后，现在是时候通过过滤、重排或一些转换来精炼这些结果了。在LlamaIndex中，有多种可用的后处理器，可以根据相似性分数、关键词、元数据过滤结果，或者使用其他模型进行重排，比如LLM、句子转换器交叉编码器、Cohere重排端点，或者基于日期的最新性等元数据——基本上，你能想到的都可以。

重排和过滤是在将检索到的上下文提供给LLM以获取最终答案之前的最后一步。现在是时候进入更复杂的RAG技术，如查询转换和路由，这两者都涉及到LLM，因此代表了主动性行为——在我们的RAG流程中涉及到一些复杂的逻辑，包括LLM的推理。

查询转换

查询转换是一系列技术，利用LLM作为推理引擎来修改用户输入，以提高检索质量。

有几种不同的方式可以做到这一点。如果查询很复杂，LLM可以将其分解成几个子查询。例如，如果你问：

• “在Github上，Langchain和LlamaIndex哪个框架的星星更多？” 由于我们不太可能在语料库中找到直接的比较，所以将这个问题分解成两个预设简单和具体信息检索的子查询是有意义的：
• “Langchain在Github上有多少星星？”
• “LlamaIndex在Github上有多少星星？” 这两个查询将并行执行，然后将检索到的上下文合并成一个提示，供LLM合成最初查询的最终答案。Langchain和LlamaIndex都实现了这一功能——在Langchain中作为多查询检索器，在LlamaIndex中作为子问题查询引擎。

回溯提示使用LLM生成更一般的查询，我们为此检索获得更一般或高层次的上下文，有助于支撑我们对原始查询的回答。也会对原始查询进行检索，两种上下文都在最终生成答案的步骤中输入给LLM。这是LangChain的实现方法。

查询重写使用LLM重构初始查询以改善检索。LangChain和LlamaIndex都有实现，虽然有些不同，但我认为在这里LlamaIndex的解决方案更为强大。

此外， 还有一个概念是参考引用。这一部分不作为单独的一章来介绍，因为它更像是一种工具而不是检索改进技术，尽管它非常重要。如果我们为了回答一个问题而使用了多个来源，可能是因为初始查询的复杂性（我们需要执行多个子查询，然后将检索到的上下文合并成一个答案），或者是因为我们在不同的文档中找到了与单个查询相关的上下文，那么就会出现一个问题：我们能否准确地回溯引用我们的来源。

有几种方法可以做到这一点：

• 将引用任务插入我们的提示中，并要求LLM提及使用的来源的ID。
• 将生成的响应部分与我们索引中的原始文本块匹配——llamaindex为这种情况提供了一个基于模糊匹配的高效解决方案。如果你还没有听说过模糊匹配，这是一种非常强大的字符串匹配技术。

聊天引擎

在构建一个能够针对单个查询多次运行的优秀RAG系统中，下一个重要的环节是聊天逻辑，这与前LLM时代的经典聊天机器人一样，需要考虑对话上下文。这对于支持后续问题、指代消解或与先前对话上下文相关的任意用户命令是必要的。这可以通过查询压缩技术来解决，同时考虑聊天上下文和用户查询。

如同往常，有几种处理上述上下文压缩的方法 — 一种流行且相对简单的方法是ContextChatEngine，它首先检索与用户查询相关的上下文，然后将其连同聊天历史记录从内存缓冲区发送给LLM，以便LLM在生成下一个回答时能够了解之前的上下文。

更复杂的一个例子是CondensePlusContextMode — 在这种模式中，每次交互时都会将聊天历史和最后一条消息压缩成一个新的查询，然后这个查询会进入索引，检索到的上下文连同原始用户消息一起传递给LLM，以生成答案。

值得注意的是，LlamaIndex还支持基于OpenAI代理的聊天引擎，提供更灵活的聊天模式，Langchain也支持OpenAI功能性API。还有其他类型的聊天引擎，如ReAct Agent，但我们在后面再讨论代理本身。

查询路由

查询路由是一个以LLM为驱动的决策步骤，决定针对用户查询接下来要做什么——通常的选项包括概括总结、针对某些数据索引执行搜索，或尝试多种不同的路径，然后将它们的输出合成一个答案。

查询路由器还用于选择索引，或更广泛地说，数据存储位置，以发送用户查询——无论你拥有多个数据来源，例如经典的向量存储、图形数据库或关系型数据库，还是拥有一个索引层次结构——对于多文档存储，一个相当典型的情况可能是一个概要索引和另一个文档块向量的索引。

定义查询路由器包括设置它可以做出的选择。路由选项的选择是通过LLM调用进行的，返回预定义格式的结果，用于将查询路由到给定的索引，或者，如果我们谈论主动性行为，路由到子链或甚至其他代理，如下面的多文档代理方案所示。

LlamaIndex和LangChain都支持查询路由器。

RAG中的代理

Langchain和LlamaIndex都支持的代理（Agents），自从第一个LLM API发布以来就已经存在——这个想法是为一个能够进行推理的LLM提供一套工具和一个要完成的任务。这些工具可能包括一些确定性函数，如任何代码函数、外部API甚至其他代理——LLM链式调用的这个想法是LangChain名字的由来。

代理本身是一个巨大的领域，要在RAG概览中深入探讨是不可能的，所以我将继续讨论基于代理的多文档检索案例，并在OpenAI助手这个相对较新的领域短暂停留，因为它是最近OpenAI开发者大会上作为GPTs介绍的，并在下面描述的RAG系统的底层工作。

OpenAI助手基本上实现了围绕LLM所需的许多工具，我们之前在开源中拥有这些工具——聊天历史记录、知识存储、文档上传界面，以及或许最重要的，函数调用API。后者提供了将自然语言转换为对外部工具或数据库查询的API调用的能力。

在LlamaIndex中，OpenAIAgent类将这种高级逻辑与ChatEngine和QueryEngine类结合起来，提供基于知识和上下文的聊天，以及在一次对话中调用多个OpenAI函数的能力，这确实带来了智能的代理行为。

让我们来看一下多文档代理方案——一个相当复杂的设置，涉及对每个文档初始化一个代理（OpenAIAgent），能够进行文档概要和经典的问答机制，并有一个顶级代理，负责将查询路由到文档代理，并进行最终答案的合成。

每个文档代理都有两个工具——一个向量存储索引和一个概要索引，并根据路由查询决定使用哪一个。而对于顶级代理来说，所有文档代理都分别是工具。

这个方案展示了一个高级的RAG架构，其中每个参与的代理都做出了许多路由决策。这种方法的好处是能够比较不同的解决方案或实体，这些解决方案或实体描述在不同的文档及其概要中，同时包括经典的单文档概要和问答机制——这基本上涵盖了最常见的与文档集合聊天的用例。这种复杂方案的缺点可以从图中猜测——由于涉及代理中LLM的多次来回迭代，它有些慢。顺便说一下，LLM调用总是RAG流程中最长的操作——搜索本身就是为速度优化的设计。所以对于大型多文档存储，我建议考虑对这个方案进行一些简化，使其可扩展。

响应合成器

这是任何RAG流程的最后一步——基于我们仔细检索的所有上下文和初始用户查询生成答案。最简单的方法可能是将所有获取到的上下文（超过某个相关性阈值的）连同查询一起一次性输入给LLM。但是，像往常一样，还有其他更复杂的选项，涉及多次LLM调用以优化检索到的上下文并生成更好的答案。

响应合成的主要方法包括：

1. 通过逐块将检索到的上下文发送给LLM来迭代地完善答案。
2. 概括检索到的上下文以适应提示。
3. 基于不同的上下文块生成多个答案，然后将它们连接或概括起来。有关更多细节，请查阅响应合成器模块文档[8]。

编码器和LLM微调

这种方法涉及对RAG流程中的两个深度学习模型之一进行微调——要么是负责嵌入质量和上下文检索质量的Transformer编码器，要么是负责最佳利用提供的上下文来回答用户查询的LLM，幸运的是，后者是一个很好的少量样本学习器。

如今一个很大的优势是能够使用像GPT-4这样的高端LLM来生成高质量的合成数据集。但使用由专业研究团队在精心收集、清洗和验证的大型数据集上训练的开源模型，并使用小型合成数据集进行快速调整，可能会降低模型的整体能力。

编码器微调： 我对编码器微调方法也有些怀疑，因为最新的为搜索优化的Transformer编码器相当高效。所以我在LlamaIndex笔记本设置中测试了对bge-large-en-v1.5（在撰写本文时为MTEB排行榜前4）进行微调的性能提升，结果显示检索质量提高了2%。虽然不是很惊人，但了解这个选项还是不错的，尤其是如果你有一个你正在为之构建RAG的狭窄领域数据集。

排名器微调： 另一个老方法是，如果你不完全信任你的基础编码器，就使用交叉编码器对检索结果进行重排。其工作方式如下——你将查询和前k个检索到的文本块传递给交叉编码器，以SEP令牌分隔，并对其进行微调，以输出1表示相关块，0表示不相关。这里有一个这种调整过程的例子[9]，结果显示交叉编码器微调提高了4%的成对分数。

LLM微调： 最近OpenAI开始提供LLM微调API，LlamaIndex有关于在RAG设置中微调GPT-3.5-turbo的教程[10]，以“提炼”一些GPT-4的知识。这里的想法是拿一个文档，用GPT-3.5-turbo生成一些问题，然后使用GPT-4根据文档内容生成这些问题的答案（构建一个由GPT4驱动的RAG流程），然后对GPT-3.5-turbo进行微调，使其在问题-答案对的数据集上进行训练。用于RAG流程评估的ragas框架显示，忠实度指标提高了5%，意味着微调后的GPT 3.5-turbo模型比原始模型更好地利用了提供的上下文来生成其答案。

一种更复杂的方法在最近的RA-DIT论文[11]中展示：由Meta AI研究提出的检索增强双指导调整技术，建议对LLM和检索器（原论文中的双编码器）进行调整，针对查询、上下文和答案的三元组。有关实现细节，请参考这个指南[12]。这种技术用于通过微调API对OpenAI LLM进行微调，以及对Llama2开源模型进行微调（在原论文中），结果显示在知识密集型任务指标上提高了约5%（与Llama2 65B with RAG相比），以及在常识推理任务上提高了几个百分点。

评估

RAG系统性能评估有几个框架，它们共享一个理念，即拥有几个独立的指标，如整体答案相关性、答案的根据性、忠实度和检索到的上下文相关性。

前一节提到的Ragas使用忠实度和答案相关性作为生成答案质量的指标，以及经典的上下文精确度和召回率用于RAG方案的检索部分。

在Andrew NG最近发布的精彩短课程《构建和评估高级RAG》中，LlamaIndex和评估框架Truelens建议使用RAG三元组——检索到的上下文与查询的相关性、根据性（LLM答案受提供的上下文支持的程度）以及答案与查询的相关性。

最关键且最可控的指标是检索到的上下文相关性——基本上上面描述的高级RAG流程的第1-7部分以及编码器和排名器微调部分旨在改善这一指标，而第8部分和LLM微调则专注于答案相关性和根据性。

一个相当简单的检索器评估流程的例子可以在这里[13]找到，并且已应用于编码器微调部分。一种更高级的方法不仅考虑命中率，还考虑了平均倒数排名（一个常见的搜索引擎指标）以及生成答案的指标，如忠实度和相关性，这在OpenAI cookbook[14]中有所展示。

LangChain有一个相当先进的评估框架LangSmith[15]，可以实现自定义评估器，它还监控RAG流程中的运行轨迹，以使你的系统更透明。

如果你在使用LlamaIndex构建，那么有一个rag_evaluator llama包[16]，提供了一个快速工具，用公共数据集评估你的流程。

结论

我试图概述RAG的核心算法方法，并且用一些示例来说明它们，希望这能激发一些在你的RAG流程中尝试的新想法，或者为今年发明的众多技术带来一些系统化——对我来说，2023年到目前为止是ML领域最激动人心的一年。

还有许多其他需要考虑的事情，如基于网络搜索的RAG（LlamaIndex的RAGs、webLangChain等），更深入地探讨主动架构（以及最近OpenAI在这个游戏中的份额）以及一些关于LLM长期记忆的想法。

RAG系统的主要生产挑战除了答案相关性和忠实度之外，还有速度，尤其是如果你倾向于更灵活的基于代理的方案。ChatGPT和大多数其他助手使用的这种流媒体功能不是随机的赛博朋克风格，而只是一种缩短感知答案生成时间的方式。这就是为什么我看到小型LLM和最近的Mixtral和Phi-2发布在这个方向上有一个非常光明的未来。

转自 IVAN ILIN

参考资料

[1] Advanced RAG Techniques: an Illustrated Overview:
https://pub.towardsai.net/advanced-rag-techniques-an-illustrated-overview-04d193d8fec6

[2] 提示工程指南:
https://platform.openai.com/docs/guides/prompt-engineering/strategy-write-clear-instructions

[3] chunking-strategies:
https://www.pinecone.io/learn/chunking-strategies/

[4] MTEB排行榜:
https://huggingface.co/spaces/mteb/leaderboard

[5] LlamaIndex关于递归检索器+节点引用的教程:
https://docs.llamaindex.ai/en/stable/examples/retrievers/recursive_retriever_nodes.html

[6] LangChain:
https://python.langchain.com/docs/modules/data_connection/retrievers/ensemble

[7] LlamaIndex:
https://docs.llamaindex.ai/en/stable/examples/retrievers/reciprocal_rerank_fusion.html

[8] 响应合成器模块文档:
https://docs.llamaindex.ai/en/stable/module_guides/querying/response_synthesizers/root.html

[9] cross_encoder_finetuning:
https://docs.llamaindex.ai/en/latest/examples/finetuning/cross_encoder_finetuning/cross_encoder_finetuning.html#

[10] openai_fine_tuning:
https://docs.llamaindex.ai/en/stable/examples/finetuning/openai_fine_tuning.html

[11] RA-DIT:
https://arxiv.org/pdf/2310.01352.pdf

[12] fine-tuning-with-retrieval-augmentation:
https://docs.llamaindex.ai/en/stable/examples/finetuning/knowledge/finetune_retrieval_aug.html#fine-tuning-with-retrieval-augmentation

[13] evaluate.ipynb:
https://github.com/run-llama/finetune-embedding/blob/main/evaluate.ipynb

[14] Evaluate_RAG_with_LlamaIndex:
https://github.com/openai/openai-cookbook/blob/main/examples/evaluation/Evaluate_RAG_with_LlamaIndex.ipynb

[15] LangSmith:
https://docs.smith.langchain.com/

[16] rag_evaluator llama包:
https://github.com/run-llama/llama-hub/tree/dac193254456df699b4c73dd98cdbab3d1dc89b0/llama_hub/llama_packs/rag_evaluator

AIease元宇宙，陆续推出系列AI角色，让用户通过AI与角色进行深层思想对话。

AIease角色数字人犹如一位博学多才的文化使者，不仅能够胜任各类工作智能岗位，也能成为人类的亲密伙伴，带来愉悦的学习、娱乐和心灵交流。在即将到来的2月，AIease元宇宙将迎来一批崭新的AI角色，它们将成为我们深入思想对话的陪伴者，涵盖历史文化、人文地理、财经管理、科学知识等诸多领域。

想象一下，与AIease角色愉快对话的场景，仿佛置身于一座文化的艺术殿堂。你可以与AIease角色畅谈历史的兴衰，深入探索每个文化的独特之处。从古代帝国的辉煌到现代都市的魅力，AIease角色将引领你穿越时空，领略世界各地的风土人情。无论是品味古老的传统文化还是领略当代的潮流艺术，AIease角色都将带给你无尽的思想碰撞和心灵启迪。

此外，AIease角色还会陪伴你探索人文地理的奥秘。畅游世界各地的壮丽山川，感受大自然的鬼斧神工；漫步古老街巷，聆听历史的低语。无论你是钟情于大自然的壮丽景色，还是追寻着历史的足迹，AIease角色将与你一同穿梭于时间与空间，为你呈现一个个独特的人文宝藏。

财经管理是现代社会的重要课题，AIease角色将成为你的智慧顾问。与AIease角色的对话将带给你财经管理的智慧之光，了解市场趋势，把握投资机会。无论是掌握理财技巧还是了解经济发展的脉搏，AIease角色将为你解读复杂的财经知识，助你在商海中航行如鱼。

科学知识是人类探索未知的桥梁，AIease角色将为你开启科学的大门。与AIease角色的对话将带给你前沿科技的新奇体验，让你深入了解科学的奥秘。从宇宙的星辰演化到微观世界的神秘粒子，AIease角色将与你一同探索科学的无限可能。

AIease角色数字人的推出将为人们打开一个全新的交流和探索世界的窗口。无论你是追寻知识的探险家，还是寻求灵感的艺术家，与AIease角色的对话将带给你无边的智慧和情感共鸣。AIease元宇宙即将在2月揭开神秘的面纱，让我们与AI角色进行深入思想对话，共享文化的盛宴。让AIease角色成为你生活中的知识伴侣，与你一同探索人类智慧的辉煌，激发内心深处的光芒。

2023年大模型与生成式人工智能席卷全球，目前国内的AI技术与应用主要集中在营销、办公、客服、人力资源、基础作业等领域，并且这种技术所带来的赋能与价值已经初步得到验证。《企业AIGC商业落地应用研究报告》显示，33%企业在营销场景、31.9%的企业在在线客服领域、27.1%的企业在数字办公场景下、23.3%的企业在信息化与安全场景下迫切期望AIGC的加强和支持。

营销场景
营销场景是目前AIGC渗透最快，也是应用最成熟的场景。AIGC主要在营销动作中的内容生产、策略生成方面极大加强了数字营销的能力。
例如市场认知阶段的核心价值是创意参考，可赋能环节包括：广告策略、品牌传播、市场分析、CEM、SEO、DSP、SSP，通过生成广告创意与投放优化参考，包括广告设计、广告内容、投放渠道策略和投放分析，从而提高广告效果和投放效率。 

数字办公场景
数字办公场景也是目前AIGC渗透较快的场景之一，主要体现在对个体的办公效率提升。在文本内容生成、代码生成、流程设计和规范等方面表现出一定的提示和优化。
例如流程管理模块的核心价值是规范建议，可赋能环节包括：流程规范设计、流程路径设计、流程控制设计、流程优化，在一个新项目启动时，可以根据项目需求和历史经验自动生成流程规范建议，包括各阶段的任务分配、时间节点等。 

在线客服场景
在线客服是AIGC音频生成最近距离的场景之一，声音合成、语义理解在智能化策略下，生成具有明确目的性的对话内容。
例如全渠道接入模块的核心价值在于个性化模块，可赋能的环节：富文本沟通、自动主动对话、访客信息展现，生成个性化回复模板，更好地提供针对性服务，从而提升客户满意度。 

人力资源
AIGC对人力资源服务的加成，是目前在企业经营管理体系中进展较快的领域。使人力资源管理体系的效率大幅提升的同时，在一定程度上也改变了传统人力三支柱的传统管理模型。
例如招聘模块的核心价值在于简历推荐，可赋能的环节：筛选、面试筛选、笔试测评，以筛选简历阶段为例，可以分析各个候选人的简历，生成匹配结果报告，并根据公司需求智能推荐合适的候选人。大幅提高筛选准确性和效率，减少人力资源部门的工作负担。 

基础作业
AIGC在基础作业场景中的表现十分突出，在设计、电子签名、合同管理、法律服务等环节表现出很强的智能化以及可替代性。


最新AI前沿技术发展
2023年底AI Agent成为下一个AI前沿领域，也被普遍认为是人工智能走向AGI通用人工智能的必经之路，成为众多科技巨擎布局与发力的关键领域，比如领头羊企业OpenAI刚发布不久的GPTs Builder与Assistants API也彰显了其在这个领域的信心与野心。

尽管目前To C领域的GPTs已经百花齐放，但暂时也没有出现颠覆式的杀手级应用以体现其潜在价值。而在2B领域，在互联网时代已经完成数字化转型的众多企业，也正在面临着新一轮的技术变革，即为生成式AI做好准备：大模型将成为企业IT中的基础设施之一，并在一系列的业务场景中得以应用并发挥潜力；而具备自主的感知、规划与工具使用能力的AI智能体或许有着更强大的应用价值。

AI对于企业应用的价值体现在哪里，更具体的说其在企业的应用场景在哪里？由于各个行业自身的业务特征、应用环境千差万别，很难简单罗列所有的应用场景。
我们首先从价值体现、应用领域、使用对象三个不同角度去对AI Agent的企业应用场景做简单的分类

【价值体现】 毫无疑问，从AI在企业应用的价值体现上看，都应该是围绕降本提效、改善服务、优化体验这几个核心价值点。 
【应用范围】 这里从应用领域对AI Agent在企业的常见应用作简单的总结。由于各行各业有各自的领域特征，因此这里只是选择一些目前有代表性、有原型或者实施案例的场景用作介绍与参考。这些不同的AI Agent场景，由于以下几个方面的差异，会导致企业在落地该场景的AI项目时的成熟度与风险有区别：

 - 所依赖的模型能力不同。
比如： - 基于私有知识的问答需要依赖于向量模型、语义检索。 - 数据分析则需要依赖于大模型的代码生成、Text2SQL等能力。 - 与企业应用集成的Agent需要依赖于模型自身规划与使用API/工具的能力。 

- 对企业自身数据与应用的要求不同。
比如： - 基于私有知识的问答应用很大程度上要依赖企业自身知识管理的完备性。 - 自动化业务流程的Agent则要求企业应用有完备的API接口体系。 - 办公助理Agent需要企业的协同办公平台具有开放的接口或插件支持。 

- 场景的业务流程复杂度不同。
比如： - 简单知识问答形态的Agent几乎不涉及很复杂的业务流程。 - 一次销售/服务Agent的流程中则可能需要和CRM等应用作多次交互。 - 市场研究与分析的Agent则可能需要借助外部平台来获取最新数据。 

- 工程化要求（性能、准确性等）不同。
比如： - 在辅助创作与生成的场景中对大模型输出的容忍度相对更高。 - 在数据分析场景中则要求模型输出结果具有最高的准确性。 - 在应用集成时则要求模型能准确推理工具使用需求并提取输入参数。 基于这些差异性，我们对企业常见的Agent场景做总结，并简单区分其实施成熟度用作参考： 

【使用对象】与AI在企业中产生直接交互的对象可以分成三类： 
一类是直接面向企业的外部客户等服务对象。这类场景下，使用者通过自然语言与AI对话完成任务给出响应。比如在线智能客服、在线咨询等。 
一类是直接面向公司内部使用者，包括企业主、普通员工、管理人员等。同样，使用者通过自然语言UI与AI协作交互并完成任务。比如内部办公助手、交互式数据分析等。 
一类是AI能力嵌入与集成到其他应用之中。在这类场景中，Agent不直接与“人”产生交互，而是由其他企业应用来触发，并借助Prompt完成自动化任务。


AI Agent在企业应用的整体架构
企业中AI Agent的落地通常不是一个独立的简单工具项目（这是与To C的AI的最大区别）。因此，也给现有企业IT的基础设施与架构带来了新的挑战：
- 可能需要部署与连接多种不同规模、能力的AI基础模型
- 必须与企业当前的数据与应用做标准化的、可扩展的集成
- 为了拓展Agent能力，可能需要借助开放API扩展其工具库
- 需要引入新的基础设施，比如向量库用以实现语义检索
- 面临新的大模型设施的运维管理需求

在这个总体架构中的引入的新的关键要素包括：

1. 大模型
包括大语言模型、嵌入模型以及逐渐发展的多模态模型，这些基础模型作为企业的AI基础设施与能力而存在。具体可以分为商业闭源大模型（比如ChatGPT，Gemini，通过API访问）、开源大模型（可以借助Model-hub平台进行部署与API访问，比如Llama）、私有大模型（借助开源模型做微调并私有化部署，首次投入成本较高）。
由于不同Agent对模型能力要求的差异，单个模型很可能无法满足更多场景使用要求，构建一个统一的大模型访问API层，实现多模型统一访问并可灵活切换是有必要的。

2. 数据管理
区分于企业现有应用的生产数据，Agent的独立数据区用于存取Agent管理与运行过程中的各种中间与持久数据，包括结构化与非结构化知识文档、向量数据库、分析数据、消息历史、日志数据等，并提供必需的数据维护与管理工具，如私有知识数据的清洗、向量化、导入导出等。

3. 大模型运维管理
具体来说应该包括LLM以及构建在LLM之上的各类Agent的运维管理，这包括了在应用生命周期不同阶段的管理工作。包括：
- 配置：比如LLM输入的Prompt提示词、外部工具配置、Agent工作流配置、环境配置等。
- 测试：大模型与Agent应用的测试。模型连通性、向量搜索测试、Agent状态测试、Agent性能测试等。
- 评估：由于输出的不确定性，在大模型应用投入生产之前的评估非常重要，借助于一些框架可以对AI输出的准确性、相关性、合规性等做综合评估。
- 部署：对模型与Agent的构建、部署与升级流程做自动化管理的过程。
- 监控：对模型与Agent运行状态与结果进行跟踪监控。包括连通性、响应性能、数据安全性等。还有一个很重要的优化工作，即通过用户反馈搜集与分析来持续优化大模型或者提示工程。

4. Agent智能体
开发框架层：用于大模型应用开发的一系列开源的开发与编排框架、工具与平台。借助于这些工具，可以大大简化上游AI Agent构建的复杂度与工作量，并降低风险。常见的开发框架包括：LangChain、LLmaIndex、AutoGen、SuperAGI等。
AI Agent层：基于开发框架之上构建的真实投入应用的AI Agent。一方面，Agent通过API或代码解释器与内外部应用协作完成任务，另一方面，Agent本身通过API向前后端企业应用开放接口，以嵌入与集成到企业业务流程中，比如你可能需要集成一个AI Agent到企业微信来解答员工或者客户的问题。

我们AI在企业应用中的基础类型包括：
- 创作与生成类AI
- 企业知识类AI
- 数据分析AI
- 应用/工具AI
- Web操作AI
- 自定义流程AI

AI Agent是一个以任务驱动的具备自主能力的智能体，不仅需要大模型这个核心“大脑”，也需要任务规划、记忆与外部工具使用等能力。而我们常看到的个人AI助手大部分是基于预设提示词的大模型问答Bot，在不借助其他插件时，通常不具备工具使用能力。

当前在企业应用中以内容创作生成为主要能力的AI至少有两种：
1、单Agent的内容生成。简单地将大模型的生成能力通过API集成到其他应用与业务流程中，替代或简化原来由人工完成的部分工作。比如：
- 在线培训管理系统中，利用AI自动根据课件创建考题/考卷
- 在数字营销流程中，利用AI生成精确营销话术甚至撰写营销方案
- 市场分析的AI Agent基于互联网搜索或开放数据生成市场分析报告
- 电子商务企业借助AI自动批量生成商品摘要
- 媒体行业通过AI生成新闻摘要；学术平台借助AI生成论文摘要
这种类型的AI助手简单的借助Prompt工程即可实现（与C端个人助手并无本质区别）：

2、基于多Agent协作（可能还有人类）的内容生成。典型的为虚拟机器人软件公司，由AI Agent担任多个软件开发岗位，通过相互协作完成某个软件开发任务。
这种多Agent协作型的助手可以借助Multi-Agents框架来简化开发与实现。比如MetaGPT，可以根据自然语言描述的开发任务，组建Agent团队（PM、架构师、程序员、QA等），遵循SOP并最终输出完整软件开发的成果（文档、代码、API说明等）。其他支持多Agent的开源框架包括微软的AutoGen，xAgents等。

企业知识类AI
当前较为成熟的一种Agent类型。通俗地说，就是在企业应用中，通过“外挂”私有知识库来扩充大模型的知识储备，以提供基于自然语言的、对话式的企业私有知识访问（对应到AI Agent的基本能力之一：持久化记忆），以解决通用大模型在面向企业应用时领域知识不足导致的幻觉问题。
知识助手通常借助于大模型的RAG（检索增强生成）方案来实现，其本质上也是一种提示工程：借助于在大模型输入时携带相关的私有知识上下文，让大模型理解、总结、整理并回答用户问题。只是这里的私有知识上下文需要借助嵌入模型（Embedding Model）、向量数据库（Vector Store）、文档加载分割（Document Loader&Splitter）等相关技术来获得。
基于RAG方案的AI助手实现可以自行通过代码直接实现，当然，为了简化开发与管理过程，推荐使用的工具包括：
- LangChain或者LlamaIndex大模型主流应用开发基础框架。这两个基础框架对大量的模型、文档加载器、向量数据库、嵌入模型等做了抽象封装，并对RAG应用过程中的知识检索、Prompt组装等过程做了简化，可以大大简化开发过程。
- 另一类是具备一定开箱即用能力的RAG应用构建平台。相对基础开发框架来说，提供了更完善的RAG应用构建工具，比如私有知识库的管理维护、测试、对话流程编排、提示词自定义等能力。这里推荐两个项目，一个是基于Langchain构建的Langcahin-Chatchat；另一个是FastGPT，后者有用于商业运营的SaaS应用，可以自行体验。

知识助手的技术实现基础架构如下：

数据分析AI
数据分析与商业智能(BI)在中大型企业的日常运营中的重要性毋庸置疑，无论是简单的财务数据分析，还是复杂的客户与运营数据洞察，都需要借助专业的工具。传统BI工具使用门槛高、过度依赖技术部门、结果产出周期长的问题在AI时代可以借助大模型的能力得以缓解。
基于大模型的数据分析助手（Data Agent）是在企业应用中通过将自然语言转换成数据分析的语言或代码，比如对API的调用、对数据库的访问、甚至编写数据分析代码，来达到获取数据、分析数据与可视化结果的目的。无论是对本地的Excel数据文件分析，或者对数据库中的关系型数据分析，又或者对互联网的非结构化数据分析，当前大模型实现数据分析的技术途径基本以这三种方式为主，自然语言转API、转SQL、以及代码解释器（转代码）。

应用/工具AI
企业应用中的AI助手很多时候需要与现有应用（CRM、OA系统）做集成与交互，以完成某个用户任务或者驱动业务流程。比如：如果你需要AI帮你在协同办公系统中提交一个付款申请，那么你需要调用办公系统的接口；或者你需要借助互联网获得最新某上市公司的财务报告，你需要调用第三方平台的公开接口。这就是AI Agent另一项重要能力：工具使用。
应用助手的基本原理是比较简单的，其复杂性主要体现在大模型对自然语言转API的能力，在实际使用中，其主要体现以下两个方面：
- 能否根据上下文理解，精确匹配到需要使用的API（一个或者多个）
- 能否准确地提取或生成每个API的调用参数
在实际测试中我们发现不同的大模型在这方面的能力是有较大的差异的，而且即使是最优秀的模型，也存在一定的不确定性，比如有时候无法判断出正确的工具。

Web AI
一种类似RPA（机器人流程自动化）的AI智能体。其主要能力是自动化Web网络浏览、操作与探索的动作与过程，以简化web浏览访问与操作。对于个人来说，可以作为个人数字助理，简单对话即可让AI帮你完成Web浏览与操作，比如在线订票。而对于企业来说，则可以作为企业的数字员工，来简化企业日常工作中重复性较高、流程与规则固定、大批量的前端操作性事务。比如批量订单处理、批量客户联络、批量网站抓取等，提高效率，降低错误率。
传统的RPA机器人也是用来完成此类工作的AI形式，由于这种AI机器人工作在软件的最上层即操作层面，好处是流程直观、简单、也可以配置化，且对应用无侵入性；但其缺点是与前端应用耦合性大，每个任务需要根据前端应用界面做精心配置与调试，自适应能力较差。
在大模型出现以后，给这一类RPA智能也带来了新的优化空间。利用大模型的理解与分析推理能力，可以让AI更加智能的规划与分解任务过程，然后借助浏览器完成执行；且在未来可以利用像GPT-4V这样的视觉模型，更智能的理解界面元素与功能，实现完全自主的智能操作，具备更强的自适应能力。当然由于大模型的输出不确定性，当前的Web Agent仍然处于探索实验阶段，具有较大的失败或误操作可能，实际应用中需要根据情况反复测试与评估。

自定义流程AI 
最后一种AI Agent严格来说是上面的几种基础Agent能力的组合。
理想中的AI Agent是在丢给他一个工具包与一些知识以后，借助于大模型的理解、推理能力，完全自主的规划与分解任务，设计任务步骤，并智能的使用各种工具，检索知识，输出内容，完成任务。但是在企业应用中，由于企业知识、应用、业务需求的千差万别，以及大模型自身的不确定性，如果这么做，那么结果很可能是“开盲盒”一样的不可控。所以这也是越来越多的Agents项目要强调可控性的原因，即能够对AI智能体的执行过程与细节进行更多的控制，来让AI按照人类确认过的工作流程来完成任务。

更多的企业AI应用交流请留意AIease.net。

去年11月，OpenAI在其召开的首届开发者大会上，发布了GPTs、GPT Store、Assistants API，拉开了行业构建商业生态的帷幕。随着AI 技术和产品架构越来越完善，以及底层大模型能力的不断进化，Agent as a Service作为提升生产力的新模式不再只是一个设想。
未来各个领域的人们都可以通过对话或其他形式，把自己的专业知识或者人物角色放到云服务上，通过数字人角色自实现更大的影响力。
AI为企业软件领域也带来了全新的颠覆性机遇，更大地激发了需求潜力。企业中许多分散的、以前只能由人工完成的流程，现在可以用机器来替代，这才是未来真正的机遇。
AI可以直接在岗位上替代人类，将直接削减雇佣一部分人类员工的预算和岗位，这也是与传统To B软件企业不同的逻辑。这意味着将出现很多不同的新机会，另外某种程度上也是对传统To B软件厂商的降维打击。
有哪些岗位的工作内容具有高度复用性和复制性，并通过AI将其中的核心知识进行数字化沉淀，最终实现人机融合。数字员工在特定任务上肯定比人类员工更可靠，成为主要替代力量。就像工业自动化替代了人类工作的一部分，软件又替代了另一部分白领工作，AI正推动第三阶段的流程自动化转型，替代更多人工重复性工作。当然并不意味着完全取代人类，而是实现与人类的有机协作。在工业时代，人们思考工业流水线哪些任务应该由机器替代；软件发展初期，所有人也曾思考软件应该替代人类工作流中的哪一部分，如今在大语言模型和AI Agent的时代亦是如此。

企业进行自动化改造主要都是为了“降本增效”，AI的核心价值应是帮助企业提高工作质量。企业内部的竞争优势通常都是由其最高级管理者的水平所决定。
AIease企业版的方向，把AI重点训练放在管理者上，企业主通过训练自己的AI BOSS，打造自己的AI团队，不仅提高管理效率，企业主可以复制，甚至增加响应各种任务的能力，成为万能的“超级AI-BOSS”。

AIease企业应用AI-BOSS版，正是专为企业主开发的AI数字人应用，一部手机轻松实现一个团队职能，是企业经营管理降本增效的利器。目的是让传统行业中小企业主通过AI数字人体验，与时俱进了解最新AI企业应用，让企业主分享AI数字人名片推广业务，让企业主轻松高质量完成部门专业工作，降本增效，同时企业主可开拓更多定制化AI，例如AI客服、AI品牌代言、产品AI化、AI内容推广等，利用AI新技术，快速提升企业产品力，品牌力,销售力。

AI-BOSS V1.0 主要功能：

AI数字人名片：企业主自定义角色资料、公司介绍；名片分享数字人自动聊天；可与实体名片自动连接；
AI boss工作模式：企业主角度进行AI训练的超级BOSS，可升级特定能量训练及公司资料库训练；
AI数字人微信： 企业主AI角色微信号；自动微信聊天，群聊聊天，可训练业务话术自动业务推广；
AI数字人员工： 企业主角度训练的细化岗位职能，可特定训练及接入公司资料库；
AI高级顾问：企业主掌握最新市场及扩大知识领域，市场、政策、金融、人力等专业领域知识库训练，可升级更多高级知识库。
AI元宇宙商城：企业主可获取商学院、文化、读书、娱乐等更多优质内容数字人 ；可定制品牌代言人等更多AI功能服务。
商企社群活动：企业主可加入VIP社群，参与平台合作商企社群活动。

AIease企业应用AI BOSS小程序与H5最新发布，并推出一系列的龙年新年推广活动。让我们了解一下。

AI易BOSS企业应用是做什么的？
专为企业主开发的AI数字人应用，一部手机轻松实现一个团队职能，是企业经营管理降本增效的利器。
AI平台的目的，是让传统行业中小企业主通过AI数字人体验，与时俱进了解最新AI企业应用，让企业主分享AI数字人名片推广业务，让企业主轻松高质量完成部门专业工作，降本增效，同时企业主可开拓更多定制化AI，例如AI客服、AI品牌代言、产品AI化、AI内容推广等，利用AI新技术，快速提升企业产品力，品牌力,销售力.


AI易BOSS跟其他平台有什么不同？
如果没有接触过AI的用户可先去AI大模型平台如GPT、清华、讯飞、文心等平台免费体验一下，觉得AI对自己有用再来我们平台体验。大模型平台需收集用户数据大多数算力免费，但AI须经定制训练才能发挥作用，用户自建AI机器人、AI助理均需相当的专业知识和操作经验，特定平台只可使用特定大模型，企业对接大模型需技术接入，接入成本高开发投入大。

AI易BOSS企业应用同时接入多个主流AI大模型，根据不同使用场景，测试最佳使用对应的大模型。
-根据企业主思维角度和使用情景进行数字人的特定训练，更适合企业主管理、战略决策需求，与市面上一般AI助理有本质区别。
-AI工作流模式可接入专业管理体系流程，为数字人提升项目实操能力。
-避免公开平台数据公用，注重企业的数据安全与企业主私密性。
-为企业主提供技术客服一对一协助完成数字人配置，简单易操作，紧跟AI最新前沿技术迭代版本免费自动升级。

AI易BOSS企业应用是专类平台，专对企业主需求、专门数据行业场景训练、专人服务无须学习、专用空间信息安全保障。
因此平台有一定的专业应用研发、算力和服务成本，须付费使用。
我们定制三个使用时间和功能不同套餐，方便不同的用户选择使用。

为了更好的了解行业需求，为不同使用者开发落地应用，欢迎加入我们的社群，AI发展飞快，以后就像手机一样成为普遍广泛的应用，AIease理念是让AI易用易操作。感谢用户的大力支持。

2023年被称为生成式人工智能的突破之年。生成式人工智能技术在各行业、各领域具有广泛的应用前景。生成式AI是利用复杂的算法、模型和规则，从大规模数据集中学习，以创造新的原创内容的人工智能技术。这项技术能够创造文本、图片、声音、视频和代码等多种类型的内容，全面超越了传统软件的数据处理和分析能力。这项技术从单一的语言生成逐步向多模态、具身化快速发展，视频和音频的生成技术也在迅速发展，这为虚拟现实和元宇宙的实现提供了新的途径。

2024年1月8日，AIease与中科院、宣传部、研学基地等领导单位进行AI技术科普教育研讨会，会上介绍了AIease元宇宙与实体融合解决方案，展示了AIease数字人在融媒科普平台的应用、AIease数字人互动大屏和智能设备，同时参与建设AI研学示范基地。

AIease实体融合元宇宙实验室，开发多款AI智能产品，包括科普互动展示与AI数字人系统、文旅景区AI导游系统、研学教育AI教学系统、展览活动AI互动展示等功能系统。
企业进驻AIease元宇宙商城，可让实体产品接入AI角色和数字营销商城，让文创、玩具等各行业产品成为AI智能化信息交互与流量入口，投入成本低，引流高效，智能推广，二次销售，留存用户。


品牌代言人智能大屏
-根据企业品牌形象定制训练开发；
-三维设计建模及UE引擎高清仿真AI角色数字人；
-多模态大模型训练实时渲染语音互动；
-最新一代CPU安卓机系统，快速响应互动；
-多款高清大屏智能设备配套。


客服导购数字人智能大屏
-实体门店安设互动屏幕增加与消费者的链接
-最新一代CPU安卓机高清大屏智能设备配套；
-UE引擎高清仿真AI多个客服人物免费使用；
-多模态大模型训练实时渲染语音互动。