大语言模型的开发利器langchain - flydean - 博客园

最近随着chatgpt的兴起，人工智能和大语言模型又再次进入了人们的视野，不同的是这一次像是来真的，各大公司都在拼命投入，希望能在未来的AI赛道上占有一席之地。因为AI需要大规模的算力，尤其是对于大语言模型来说。大规模的算力就意味着需要大量金钱的投入。那么对于小公司或者个人来说是不是什么都做不了呢？ 当然不是，虽然小公司或者个人不能开发底层的大语言模型，但是我们可以在大语言模型之上进行应用开发，这应该就是我们现在能做到的。 今天给大家介绍一个大语言模型的开发框架langchain，有了它，在AI的世界，你可以如虎添翼。 什么是langchain 简单来说，langchain是一个基于大语言模型只上的开发框架，有了他，我们就可以轻松在各种大模型之上进行实际应用的开发。 langchain的主要特点有两个，第一点就是组件化。langchain提供了各种封装好的组件供我们使用，大大缩短了我们开发的时间。 第二点就是提供了工具链，可以组装各种组件，从而实现更加复杂的功能。 langchain的安装 废话不多说，我们来看下langchain是如何安装的。 AI时代大家一定要学一下python，至于为什么要学习python呢？因为其他语言都不好使...... langchain实际上是python的一个开发包，所以可以通过pip或者conda两种方式来安装： pip安装： pip install langchain conda安装： conda install langchain -c conda-forge 默认情况下上面的安装方式是最简单的安装，还有很多和langchain集成的modules并没有安装进来，如果你希望安装common LLM providers的依赖模块，那么可以通过下面的命令： pip install langchain[llms] 如果你想安装所有的模块，那么可以使用下面的命令： pip install langchain[all] 因为langchain是开源软件，所以你也可以通过源代码来安装,下载好源代码之后，通过下面的命令安装即可： pip install -e . langchain快速使用 下面我们以几个具体的例子来讲解一下langchain如何使用的。 因为langchain只是一个大语言模型上的开发框架，它的所有的能力都是依赖于大语言模型的，所以在使用langchain之前，我们需要一个大语言模型，最简单同时也是最强大的大语言模型就是openai的chatgpt了。 接下来我们就以接入openai为例子进行讲解。 当然langchain也可以接入其他的大语言模型框架，后面的系列教程中我们会详细讲解。 要使用openai，必须先注册一个openai的账号，然后拿到openai的api key。 具体的注册流程这里就不讲了。大家可以自行参考网络上的各种教程。 有了api key之后，我们需要配置一下环境变量： export OPENAI_API_KEY="..." 然后安装openai的包： pip install openai 接下来就可以愉快的使用openai提供的各种功能了。 当然，如果你不想在环境变量中配置openai的key，我们也可以在OpenAI的构造函数中传入openai_api_key: from langchain.llms import OpenAI llm = OpenAI(openai_api_key="...") 构建应用 有了上面的准备工作，接下来我们就可以开始使用langchain了。 当然，最最基础的一个应用就是跟大模型交互了，比如跟openai交互，我们可以让openai给我们写首诗： >>> from langchain.llms import OpenAI >>> llm = OpenAI(temperature=0.9) >>> llm.predict("请以古龙的口吻，写首关于春天诗") 春天来了，万物复苏， 终于迎来了一个新的时辰， 草儿花儿抬起头， 喜迎新绿与绚丽的颜色。 山林里，小草发芽， 河畔边，花儿香烈， 这让我们感到心旷神怡， 这真是一个美好的世界。 春天来了，列位朋友， 请喜迎这样一个新时辰， 不要抱怨什么， 享受春的温暖与欣慰。 虽然写出来了，但是我觉得写的一般般吧。 但是这不重要，我们知道了如何通过langchain来调用openai的大模型，这个才是最重要的。 聊天模式 上面我们调用LLM使用用的是"text in, text out"的模型。 虽然聊天模式也是基于LLM，但是他更进了一步，因为他保存了会话的上下问题，所以在对话上更加智能化。 在代码上，传入的就不是文本了，而是message对象。 在langchain中，目前支持下面几种消息类型：AIMessage, HumanMessage, SystemMessage 和 ChatMessage。 在绝大多数情况下，我们只需要用到AIMessage, HumanMessage, SystemMessage即可。