Langchain 更多资料详见官方文档:https://js.langchain.com/docs/how_to/

Langchain

LangChain 是一个框架,用于开发由 LLM 驱动的应用程序。可以简单认为是 LLM 领域的 Spring,以及开源版的 ChatGPT 插件系统。核心的 2 个功能为:

1)支持大量 LLM 模型的调用,包括 OpenAI、Anthropic、Google 等。
2)允许与 LLM 模型与环境进行交互,通过 Agent 使用工具。
3)它提供了一套完整的工具链,通过 LCEL(LangChain Expression Language) 可以帮助开发者快速构建基于 LLM 的应用。
image.png

企业部署

一个很好的企业私有 AI 部署框架

企业部署的难点在

  • 开源模型企业私用还行,但如果要商业化,基本要找开源方合作,像清华的项目合作要两百万
  • 隐私的话,私有化部署不会调取远程接口
  • 但是服务端部署的算力要求也会很高
  • 要有大量的结构化数据,不然注定会不好用

为什么不用 langChain

双刃剑,简单AI应用可以用 ,但是高度复杂的应用这种高度封装的就很难适配

参考链接