Skip to content

ZhengDian1024/langchain-GLM_Agent

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

6 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

本地知识库大模型 langchain + chatglm + Custom Agent

langchain + chatgpt 的 agent 真香,实现了一个简单的基于 chatglm 的 custom agent。支持本地知识库和联网检索。llm 也是自定义,如果想改成 openAI 也可以。

详细介绍参照这里:https://zhuanlan.zhihu.com/p/635724707

介绍

langchain 的 agent 设计的非常聪明,但这个“聪明”是基于 chatgpt 强大的理解力,agent 自带的 prompt 并不能被 chatglm-6b 很好的理解,主要是 Action 字段和 Input 字段总是出错,所以我针对 chatglm 写了一个简单的 custom agent,不能做到 100% 的 prompt 指令精确响应,我实测 80% 的情况下可以正确响应,结合 Tool 能实现一些复杂的应用。

硬件部署

这里没有在本地跑大模型,所以硬件条件基本上不限制。

准备工作

  1. 部署你的 chatglm 大模型,确保可以 api 调用,修改 models/custom_llm.py_call 方法里的调用地址,或者你用 openAI 代替也可以,参照 langchain 官网文档
  2. models/custom_search.py 中设置你的 RapidAPIKey = ""申请步骤异步这里(接口名字可以搜索:bing-web-search1

代码checkout下来后,执行

python helloworld.py

有正常的返回就ok了。

启动

python server.py

启动服务监听 8899 端口,这样访问:

curl -d "ask=helloworld1" \
    -H "Content-Type: application/x-www-form-urlencoded"  \
    -X POST http://127.0.0.1:8899/ai/langchain/

结果返回

{"content":"\u60a8\u9700\u8981\u9884\u5b9a\u673a\u7968\u5417?","status":200}

注意:

  • curl 命令中传参数不要有空格,如果需要测试最好用 postman 之类的工具
  • server 启动用的 flask,如果需要其他机器访问,修改server.py 中服务启动加上本地 host:app.run(debug=False, port=8899, host="192.168.0.11")

例子

这是一个实际的例子:执行python cli.py

> Entering new AgentExecutor chain...
DeepSearch('携程最近有什么大新闻?')

Observation:到中国旅游更偏爱小红书 马来西亚年轻人对携程没兴趣: 【蓝科技观察】小红书成为马来西亚年轻人了解中国旅游市场的首选,而不是中国旅游平台携程。在马来西亚年轻人尤其是华人看来,携程的商业属性更明显,而小红书则能给他们带来更多的价值。 最近,马来西亚第四代华人Emma计划来中国旅游,而她是通过小红书来了解中国的旅游、文化、时尚等信息。 “按照我的思路,获得我想要的结果。”Emma表示,如她一样喜欢旅游的年轻人在马来西亚比比皆是,他们在小红书上follow热
携程:每10人有1人游览博物馆 00后文博爱好者增速最快: 随着“5.18国际博物馆日”临近,根据博物馆预订人次,结合线上搜索热度及馆藏数量,携程口碑榜发布了“国内博物馆20佳”,分别是:故宫、中国 ...
十人就有一人逛博物馆 携程口碑榜发布“国内博物馆20佳”: 近期,携程还与浦东美术馆合作,正式开启人工讲解服务,包含快速入场通道、配套耳麦设备、专人接待讲解等多项特别礼宾服务。除了为观众深入讲述馆内展览与重要展品背后的故事,还将全方位介绍美术馆建筑设计及功能空间的独到之处,让艺术不再“有 ...
出国热又起,各大领馆一约难求,堪比春节抢票?!有的地方拒签率 ...: 上海新闻广播微信公众号消息,积压了整整三年的旅游热情,终于在今年有了可“用武之地”,被戏称为“最强五一”的旅游 ...
根据已知信息,携程最近在博物馆预订方面取得了显著进展,每10人有1人游览博物馆,00后文博爱好者增速最快。此外,携程还与浦东美术馆合作,开启了人工讲解服务,并提升了博物馆服务质量。这些新闻表明携程在旅游业领域继续扩大其影响力,并不断提升服务质量,以满足消费者的需求。

> Finished chain.
根据已知信息,携程最近在博物馆预订方面取得了显著进展,每10人有1人游览博物馆,00后文博爱好者增速最快。此外,携程还与浦东美术馆合作,开启了人工讲解服务,并提升了博物馆服务质量。这些新闻表明携程在旅游业领域继续扩大其影响力,并不断提升服务质量,以满足消费者的需求。

About

本地知识库 + chatGLM6B + CustomAgent

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Python 100.0%