MemGPT:构建具有自编辑记忆的LLM代理

在本地或云端运行具备持续记忆能力的聊天机器人

直达下载
返回上一页
描述
MemGPT如何使聊天机器人通过智能记忆管理实现持续对话,及其本地和云端部署方法。
介绍

MemGPT是一个创新的系统,它能够智能管理大型语言模型(LLM)中的不同记忆层级,以有效扩展模型的上下文窗口。例如,MemGPT能够识别何时将关键信息推送至向量数据库,并在聊天过程中适时检索这些信息,实现持续对话。本文将详细介绍如何快速设置MemGPT,以及如何在本地运行和配置MemGPT。

index_open_MemGPT_1

快速上手指南

  1. 加入Discord

    • 加入Discord服务器,并在#memgpt频道中与MemGPT机器人交互。
    • 运行以下命令:
      • /profile:创建您的个人档案。
      • /key:输入您的OpenAI密钥。
      • /create:创建一个MemGPT聊天机器人。
  2. 设置私隐设置

    确保在MemGPT的Discord服务器中开启直接消息设置,以便MemGPT机器人可以直接消息您。

    index_open_MemGPT_2

  3. 使用命令

    在消息框输入/可以查看所有可用命令。

    index_open_MemGPT_3

MemGPT的运行方式

  1. 本地安装
    • 安装MemGPT:pip install -U pymemgpt
    • 运行MemGPT并开始聊天:memgpt run
  2. 快速启动选项
    • OpenAI:如果您想使用OpenAI的模型(如GPT-4),请选择此选项。
    • MemGPT Free Endpoint:如果您想免费尝试顶级开放LLM(如Mixtral 8x7b),请选择此选项。

高级设置

重新配置MemGPT:

  • 可以通过运行memgpt configure来重新配置MemGPT的默认设置。

聊天中的命令

  • /exit:退出CLI。
  • /attach:附加已加载的数据源到代理。
  • /save:保存当前代理/对话状态的检查点。
  • /dump:查看当前消息日志(查看主上下文的内容)。
  • /memory:打印当前代理的记忆内容。
  • /pop:撤销对话中的最后一条消息。
  • /retry:撤销最后一个回答并尝试获取另一个。
  • /rethink <text>:将最后一条助手消息的内部对话替换为<text>,以帮助塑造对话。
  • /rewrite:用给定的文本替换最后一个助手回答,以纠正或强制答案。
  • /heartbeat:向代理发送心跳系统消息。
  • /memorywarning:向代理发送内存警告系统消息。

使用/exit退出CLI后,您可以通过指定代理名称在memgpt run --agent <NAME>中恢复与同一代理的聊天。

收录信息
修改时间:2024年4月17日
收录时间:2024年4月17日
标签
MemGPT 自编辑记忆 LLM代理 持续对话 本地LLM运行
AI工具教程
免费领取AI学习资料 进AI副业交流群
礼物
AI工具教程
免费领取AI学习资料 进AI副业交流群