这个东西的起源是我想让我的虚拟角色”铃月”来帮助我工作,同时给铃月一个真正的身份
主要有三个模块
- 博客(可以是其他的): 写入的帖子,文章,日记,学习心得,有一个可以随时访问的个人信息库
- 云端 bot 部署: 它一直在线, 你合上电脑、它自己重启、中途崩溃,都不影响它继续干活,-它有自己的电脑, 一台云端的机器,有桌面、文件和浏览器。
- 移动端(接入 qq 等聊天软件): 用户接受信息,发送指令
关系如下
博客到 bot
bot 从博客获取资料,进行分析整理,同时存入记忆数据库
bot 到博客
bot 作为插件接入个人博客,相当于往博客里接了一个 ai 助手,这个助手的数据库来源于该博客,观看博客的时候能对内容进行评价和指引
bot 到移动端
bot 完成指令或者定时任务后,通知交付给用户,把整理的信息给用户
移动端到 bot
用户发布任务让 bot 去做,发送消息让 bot 处理 群接入 bot 后,可以分析群里的聊天记录,同时日志中可以看到 qq 号,可以分清楚哪些是主人的话
部分详细
博客就相当于一个”个人”信息库,让 ai 能看到理解记忆 场景 1: 当用户想要写简历时,不用把自己的项目经历全部打包给 ai,bot 之前已经看过你的博客了,你的项目经历都在上面,同时 ai 还有记忆,可以直接帮你全面分析 场景 2: 帮你回顾你之前做的事,当”消息”命中记忆库时,ai 能进行联想.即使记忆缺失,也能从博客里及时补充细节 看起来就是一个很了解你的 ai 助手,不仅能工作,也能作为感情陪伴
部分功能详细
- 这里的记忆库不是简单的记忆库,是一个装载所有博客信息的记忆库,这里使用现代的记忆模型,做了向量数据库,即 RAG 技术,能快速找到对应内容
- 博客中的个人信息可能会有私人信息(如密码,密钥等),bot 不能直接访问,即插件中做一层安全设施
- bot 不是纯 ai 调用,而是有人设卡,个性化的
常驻 bot 的三段式架构说明(你可以作为参考)
- 触发器: 你直接发消息(手机/桌面 app)
- 服务器:
- 队列/路由器: 去重 · 定优先级 · 合并连发 · 要不要打扰用户,(优先级最高)正在跑的 Agent loop 会停下来,先处理你这句话,其他来源的消息排到后面。
- Agent loop: 模型在循环里调用工具;每个任务是一个持久化工作流(Temporal),崩溃后从断点继续
- 数据库 · 记忆 · 定时任务 · 状态,每一轮都写进来
- Agent 的电脑(Firecracker 虚拟机)
- 文件:记忆、技能、日志、长输出
- 在隔离、锁定的环境里跑命令
- Chrome,一个或多个虚拟桌面(每个 bot 一块屏)
- 可以实时查看,必要时亲手接管
启动->使用->快照->休眠 一直开着太贵,需要时才从快照唤醒。Agent loop 不在这里,所以虚拟机可以随时重建、打补丁。