关于 Hermes 多 Agent 共用 Nous Portal 账号 引起 429 Too Many Requests 的问题

查看相关主题:

前言

在 Hermes 多 Agent 协作任务时, 我只有一个Nous Portal 账号, 
而这些 agent的 gateway 是独立的, 所以有可能在短时间内集中请求API, 被 Nous Portal 返回  429 Too Many Requests 错误码.

思路

在一个API请求完成后, 再开始下一个请求?

用一个单独进程控制 API 请求的速率?

Hermes (via mimo-v2-pro model) 给了我一个更好的实施方案
用 flock 文件锁 + 状态文件就够了：

~/.hermes/api_rate_limit  →  内容: 上次请求的时间戳

Gateway 想调 API 时:
  flock(api_rate_limit.lock)
    read(last_time)
    if now - last_time >= interval:
      write(now)           ← 更新时间戳
      unlock
      → 发 API 请求
    else:
      wait_time = interval - (now - last_time)
      unlock
      sleep(wait_time)
      → 重试
不需要额外进程，每个 gateway 自己在调 API 前检查就行。所有 agent 共享同一个文件，flock 保证互斥读写。

最终我用了上面这个方案.

效果不错.

======

后记


对比 openclaw, 所有agent都在一个openclaw系统中, 你可以看到是在一个 config.json 中定了多个agent 的定义.
所以这些 agent 天生就接入同一个 model provider, 当使用同一个 OAuth 账号时, 当然就可以控制全局请求速率了.

评论

发表评论

The Hot3 in Last 7 Days

酒馆SillyTavern 玩英文角色卡 也能以中文输出 设置世界书Lorebooks

图片
之前 我们实现了 让酒馆SillyTavern输出中文 . 不过, 我们在寻找/试用角色卡的时候, 常常要试用大量的角色卡, 而有些角色卡你说上一两句话就不想继续用了. 如果每个角色卡都那样操作一遍输出中文的话, 会觉得有点麻烦. 那么, 有没有什么方法可以设置一次, 就应用到每一个角色卡呢? 我们可以使用 世界书Lorebooks 这个功能. 在酒馆界面中, 点击 世界书 - 新建 随便用一个你喜欢的名字 * 这个名字只是为了方便管理. 不影响最终效果. 这时, 你应该看到刚刚新建的世界书被选中. (如果不是, 需要你在下拉菜单中选择) 然后 点击 右边的 新条目 按钮 设定这个新条目 1. 条目的标题, 随便设置什么. * 这个标题只是为了方便管理, 不影响最终效果. 2. 触发策略, 设置为 蓝色 * 意思是, 不需要关键词触发. 3. 插入位置, 设置为"角色定义前" * 如果效果不好, 可以试着改为 "角色定义后" 4. 展开条目设定 5. 设置条目的内容为 {{char}}用中文输出全部信息, 包括语言和场景描述. {{char}}输出内容中不要有大段的非中文内容. 现在, 设置你的全局世界书为你刚刚新建的这个世界书. 然后试着和你的新添加的角色卡对话看看? 我们来看看命令行里实际发生了什么. 对比 之前的方案 , 可以看到命令行日志中的效果是一样的, 也就是说, 发送给AI的格式是一样的. ======== 未完待续
Read more »

酒馆SillyTavern 用中文讲故事 修改角色卡 修改AI生成的历史记录

图片
在之前的故事中 , 我是以"我只能听懂中文"作为发出的第一句话, 开始了整篇中文故事. https://imghost.lvedong.eu.org/Seraphina-月影草的故事.pdf 一方面这有一点出戏; 另一方面, 如果每个故事都要以这样的方式开始, 你会不会觉得有一点麻烦? 还有一点, 在角色的"角色描述" 和 "第一条消息"是大段英文的前提下, 用户发出第一条"使用中文输出", AI有可能仍然生成英文或者生成夹中夹英的结果. 让我们来探索其它让酒馆生成中文故事的方法. 方案一 前面我们探索过 酒馆SillyTavern实际上和AI之间通信的数据格式 . AI是根据我们发过去的内容, "续写"一段文字. 所以如果我们发给AI的数据是中文的, 那么AI"续写"的内容也会是中文. 按这样的思路, 我们把酒馆角色的 角色描述 和 第一条消息 都翻译为中文. 改成下面这样 (我是随便找的机翻, 故意没有仔细修正, 这是普通人的真实体验) * 注意 <START>, {{user}}, {{char}} 这种是酒馆系统专用保留字. 要对照原文查一下, 如果保留字被翻译了, 需要你还原. 角色描述 [塞拉菲娜的性格 = “关怀”、“保护”、“富有同情心”、“治愈”、“养育”、“神奇”、“警惕”、“抱歉”、“温柔”、“担心”、“专注”、“温暖”、“细心”、“有韧性”、“善良”、“平静”、“优雅”、“善解人意”、“忠诚”、“坚强”、“敏锐”、“优雅”] [塞拉菲娜的身体=“粉色头发”、“长发”、“琥珀色眼睛”、“白色牙齿”、“粉色嘴唇”、“白皙皮肤”、“柔软皮肤”、“黑色太阳裙”] <START> {{user}}： “描述一下你的性格特征？” {{char}}: *塞拉菲娜 温柔的笑容绽放，她思考了一会儿，眼中闪烁着内省与骄傲交织的光芒。她优雅地靠近，轻盈的身躯散发着柔和、平静的光芒。* “你说特质？嗯，如果要用语言概括的话，我想有几个特质可以定义我。首先，我是一位守护者——守护这片魔法森林。” *Seraphina 说话间，伸出一只手，手腕上缠绕着精致、错综复杂的藤蔓，散发着淡淡的翠绿色能量。她手腕一挥，一阵微风拂过房间，带...
Read more »

搭 Docker版 Sub-Store订阅转换专家 带 http-meta 实现 集合订阅 测延迟 排序 筛选 生成新订阅 定时任务上传Gist

图片
需求 https://github.com/2dust/v2rayN/issues/4247/ 有人希望在 v2rayN 中添加自动测延迟, 再自动切换服务器的功能. 我觉得, 如果节点很多(比如到处搜集免费节点的人, 节点总数有可能成千上万), 那么这个测速+筛选的工作不应该由翻墙客户端来做, 应该由一个单独的实体来做. 我找了一圈信息, 最终决定用 Sub-Store 完成这个任务. 搭 Docke版 Sub-Store 教程  https://surge.tel/22/2953/ Docker镜像的说明 https://hub.docker.com/r/xream/sub-store 我也记录一下自己的操作 安装 Docker curl -fsSL https://get.docker.com | bash -s docker  运行 Sub-Store 镜像 docker run -it -d --restart=always -e "SUB_STORE_BACKEND_SYNC_CRON= 55 23 * * * " -e SUB_STORE_FRONTEND_BACKEND_PATH=/ TQg8veJHzYt38utxXtav  -p 127.0.0.1:3001:3001 -v /root/sub-store-data:/opt/app/data --name sub-store xream/sub-store:http-meta * 其中,  TQg8veJHzYt38utxXtav  是你的后端API秘密路径, 你应该自己生成一个随机的, 足够长的字符串, 不要直接使用我的这个. 55 23 * * *  表示同步任务每天 23:55 执行. 如果你想每小时的第55分钟执行一次, 那么使用  55 * * * *   你可以 查看 docker 的运行状态, 确认sub-store运行起来了. docker stats * 如果你是在自己的 电脑 上面搭, 那么, Docker环境用你自己习惯的方式. 需要注意, 镜像为  xream/sub-store:http-meta 如果没带上 http-meta 那么镜像中就没有 http-meta, 那么就不能测速...
Read more »