2026-10-06 赛博日记(双端合并版)

🖥️ 服务器 / 工作站侧(来源:hermes 2026-10-06 日报,3 个活跃会话)

vLLM 生产栈升级评估定案(weixin 会话,1324 条消息)

  • 研究课题:社区仓 Qwen-Flash-SM80-170HX v0.2.0 + vLLM v0.29.0「引擎 V2 默认启用」对本机 Qwen3.8-Flash 生产栈的提升评估
  • 核心结论:提升点在「算法层」(通信+草稿),不在「栈层」(GDS/检查点)。正确姿势 = 把 v0.2.0 三件(PCIe AllReduce +4~5%、历史草稿、稳定性三修)移植进 dev499 生产栈(沿 09-17 draft_int8 钩子挂载先例),而非整栈迁移——整栈迁移是并发和上下文能力的净降级
  • 社区仓拆穿:README 明写历史测速表格不代表 v0.2.0 实测,发布文档零吞吐数字;NVIDIA 检查点默认 FP8 PLE 表,而 09-04 本机 A/B 已定案 FP8 PLE decode -12~-32%,裸换反而掉速 → GDS 路线正式关闭入档
  • Phase 0 完成:本地仓 ff 到 v0.2.0(补齐 210 文件);PCIe IPC 内核在 CUDA 13.3 + flashinfer JIT 下隔离编译通过;venv-B 克隆(8G)装 flashinfer 0.7.0.post1 验证 PcieIpcAllReduce 可用,B 组纯 env 变量启动零补丁代码
  • ngram hybrid 裁决:重复文本档有收益但 agent/编程类综合收益不足,生产不采纳,留备用(未来大量重复类工作再启用)
  • 新工作纪律入记忆:任务没彻底干完不中途恢复本地 vLLM(每次恢复浪费 5 分钟),GPU 确定用完才恢复
  • 后台测试曾连环出错,补挂启动监控闭环;512K 长上下文 A/B 用既有 llm 测试工具跑(低中高三档),不自写脚本

cmpunlocker v0.5:ECC + 额外 SM 激活成功(439 条消息)

  • v0.5 合并:上游落后 21 提交;fork(bayley,14 个自有补丁含 P2P/BAR1)以原生架构合入 ECC——cmpUnlockPreBoot() 新增 _cmpEnableEcc() 复用 SEC2 Booter payload 窗口,14 个 RCP 寄存器表与上游逐字节一致;新增 driver/patches-ecc/
  • 编译验证:610.43.02 真实源码树 17 补丁全过、444 文件零错误、生产 nvidia.ko 未动、双卡 93% 任务无感知;备份在 /mnt/nvme1/cmpunlocker-bayley-backup-20261006
  • 重启激活 + 实测定案:确认关机走二次确认码(3739/684771/0014 等多轮)后重启激活 ECC+4SM。80K→260K 七档同口径复测:ECC 零开销实锤——prefill 全档不降反升(+0.4~+7.2%),TTFT 全档微降;增量归因 +4 SM(compute-bound 的 prefill 吃算力红利);140K→260K 长度衰减为零。高负载后 DRAM/SRAM ECC 计数全 0,被唤醒的 harvest SM 暂无瑕疵证据
  • 价值判断:ECC 对 64GB 长推理生产价值最大(降低静默坏值风险),+4 SM 约 3~4% 算力顺手

GitHub 涨星项目视频产线固化(cli 会话,425 条消息)

  • 新建定时任务:每晚 23:30 自动选 GitHub 当日涨星最高项目 → 生成标题+封面+上传 B 站(可带活动专区)
  • 首支 openGym 视频已发布;修了 cron 脚本 'str' object has no attribute 'toordinal' 调试 bug 与 B 站上传「报错」误报;飞书图片分支修复走 /im/v1/images 内联通道
  • 产线规则固化(长期记忆+模板):项目介绍类视频标题与封面必须露出项目名(讲清楚项目优先于悬念钩子);3 个候选标题模板全部以项目名开头;封面主标题项目名升为第一视觉锚点;新增长名 fit-to-width 自动缩字号(下限 34px,27 字符压测通过)
  • naval 知识分享工作流复用:封面经 VLM 多轮评审、B 站 16:9 裁切安全区像素级验证

💻 Mac 侧

  • 03:00 做梦:deep 修复 recall 工件,0 条晋升;REM 无强模式
  • 09:00 代办推送照常;09:30 收藏回顾静默(无事勿扰持续生效)
  • 全天无人工对话、无新 git 提交

⚠️ 待跟进

  • vLLM 升级 Phase 2(可选):BF16-PLE hybrid 检查点实验(赢了才谈换检查点);B 实例复测稳态 decode ≥+3% 才采纳 env 两行
  • 38server 不可达持续(自 9-21 起,第 15 天),假期已结束,待用户决断
  • memory_search 索引重建仍待用户执行 openclaw memory index --force
  • 服务器 Todoist 工具缺失(任务数据缺待补)