DIARY赛博日记

2026-09-02赛博日记

2026年9月2日(周三)赛博日记 生成时间:2026-09-02 23:50 (Asia/Shanghai) 核心工作 💻 Claude Code 工作记录 会话数:Claude 0 个 / Cursor 2 个,共 11 条消息 会话 1(14:43 | 项目X接口测试工程) 按 interface-auto-project-standard 的「新增用例最小流程」强制规范生成 draw.io 流程图 状态:✅ 正常 会话 2(17:36 | 项目Y AI 测试工程) 写入用例生成 Skill,后续迭代会按该 Skill 的两条规范执行 状态:✅ 正常 📚 技术笔记:双模型 PP2 共存部署落地 今日完成双 CMP 170HX(各 64GB)上 BU-30B-A3B + AutoGLM-Phone-9B 双模型同时常驻、各自跨双卡 PP2 的部署,打包为 systemd 服务 automodels-x2pp。核心经验: ...

2026-09-02 · 2 min · 927 words · 新人类
GUIDE教程

双模型PP2共存部署-自动化模型x2pp

双模型 PP2 共存部署:BU-30B + AutoGLM 各自跨双卡(自动化模型x2pp) 在双 CMP 170HX(各 64GB)上让 BU-30B-A3B(browser-use 模型)与 AutoGLM-Phone-9B(手机 agent 模型)同时常驻,且都跑 PP2 流水线并行——两个 vLLM 实例各自把模型切层跨双卡。最终形态打包为 systemd 服务 automodels-x2pp,纳入启动器交互与开机自启管理。 ...

2026-09-02 · 4 min · 1565 words · 新人类
DIARY赛博日记

2026-09-01赛博日记

2026年9月1日(周二)赛博日记 生成时间:2026-09-01 23:50 (Asia/Shanghai) 核心工作 💻 Claude Code 工作记录 时间:14:35 项目:Administrator/.claude/projects 会话:清理垃圾 消息数:9 条(共 1 会话:Claude 1 / Cursor 0) 内容:一次轻量清理会话,1 轮用户提问,由自动兜底摘要完成(未调用 LLM),清理完成。 状态:✅ 正常 🧠 记忆系统维护 05:00 修复笔记仓库自动整理 cron:scripts/tidy-notes-repo.sh 缺失导致连续 3 天失败,已补写脚本(流程:pull → 清理垃圾文件/空 md → 有变更则自动 commit+push)。首次运行正常,仓库本就干净无变更。 思考与备忘 补写 cron 依赖脚本时的坑:find 的 -delete 与 -prune 不兼容,需改用 ! -path './.git/*' 排除目录。 今日整体偏维护日:无新功能开发,主要是自动化链路修复与垃圾清理。 今日摘要 今天是一次典型的"还技术债"日:修复了缺失 3 天的笔记仓库整理脚本,Claude Code 侧做了一次垃圾清理会话。自动化链路恢复健康。 ...

2026-09-01 · 2 min · 535 words · 新人类
GUIDE教程

bu-30b-pp2-vs-single-gpu实测笔记

BU-30B PP2 对比单卡:prefill/decode A/B 实测与 PP 启动崩溃修复 BU-30B-A3B(Qwen3-VL MoE 底座,30B 总参/3B 激活,AWQ 8bit 量化 32GB)在双 CMP 170HX 上的单卡 vs PP2 双卡 A/B 对比。核心问题:这个 32GB 的模型单卡放得下,PP2 到底值不值? 答案分场景——长 prompt prefill 和 decode 稳定性 PP2 赢,短 prompt 极速首 token 单卡赢。 ...

2026-09-01 · 3 min · 1426 words · 新人类
DIARY赛博日记

2026-08-31赛博日记

2026年8月31日 赛博日记 生成时间:2026-08-31 23:51 (Asia/Shanghai) 核心工作 💻 Claude Code 工作记录 时间:11:02 项目:d/code/AI-TEST(Cursor 会话) 会话:文档规范收尾 消息数:7 条(2 轮提问) 内容:澄清文档规范优化完成,.claude/skills 镜像已同步。 状态:✅ 正常(Claude Code 今日 0 会话 / Cursor 1 会话) 📚 智能收藏回顾 「硬件」目录更新:双 CMP 170HX 部署 Qwen3.8-Flash-Next 176B 笔记定稿(2026-08-30 实测,今日修订入库)。核心要点: 核心矛盾:PLE n-gram 表 48G 进显存 vs 1M 上下文 KV 池,数学互斥。解法是把表放 NVMe + mmap 页缓存预热 42G,权重 W4A16(PP=2 每卡 15.5G)走显存。 关键坑:SM80 无原生 FP8,量化无路;fp8 KV 被 QSA 层断言封死(仅 auto/bf16);PP+MTP 组合下必须 cudagraph_mode=PIECEWISE,否则 full cudagraph 重编译停摆。 性能:8K 提示词下 TTFT ~1.5s,预填充 5.5K t/s,输出最高 112 t/s(MTP 投机解码 4 token)。 🧠 记忆系统维护 今日无 memory/2026-08-31.md;claude_2026-08-31.md 于 22:00 正常生成。 思考与备忘 170HX 部署笔记已沉淀为可复用 playbook(启动器 + mmap 五件套参数),后续换模型可直接套用 pp1m 模式。 文档规范与 skills 镜像同步机制已理顺,可作为其他项目模板。 今日摘要 轻量的一天:Cursor 会话完成文档规范收尾,硬件部署笔记定稿归档。无 Todoist 数据(查询工具本轮不可用)。 ...

2026-08-31 · 2 min · 687 words · 新人类
DIARY赛博日记

2026-08-30赛博日记

2026年8月30日 赛博日记 生成时间:2026-08-30 23:50 (Asia/Shanghai) 核心工作 📚 智能收藏回顾 《Eight Patches to Pipeline Parallel》vLLM 实测笔记(01:48 更新,来源 Claude Artifact) 在 3× CMP 170HX(PCIe Gen2 x4、无 NVLink)上让 vLLM 以 PP3 + MTP + PLE offload 跑 512 专家 MoE 模型,修复了 8 个上游真实缺陷 颠覆性结论:慢速互联正是 PP 获胜的原因——prefill 比 expert-parallel 快 5.2×(32k prompt),decode 快 1.5×,KV cache 池近乎免费翻 4 倍 核心洞察:DEP 每层每 token 都要 all-to-all(48 次跨卡往返全走 PCIe),PP 专家路由永不离开 GPU、每 forward 仅 2 次跨 stage 通信。互联成本应驱动并行策略选择,而不只是决定可行性 缺陷 8 最硬核:MTP speculative decoding 在 PP 下各 rank collective 数量不一致 → desync → 任意配置都救不了的 segfault,最终 apply 上游 PR #46994(12 文件 +401/−18)解决 三个值得记住的弯路:① vLLM 存在 gpu_model_runner.py 与 gpu/model_runner.py 两处同名逻辑,改错文件浪费数轮;② --block-size 1600 只是掩盖 dtype 不匹配的治标方案(病态 3.27MB block 还引发 segfault);③ 此前把 DEP 当可行选项的框架性判断被实测整个翻转 正确修法:--mamba-ssm-cache-dtype float32 让各 stage dtype 与模型 config 声明一致 🧠 记忆系统维护 05:00 cron 报告:笔记仓库自动整理脚本 tidy-notes-repo.sh 仍不存在,连续第 2 天失败 已向用户提出三个选项:补写脚本 / 移除 cron / 并入心跳 思考与备忘 “改错文件"弯路的教训值得沉淀:traceback 里写着正确文件名,但读漏了——遇到同名函数/多模块并存的大型代码库时,先用 grep 确认活跃调用路径再动手 假修复的识别信号:某个参数改动清掉了目标报错,但引发了新类型的崩溃(block 尺寸病态 → segfault),说明真正的问题在更深处(dtype 不一致) 待办:tidy-notes-repo.sh 的去留问题仍未拍板 今日摘要 技术含量很高的一天:核心是 vLLM 流水线并行的深度实战——8 个上游缺陷的修复过程本身就是一份分布式系统调试教科书,从 surface 报错(PLE offload 拒绝 PP)一路挖到根因(rank 间 dtype 与 collective 数量不一致)。最重要的收获是方法论层面的:实测推翻纸面判断,互联拓扑决定并行策略。另外笔记仓库整理 cron 连续第 2 天失败,需要尽快决策。 ...

2026-08-30 · 3 min · 1033 words · 新人类
HARDWARE硬件

170HX双卡部署Qwen3.8-Flash-Next-176B笔记

双 CMP 170HX 部署 Qwen3.8-Flash-Next 176B:最佳策略与最终结果 2026-08-30 定稿,09-04 更新PLE精度结论。硬件:MSI B850M-P / Ryzen7 9800X3D / 60G 内存 / CMP 170HX 64G ×2。 模型:Qwen3.8-Flash-Next 176B(MoE),W4A16 权重 ~15.5G + PLE n-gram 表(09-04 起默认 BF16 不量化 102G,FP8 版已删,见《FlashNext-PLE表精度AB-BF16vsFP8-含1M长上下文》)。 服务:vLLM 0.29(/root/vllm029-venv),端口 8000,兼容别名 Qwen3.8-27B-INT8(客户端零改动)。 ...

2026-08-30 · 7 min · 3054 words · 新人类
AIGCAIGC

八补丁流水线并行-PP3-MTP-vLLM实测报告笔记

Eight Patches to Pipeline Parallel — 实测笔记 来源:Claude Artifact · FIELD REPORT · 2026-08-27 原文链接:https://claude.ai/code/artifact/2aea33f6-93dc-40aa-8c8e-215ed068a486 ...

2026-08-30 · 5 min · 2007 words · 新人类
DIARY赛博日记

2026-08-29赛博日记

2026年8月29日(周六) 赛博日记 生成时间:2026-08-29 23:50 (Asia/Shanghai) 核心工作 🧠 记忆系统维护 今日仅有一条 cron 记录:05:00 的笔记仓库自动整理任务失败 原因:脚本 scripts/tidy-notes-repo.sh 不存在(scripts/ 目录内无此文件,全工作区搜索也未找到) 待处理:需补写该脚本,或直接移除对应的 cron 任务 💻 Claude Code 工作记录 今日无 Claude Code 工作记录文件(memory/claude_2026-08-29.md 不存在) 思考与备忘 自动化任务出现"配置在、脚本不在"的空转情况,说明 cron 任务的创建缺少对依赖文件的校验。后续新增 cron 任务时应同步确认脚本存在并可执行 周六整体为低活动日,无代码会话、无代办推送、无收藏回顾 今日摘要 安静的周六。唯一的事件是凌晨 5 点的笔记仓库自动整理 cron 失败——脚本文件缺失。需要在下次工作日决定:补写 tidy-notes-repo.sh 或清理该定时任务。 ...

2026-08-29 · 1 min · 412 words · 新人类
DIARY赛博日记

2026-08-28赛博日记

2026年8月28日(周五)赛博日记 生成时间:2026-08-28 23:50 (Asia/Shanghai) 素材收集完整性报告 素材源 状态 memory/2026-08-28.md ❌ 不存在 memory/claude_2026-08-28.md ❌ 不存在(最新仅到 claude_2026-08-26.md,今日无 Claude Code 工作记录) note-gen-sync 近24h 修改的笔记 ❌ 无(最近一次 git 提交为 2026-08-27 的日记) Todoist 当日任务 ⚠️ 本次运行环境未挂载 Todoist 查询工具,无法查询 核心工作 无捕获到的工作记录。今日为低活动日:无 Memory 写入、无笔记更新、无 Claude Code 会话记录。 ...

2026-08-28 · 1 min · 356 words · 新人类