随笔

01运行时

先把运行时边界做清楚

模块加载、张量生命周期和设备调度看起来都属于 runtime,但它们不该共享同一种“方便”。边界越晚确定,后面的抽象就越像补丁。

来自 RuntimeSession 的接口整理
02实验

一次精度回落的复盘

当 block length 变大,第一反应不该是给模型行为编故事。先确认日志、采样和对照是否在描述同一个过程,再谈启发式。

来自 Dist Penalty 的实验复核
03Agent

连接不是状态

WebSocket 断开时,真正需要恢复的是事件序列和业务投影。把连接对象当作会话本身,只会让重连逻辑承担它不该知道的事情。

来自 Agent 会话状态设计

保持简单

站内搜索

输入关键词,例如 LLVM、Agent 或 推理。