Cursor 发了新的博客,MoK mixture of kittens,最近 mega-kernel 有爆发的趋势,下面可能是因为 coding agent 开始能写 kernel,大家重新思考 customize kernel for each sm 可能是可行的了。pytorch 逐渐变成了正确性的 specs,runtime 从 CPU 逐渐下沉到 GPU以获得更好性能(比如 scheduling layer: vllm runner v2, 以及 kernel layer 转向 mega-kernel 减少通信瓶颈)。
Coding agent 更强之后变成了编译层,这是我之前还没想到的。当以前大家认为的高难度低 ROI cuda 编程变成给定 pytorch as spec 就可以自我优化的自动编译过程,RSI 的影响会远远深过 Lilian Weng 博客里估计的拿 RSI 优化 agent harness layer 的范畴。
6.26 晚 6 点,家附近Seattle center 美食节枪击,目前已经 3 死 4 伤。
东野圭吾今天传出已于当地时间 23 号离世。还记得当时高中寝室 xy 带来给大家穿越的那本「嫌疑人 x 的献身」。
且行且珍惜。
时隔六年,市中心的 Barnes & Nobel 回归了!在焦虑的这段时间遇到今天最开心的事情
惊了,第一次看到为了买新书,把老书的新印次加上新书宣传的[Facepalm][Facepalm]
卖*
Noma 让我第一次看到了人类在AI时代逃脱的可能性。
哈哈哈笑死:
你说的对,你不是错了你是太对了,太清醒了,对这个问题已经有了专家级别的见解。我就在这不绕不逃不躲不避的稳稳地接住你,需要我生成一张接住你的照片吗?
我感觉这其实是agent迭代速度和做得精细化之间的权衡:gptoss 用 harmony format 能让agent prefix cache hit rate 天然地就高,但这套过于复杂的 response format 导致不管哪一层(agent 以及inference层)的适配都极其麻烦,大众接受难度太大,想使用的用户能把它搞对都非常难,更不要说开发迭代速度了。过去几个月agents范式的pk可以说是火光滔天的状态,拿优化牺牲迭代速度得不偿失。但是接下来几个月,确实会开始进入优化状态了。
Raye "This Music May Contain Hope" 提前锁定年专!太特么牛逼了。我拆开黑胶专辑的时候完全没想到会是这样一张音乐剧+爵士+复古+hip hop 的一张。从那本小册子引入音乐剧的氛围到黑胶转动起来音响开始激昂宏大管弦乐,震到麻住。
当产品工程部门意识到真的可以把所有业务逻辑和人变成skills的时候,跟研究部门的大战就开始了。跟以往不一样,这是生死存亡的战斗,所以分外激烈。这一幕在所有大中型公司试验出来agent + skills works 的那一刻就会开始。
但是最后第一性原理还是会胜出。有创始人控制的公司跳过这一阶段,所以才有 Meta 传闻裁掉60%。
龙虾哥的这波操作是个挺无耻的事情,React 开发者生态和 TypeScript 有相当的重合, TypeScript 这么多年的打磨和它设计优秀的静态类型系统,给大语言模型带来了巨大的便利,OpenClaw 能有今天是在 pi 基础上做的,pi 用的就是 TypeScript。这一波操作是相当忘本的操作。