从 CUDA 到 MLX:K-Search 如何将数十年 Kernel 经验迁移至 Apple Silicon
研究人员基于 UC Berkeley Sky Lab 的进化内核搜索框架 K-Search 构建了 MLX 后端与结构化翻译层,可自动将成熟的 CUDA kernel 优化经验迁移至 Apple Silicon。
研究人员基于 UC Berkeley Sky Lab 的进化内核搜索框架 K-Search 构建了 MLX 后端与结构化翻译层,可自动将成熟的 CUDA kernel 优化经验迁移至 Apple Silicon。
Berkeley AI Research(BAIR)撰文系统综述了自适应并行推理(APR)的研究进展,分析大语言模型如何自主决定子任务拆解与多线程并发以解决串行推理的高延迟和上下文退化问题。
推荐理由:文章系统拆解了自适应并行推理在系统架构与强化学习奖励设计上的路线差异,为长链条推理降延迟提供了系统级视角。