跳到正文
11月4日周三
  1. AWS Machine Learning Blog47

    在 AWS 上构建超低延迟语音 AI 应用:Cartesia 的 SSM 架构方案

    Cartesia 借助状态空间模型(SSM)与 AWS 基础设施,构建了实现首字节延迟低于 100ms 的超低延迟语音 AI 方案。该技术栈包含首字节延迟约 90ms、支持 44 种以上语言及 10 秒音频克隆的 TTS 模型 Sonic,以及支持原生轮换检测的 STT 模型 Ink。开发者可通过 API 调用或直接在 AWS 上部署该方案。

11月3日周二
10月31日周六
  1. AWS Machine Learning Blog42

    如何用 Amazon Bedrock AgentCore runtime 实时预览编程智能体构建的 Web 应用

    Amazon Bedrock AgentCore runtime 演示教程展示如何通过 Session endpoints,在编程智能体构建和修改 Web 应用时实时预览结果。示例在同一会话中运行智能体与 Vite 开发服务器,借助 WebSocket 热更新呈现修改,无需刷新页面。预览请求须经过身份验证,访问仅限允许的端口,链接随会话结束失效。

10月30日周五
  1. AWS Machine Learning Blog40

    如何利用 AWS Batch 配额管理为 SageMaker Training 作业跨团队借出与借入资源

    AWS Batch 介绍如何通过配额管理,为 SageMaker Training 作业分配团队或项目容量,并跨团队共享闲置 GPU 资源。配额份额支持预留、借出及借出并借入策略,可收回已借出的容量,也可在份额内抢占低优先级作业。示例使用 SageMaker Python SDK v3 配置相关资源。

10月28日周三
10月23日周五
10月22日周四
  1. NVIDIA Blog42

    NVIDIA 发布 Minerva,为 AI 工厂提供端到端可观测性

    NVIDIA 今日发布 AIOps 平台 Minerva,整合基础设施与 AI 工作负载遥测数据,为 AI 工厂提供端到端可观测性。平台通过动态知识图谱关联故障,每小时分析数十亿个数据点,检测异常并预测故障。内置 AI 助手支持以自然语言排查集群健康状况并获取修复建议,IREN 已使用该平台。

10月14日周三
  1. GitHub Blog · AI & ML56

    GitHub 解读机密检测模型:如何发现更多真实凭据并减少误报

    GitHub 详解机密扫描的两阶段流程,通过正则筛选候选,再由微调的 ModernBERT 结合上下文区分真实凭据与误报。训练覆盖真实凭据、易混淆负样本及合成案例,模型以 ONNX 格式和 8-bit 量化部署;相比此前的 LLM 流程,提交后扫描执行时间中位数降低 86%,推理服务成本降低超过 98%。

10月8日周四
  1. Microsoft Research63

    Microsoft Research 开源 Agent Lightning v1.0,以约 3,500 行代码实现智能体强化学习框架

    Microsoft Research Asia 开源重构后的 Agent Lightning v1.0,让部署时使用的智能体执行框架直接参与强化学习,无需在训练框架内重新实现。

    推荐理由:通过让部署时的智能体执行框架直接参与强化学习,这套方案提供了减少训练重实现成本、保持训练与部署行为一致的方法。

7月29日周三
7月7日周二
  1. Berkeley AI Research67

    UC Berkeley 探讨低成本智能时代数据系统重构

    UC Berkeley 研究团队提出随着推理成本大幅下降,数据系统将围绕面向智能体、依托智能体以及由智能体自动构建三大方向展开重塑。面向智能体需要针对高频推测式探索优化批量查询与跨计划复用;依托智能体需要超越纯文本文件以构建多维属性的结构化记忆与并发一致性基底;同时智能体正具备按工作负载直接合成专用数据引擎的能力,重点在于规避奖励黑客并提供形式化验证。

    推荐理由:原文系统梳理了智能体负载对传统数据库架构的冲击,为开发者重新设计数据存储、状态管理与合成引擎提供了清晰的方向参考。

5月8日周五
  1. Berkeley AI Research62

    BAIR 详解自适应并行推理:大模型推理时扩展的新范式

    Berkeley AI Research(BAIR)撰文系统综述了自适应并行推理(APR)的研究进展,分析大语言模型如何自主决定子任务拆解与多线程并发以解决串行推理的高延迟和上下文退化问题。

    推荐理由:文章系统拆解了自适应并行推理在系统架构与强化学习奖励设计上的路线差异,为长链条推理降延迟提供了系统级视角。