在 Amazon SageMaker AI 上利用知识蒸馏构建高效智能体
AWS 介绍了在 Amazon SageMaker AI 上利用序列级知识蒸馏(SeqKD)优化多步智能体性能与运行成本的实践流程。该方案利用 Bedrock 上的前沿模型生成包含推理过程和工具调用的轨迹,并通过拒绝采样筛选出成功任务样本,以无服务器方式完成监督微调。
AWS 介绍了在 Amazon SageMaker AI 上利用序列级知识蒸馏(SeqKD)优化多步智能体性能与运行成本的实践流程。该方案利用 Bedrock 上的前沿模型生成包含推理过程和工具调用的轨迹,并通过拒绝采样筛选出成功任务样本,以无服务器方式完成监督微调。
OpenAI 宣布将遵循一项共享的 robots.txt 信号,帮助网站运营者向参与该规范的 AI 服务商统一表达是否允许其内容用于 AI 训练的偏好。
AWS Batch 介绍如何通过配额管理,为 SageMaker Training 作业分配团队或项目容量,并跨团队共享闲置 GPU 资源。配额份额支持预留、借出及借出并借入策略,可收回已借出的容量,也可在份额内抢占低优先级作业。示例使用 SageMaker Python SDK v3 配置相关资源。
Google Research 提出面向大语言模型持续学习的 Sleep 睡眠框架,通过清醒交互与离线记忆巩固的周期性交替,将短期上下文知识固化到长期参数中以克服灾难性遗忘。
推荐理由:该研究借鉴人脑睡眠机制交替进行清醒交互与离线巩固,为解决大模型灾难性遗忘与长期记忆保留提供了新路径。
C-BRAIN 与 NVIDIA 合作,利用 AI 整合未充分利用的阿尔茨海默病研究数据,并介绍已构建的科研工具。其基础设施结合集中式与联邦式方法,让模型能在机构内部利用数据学习;OpenScientist 和 InsightEngine 两款开源工具分别支持研究分析与基于文献、数据和知识图谱的假设检验。
Google DeepMind、Google Research 与 WRI、IIASA 联合发布 ForTy 2020,以 10 米分辨率将全球土地划分为 6 类森林及土地利用类型。
Google DeepMind 与新加坡 GovTech 合作,基于 Gemma 微调端侧诈骗检测模型,可在本地分析对话并发出实时警告。模型采用轻量分类器初筛、Gemma 分析上下文的两阶段流程。模型将分阶段集成至应用,仅经用户同意访问设备内对话,Google 和新加坡政府均无法借此访问用户对话。
GitHub 详解机密扫描的两阶段流程,通过正则筛选候选,再由微调的 ModernBERT 结合上下文区分真实凭据与误报。训练覆盖真实凭据、易混淆负样本及合成案例,模型以 ONNX 格式和 8-bit 量化部署;相比此前的 LLM 流程,提交后扫描执行时间中位数降低 86%,推理服务成本降低超过 98%。
StudentSim 通过个性化学生模拟器,为 AI 辅导系统在真人测试前的评估与改进提供反馈。系统使用公开、去标识化的学习记录训练,在国际象棋、英语二语写作和数学任务中优于主要基线。配套基准 StudentSimEval 评估模拟器对学生行为的还原及其对辅导的响应;该系统仅用于研究,未部署于课堂,也不旨在替代教师。
Microsoft Research Asia 开源重构后的 Agent Lightning v1.0,让部署时使用的智能体执行框架直接参与强化学习,无需在训练框架内重新实现。
推荐理由:通过让部署时的智能体执行框架直接参与强化学习,这套方案提供了减少训练重实现成本、保持训练与部署行为一致的方法。
研究人员提出了 SPEX 与 ProxySPEX 算法,用于在大规模场景下高效识别 LLM 的关键特征交互。SPEX 结合信号处理与编码理论,利用稀疏性与低阶性将交互分析转化为稀疏恢复问题。ProxySPEX 进一步利用层次性结构,以减少约 10 倍消融成本达到相同性能,支持特征、数据及模型组件归因。