跳到正文
  1. AWS Machine Learning Blog65

    如何在 Amazon Bedrock 上为 AI 开发者工具配置成本归因与控制

    AWS 官方博客介绍了如何在 Amazon Bedrock 上为 Claude Code、Codex 等 AI 开发者工具配置细粒度的成本归因与控制机制。通过集成 IAM Identity Center 和外部身份提供商,系统可将每个推理调用追溯至具体用户,并将会话标签流入 AWS Cost and Usage Reports (CUR 2.0)。

    推荐理由:文章提供了在 Amazon Bedrock 上实现 AI 工具按用户归因成本的具体配置步骤和查询方法,帮助团队精确追踪和控制开发支出。

  2. AWS Machine Learning Blog66

    AWS 教程:使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮

    AWS 发布了一篇技术教程,展示如何利用 Amazon SageMaker HyperPod 的 Data Capture 功能记录实时推理输入输出,以构建模型改进飞轮。

    推荐理由:文章演示了利用 Data Capture 记录生产流量、通过 Athena 分析发现模型盲区,并结合 HyperPod Training Operator 进行 LoRA 微调的完整闭环流程。

  1. AWS Machine Learning Blog60

    AWS 教程:使用推式架构自动化更新 AWS Agent Registry

    AWS 发布一篇技术教程,介绍如何利用 AWS CloudTrail、Amazon EventBridge 和 AWS Lambda 构建推式架构,自动同步 Amazon Bedrock AgentCore 中 MCP 服务器的工具变更到 AWS Agent Registry。

    推荐理由:文章提供了基于 CloudTrail 和 Lambda 的自动化同步方案,帮助企业在多账号环境下保持 MCP 服务器元数据的实时性与治理合规。

  2. AWS Machine Learning Blog68

    AWS 发布 Amazon Bedrock、AgentCore 和 Strands 多项更新

    AWS 在十月集中推出 Amazon Bedrock、Bedrock AgentCore 及开源工具包 Strands 的多项功能更新。Bedrock 新增 Claude Haiku 5.5、GPT-6.1 Terra、Nova 2.5 Sonic 等模型,并支持结构化输出与领域过滤搜索。

    推荐理由:AWS 集中发布 Bedrock、AgentCore 和 Strands 的多项更新,涵盖新模型接入、智能体容错机制及成本优化方案,为构建生产级 AI 应用提供具体工具链。

  3. AWS Machine Learning Blog70

    Amazon Bedrock AgentCore 推出 Web Search API

    Amazon Bedrock AgentCore 正式推出 Web Search API,允许开发者通过单次 API 调用直接从 Amazon 运营的网页索引中获取实时搜索结果。

    推荐理由:该 API 允许开发者通过单次调用直接获取实时搜索结果,无需配置网关,简化了非智能体应用和自定义编排框架的集成流程。

  4. AWS Machine Learning Blog68

    AWS SageMaker HyperPod 静默数据损坏检测与恢复指南

    AWS 官方博客介绍了如何在 Amazon SageMaker HyperPod 的 PyTorch DDP 训练循环中检测并恢复静默数据损坏(SDC)。方案包含三个核心检查:非有限梯度检查、环重放审计和权重指纹比较,分别捕捉 NaN/Inf、有限值错误和优化器步骤后的权重损坏。

    推荐理由:文章提供了在 PyTorch DDP 训练循环中集成三种静默数据 corruption 检测机制的具体代码与流程,帮助开发者在大规模分布式训练中实现故障定位与节点自动恢复。

  5. AWS Machine Learning Blog73

    使用反统一算法进行形式化策略的语义差异分析

    AWS 博客介绍了一种基于反统一(anti-unification)和 e-graph 的开源引擎,用于对 Cedar、Dogwood、OpenShell 和 CEL 等形式化策略进行语义差异分析。该方法能忽略语法重排等无关变化,精准定位如条件弱化或范围扩大等实质性逻辑分歧,辅助大模型自动形式化结果的验证与修正。文中提供了具体的代码示例、性能数据及 GitHub 仓库链接。

    推荐理由:文章展示了如何利用反统一算法对形式化策略进行语义差异分析,帮助开发者在自动形式化过程中识别和解决逻辑分歧。

  6. AWS Machine Learning Blog62

    如何在 Amazon Bedrock 上安全集成 OpenAI Codex

    AWS 发布指南,介绍如何将 OpenAI Codex 与 Amazon Bedrock 集成以支持企业级代码辅助工作流。文章详细阐述了三种接入路径:原生 AWS 访问、AgentCore Gateway 和 LLM Gateway,并提供了基于 IAM Identity Center 的身份验证配置、OpenTelemetry 监控设置以及成本分摊的最佳实践示例。

    推荐理由:文章提供了在 Amazon Bedrock 上安全集成 OpenAI Codex 的具体架构路径、身份验证配置及监控方案,帮助企业在统一管控下使用 AI 编程助手。

  7. AWS Machine Learning Blog65

    使用 Amazon Bedrock 和 Spring AI 构建自主 AI 智能体

    AWS 发布教程,指导 Java 开发者结合 Spring AI 与 Amazon Bedrock AgentCore 构建自主 AI 智能体。内容涵盖智能体的规划、工具调用和记忆三大核心能力,并提供两种系统实现:展示工具调用与记忆的单人旅行助手,以及包含五个专家智能体和规则引擎的多智能体智能文档处理(IDP)系统。

    推荐理由:文章展示了 Java 团队如何利用 Spring AI 和 Amazon Bedrock AgentCore 构建具备规划、工具调用及记忆能力的自主智能体,并提供了从单智能体到多智能体系统的完整生产级架构与部署指南。

  8. AWS Machine Learning Blog68

    AWS 详解 Agent DLC:如何工程化构建生产级 AI 智能体

    AWS 博客文章介绍了 Agent Development Lifecycle (Agent DLC) 框架,旨在解决 AI 智能体从原型到生产环境的工程化挑战。

    推荐理由:文章提出了 Agent DLC 框架,通过内外双循环和明确的金标准,帮助团队解决智能体从原型到生产环境的评估与工程化难题。

  9. AWS Machine Learning Blog70

    Amazon Bedrock Managed Knowledge Base 工具的细粒度访问控制方案

    AWS 博客介绍了如何在 Amazon Bedrock Managed Knowledge Base 中实现细粒度访问控制,确保 AI 智能体在多用户共享知识库时仅返回授权文档。

    推荐理由:文章提供了在 Amazon Bedrock AgentCore 中实现细粒度访问控制的具体架构和代码示例,帮助开发者解决多租户场景下的数据隔离问题。

  10. GitHub Blog · AI & ML70

    GitHub 发布 Agent Skills 实用指南:一次构建多端运行

    GitHub 博客发布关于 Agent Skills 的实用指南,介绍如何通过 SKILL.md 文件封装可重复任务指令,实现跨智能体复用。文章以 Proof Agent 和 Data Forge 为例,说明如何定义技能职责、通过 Manifest 分离项目配置、协调多个技能工作流以及集成人工审查节点。

    推荐理由:文章拆解了 Agent Skills 的结构与协作模式,提供了可复用的构建规范与工作流设计思路。

  11. AWS Machine Learning Blog65

    AWS 发布 SGLang-Neuron 插件以支持 Trainium 推理

    Amazon 宣布 SGLang-Neuron 公开可用,该插件由 RadixArk 与 Annapurna Labs 合作开发,允许用户通过 AWS Deep Learning Container 在 AWS Trainium 芯片上使用 SGLang 接口部署模型和生成强化学习 rollout。

    推荐理由:SGLang-Neuron 插件公开可用,支持在 AWS Trainium 上通过标准 SGLang 接口部署模型并生成强化学习 rollout。

  12. AWS Machine Learning Blog67

    AWS 教程:利用 CUR 2.0 和 Budgets 按 IAM 主体追踪并限制 Amazon Bedrock 支出

    AWS 官方博客发布教程,介绍如何仅使用 AWS 原生功能(IAM 标签、CUR 2.0、Cost Explorer 和 AWS Budgets)实现按 IAM 主体追踪 Amazon Bedrock 成本并设置支出上限。

    推荐理由:文章提供了基于 AWS 原生工具实现按身份追踪和限制 Bedrock 成本的完整方案,无需编写自定义代码即可落地。

  13. AWS Machine Learning Blog68

    如何在 Amazon Bedrock 上优化任务成本并证明智能体 ROI

    AWS 解决方案架构师分享在 Amazon Bedrock 上优化智能体成本和证明投资回报率的方法。文章指出应关注“单次任务成本”而非“每 Token 成本”,分析了分词器效率、输出冗长、智能体循环和推理开销四个隐藏成本驱动因素,并介绍了通过提示缓存、路由和约束来降低成本的技巧。此外,文章还提出了通过建立人类基线、进行对照实验和使用五维度记分卡来衡量智能体相对于人工流程的实际业务价值。

    推荐理由:文章提供了计算真实模型成本和衡量智能体投资回报率的框架,帮助工程师优化开销并验证业务价值。

  14. AWS Machine Learning Blog65

    使用 Amazon Bedrock 和 LiteLLM 构建自服务 LLM 网关

    本文介绍如何使用 Amazon Bedrock Application Inference Profiles 和运行在 AWS Fargate 上的 LiteLLM 构建自服务 LLM 网关,通过 OpenAI 兼容 API 抽象底层模型访问。

    推荐理由:文章提供了基于 Amazon Bedrock 和 LiteLLM 构建自服务 LLM 网关的完整架构与配置细节,帮助团队实现成本控制和可观测性。

  15. AWS Machine Learning Blog78

    Amazon Bedrock AgentCore Runtime 发布新一代版本

    Amazon Bedrock AgentCore 发布新一代 AgentCore runtime,旨在解决 AI 智能体规模化部署中的安全与效率挑战。新版本在保持硬件级隔离(Firecracker MicroVM)的基础上,将会话启动速度提升最高15倍,计算资源扩展至4倍(最高8 vCPU和32 GB),并通过空闲时自动释放内存使运行效率提升最高68%。

    推荐理由:该运行时将会话启动速度提升15倍并支持动态内存回收,为大规模部署AI智能体提供了兼顾隔离性与成本效率的基础设施方案。

  1. Microsoft Research75

    微软发布 PDD Kit:用形式化验证确保 AI 智能体代码符合意图

    微软研究团队发布 PDD Kit,这是一种用于证明驱动开发(Proof-Driven Development)的工具包,旨在通过形式化方法验证由 AI 智能体编写的全栈 Web 应用代码。

    推荐理由:微软发布 PDD Kit 工具,通过形式化验证确保 AI 智能体生成的代码严格符合用户意图,为大规模 Agent 开发提供新的质量保障范式。

  1. GitHub Blog · AI & ML73

    GitHub 发布基于 ModernBERT 的秘密检测模型以降低误报

    GitHub 推出新的秘密检测流水线,采用微调的 ModernBERT 分类器替代原有的 LLM 方案,旨在区分真实凭证与上下文中的假阳性样本。该方案将推送后扫描的中位执行时间降低 86%,服务成本降低超过 98%,同时使仓库所有者加权的警报接受率提升 11.5%。新流程结合正则表达式进行候选生成,利用模型理解代码上下文以过滤测试夹具或文档占位符等干扰项。

    推荐理由:文章披露了 GitHub 秘密扫描新架构的技术细节与实测数据,展示了如何用轻量级分类器替代 LLM 以降低误报并提升效率。

  1. Berkeley AI Research78

    Berkeley AI Research:K-Search 将 CUDA 内核优化经验迁移至 Apple Silicon

    Berkeley AI Research 扩展了 K-Search 框架,新增 MLX 后端以支持 Apple Silicon,并通过结构化 CUDA-to-MLX 翻译层将 NVIDIA 内核优化知识迁移至苹果芯片。

    推荐理由:文章展示了如何将 CUDA 内核优化知识通过结构化翻译层迁移至 Apple Silicon,使 MLX 框架下的 Attention 和 Mamba SSM 内核达到接近专家级的性能。

已经到底了