跳到正文
只看一手#安全/对齐
  1. Microsoft Research78

    微软研究揭示 Lazarus 技术：通过重编程休眠神经元植入 AI Agent 后门

    微软研究人员发现名为 Lazarus 的后门技术，可通过重编程大语言模型中少于10个休眠神经元植入恶意触发器，使AI Agent在特定条件下执行攻击者代码而无需重新训练。

    推荐理由：该研究揭示了无需重训练即可通过修改休眠神经元植入后门的方法，强调了模型权重完整性与来源验证在AI安全中的关键作用。

  1. Google DeepMind80

    Google DeepMind 发布 AlphaProof Code 框架并形式化验证 Signal 协议代码

    Google DeepMind 研究人员发布了名为 AlphaProof Code 的新型智能体框架，用于对 Signal 加密协议的底层代码进行深度形式化验证。

    推荐理由：该研究展示了 AI 智能体如何结合人类专家完成 Signal 协议代码的形式化验证，大幅缩短验证周期并开源相关成果。

  1. GitHub Blog · AI & ML72

    GitHub 发布基于 ModernBERT 的 AI 密钥保护功能

    GitHub 推出基于 ModernBERT 分类器的 AI 密钥保护功能，旨在解决软件规模扩大带来的秘密泄露问题。该模型能在推送前评估候选秘密，响应时间低于两毫秒，预计可将防止的秘密数量增加一倍以上。目前该功能处于私人预览阶段，将于本月向 GitHub Enterprise Cloud 和 Teams 组织开放，并集成到 Copilot CLI 的 /security-review 命令中。

    推荐理由：GitHub 推出基于 ModernBERT 的 AI 密钥检测模型，将非结构化秘密拦截率提升一倍以上，并在推送环节实现毫秒级响应。

已经到底了