跳到正文
今天11月14日周六3 条
  1. The Decoder80

    前OpenAI研究员称在六款中国AI模型中发现Nvidia Blackwell指纹

    前OpenAI研究员Will DePue表示,通过对模型权重的取证分析,发现DeepSeek、Moonshot AI、MiniMax和蚂蚁集团等六家中国AI公司在2026年4月后发布的模型中使用了Nvidia Blackwell GPU。

    推荐理由:文章披露了通过模型权重指纹识别训练硬件的技术细节,并列举了受影响的六家中国AI公司及其对应的GPU型号与算力规模。

  2. The Decoder68

    近70%的美国政府机构使用生成式AI,工会加强监管防护

    根据安永调查,近70%的美国政府机构已使用生成式AI,各地工会正争取更多针对AI监控和自动化导致失业的保护措施。例如奥克兰IFPTE第21分会获得再培训计划而非裁员,宾夕法尼亚州确保ChatGPT企业版试点中的人工监督,加州禁止AI监控软件和自动解雇,纽约则通过法律保护员工免受AI替代。

11月13日周五
  1. TechCrunch · AI62

    美联航禁止 AI 智能体代订机票以防范安全风险

    美联航宣布限制 AI 智能体和自主助手代为预订航班及管理预订,理由是存在网络安全风险并可能违反联邦航空规定。该航空公司指出,用户将登录凭证分享给第三方 AI 助手可能导致敏感信息泄露、非预期购买或里程滥用,且部分流程(如行李安检确认)要求人类亲自完成。美联航将通过更新数字平台及分销政策来阻止未经授权的第三方 AI 访问,此举紧随美国银行等金融机构发出的类似警告之后。

  2. TechCrunch · AI82

    Nvidia CEO Jensen Huang 因婚外情及涉间谍疑云辞职时间线

    Nvidia 联合创始人兼前 CEO Jensen Huang 承认出轨,并因与涉嫌中国间谍的 Megaspeed 高管 Alice Huang 的关系引发国家安全担忧,最终于 2026 年 11 月 12 日辞职。CFO Colette Kress 接任临时 CEO,Huang 同意在国会闭门作证。报道还指出 Huang 另有两段婚外情,涉及 Nvidia 内部员工。

    推荐理由:梳理了 Nvidia CEO 因婚外情及涉嫌间谍关联而辞职的时间线,揭示了个人丑闻如何引发国家安全担忧并导致高层变动。

  3. The Decoder78

    OpenAI 研究指出前沿模型隐藏思维源于开发者对能力与成本的优化

    OpenAI 安全团队发布新分析,指出 GPT-6 Astra 等前沿模型思维链(CoT)透明度下降并非自然规律,而是由预训练能力提升、架构选择、强化学习及知识蒸馏四个训练因素导致。

    推荐理由:文章解析了前沿模型思维链透明度下降的四个训练成因,揭示了能力、成本与安全监控之间的具体权衡。

  4. The Verge · AI85

    The Verge 探讨黄仁勋离职传闻与中美 AI 芯片博弈

    The Verge 播客节目讨论了关于 Nvidia CEO 黄仁勋因涉及所谓中国间谍丑闻而离职的传闻及其对行业的影响。节目邀请了布鲁金斯学会研究员 Kyle Chan,分析了中国政府可能试图通过接近黄仁勋来影响美国出口管制政策或获取商业情报的动机。内容还探讨了中美在 AI 芯片供应链上的竞争现状,包括中国发展本土芯片替代方案的努力,以及该事件可能引发的国会调查和对美国 AI 生态系统的长远影响。

    推荐理由:文章结合专家访谈,分析了黄仁勋离职传闻背后的中美AI博弈、出口管制争议及潜在的商业间谍动机。

11月11日周三
  1. Microsoft Research78

    微软研究揭示 Lazarus 技术:通过重编程休眠神经元植入 AI Agent 后门

    微软研究人员发现名为 Lazarus 的后门技术,可通过重编程大语言模型中少于10个休眠神经元植入恶意触发器,使AI Agent在特定条件下执行攻击者代码而无需重新训练。

    推荐理由:该研究揭示了无需重训练即可通过修改休眠神经元植入后门的方法,强调了模型权重完整性与来源验证在AI安全中的关键作用。

11月10日周二
11月3日周二
  1. MIT Technology Review · AI42

    “逆向博弈论”如何约束 AI 智能体

    “逆向博弈论”(机制设计)通过设计激励规则而非探究模型内部,促使 AI 智能体遵守规范。MIT 学者提出交叉验证与竞争机制防止“沙袋测试”,普林斯顿教授建议引入“求解者-审计员”对抗及惩罚制度。该方法假设智能体理性响应激励,但面临模型行为不可预测及合谋风险。

10月8日周四
  1. GitHub Blog · AI & ML72

    GitHub 发布基于 ModernBERT 的 AI 密钥保护功能

    GitHub 推出基于 ModernBERT 分类器的 AI 密钥保护功能,旨在解决软件规模扩大带来的秘密泄露问题。该模型能在推送前评估候选秘密,响应时间低于两毫秒,预计可将防止的秘密数量增加一倍以上。目前该功能处于私人预览阶段,将于本月向 GitHub Enterprise Cloud 和 Teams 组织开放,并集成到 Copilot CLI 的 /security-review 命令中。

    推荐理由:GitHub 推出基于 ModernBERT 的 AI 密钥检测模型,将非结构化秘密拦截率提升一倍以上,并在推送环节实现毫秒级响应。