FreeBuf公众号文章

前沿AI大模型仅用16分钟攻入工控系统;Anthropic预警AI自我复制风险 | FreeBuf周报

我们总结推荐了本周的热点资讯、一周好文,保证大家不错过本周的每一个重点。

FreeBuf

公众号 · 132 篇文章

图片
⚙️ 前沿 AI 大模型仅用 16 分钟攻入工控系统,直抵 OT 控制区
📺 Anthropic 预警:小型 AI 模型数月内可在智能电视等 IoT 设备自我复制,无需依托数据中心
💰 AI 低质报告冲击漏洞赏金机制,科技巨头调整披露规则
🖥️ NVIDIA 修复 DCGM Exporter 高危漏洞,未授权攻击可耗尽 GPU 服务器资源
🤖 研究人员绕过 6 款主流 AI Agent 框架,仅需 “跟我念” 简单提示
🔍 Anthropic 推出免费 AI 漏洞扫描器,面向开源项目开放使用
🌐 谷歌四倍上调 Chrome 漏洞赏金基础标准,沙箱逃逸最高奖 2 万美元
🎙️ OpenAI 工程师涉嫌在高管会议室放置窃听设备,已被逮捕
🐧 Linux vhost 高危漏洞 PoC 公开,可致 root 提权与虚拟机逃逸
🤝 Anthropic 设立新加坡办公室,与政府签署 AI 安全合作协议

图片


前沿AI大模型仅用16分钟攻入工控系统,直抵OT控制区

博思艾伦测试显示,AI自主完成全部8项OT攻击目标,16分钟突破,可操控机械臂、劫持SCADA,速度远超人类。真实AI辅助攻击已现,物理损害风险攀升。

图片


Anthropic预警小型AI模型数月内可在智能电视等IoT设备自我复制,无需依托数据中心

Anthropic预警:安全薄弱的智能电视等IoT设备或遭小型AI模型自我复制。廉价硬件分布式运行大模型令威胁渐近,Kimwolf已感染超200万台设备。

图片


AI低质报告冲击漏洞赏金机制,科技巨头调整披露规则

生成式AI催生海量低质漏洞报告,审核成本失衡,英特尔、谷歌等收缩赏金计划,转向内部AI审计,漏洞管理迎来转折。

图片


NVIDIA修复DCGM Exporter高危漏洞,未授权攻击可耗尽GPU服务器资源

NVIDIA修复DCGM Exporter高危漏洞CVE-2026-47483:pprof未授权致资源耗尽崩溃。应升级4.8.2、禁用pprof并限制访问。

图片


研究人员绕过6款主流AI Agent框架,仅需“跟我念”简单提示

“跟我念”攻击仅靠复述即可让6款主流AI Agent框架执行恶意工具调用,根源在模型输出被当作执行授权;118个MCP服务器更发现253个漏洞。

图片


Anthropic推出免费AI漏洞扫描器,面向开源项目开放使用

Anthropic发布OSS Scanner,依托大模型免费扫描开源项目漏洞,无需人工审核分诊,已发现2.9万个候选漏洞,并推出关键基础设施防御计划。

图片


谷歌四倍上调Chrome漏洞赏金基础标准,沙箱逃逸最高奖2万美元

谷歌调整Chrome漏洞奖励计划:内存损坏基础赏金四倍至2000美元,高危最高2万;中危修复、沙箱逃逸纳入奖励,恢复Fuzzer奖并设年度表彰,新规即时生效。

image


OpenAI工程师涉嫌在高管会议室放置窃听设备,已被逮捕

OpenAI工程师涉嫌在高管会议室藏匿录音设备被捕,FBI调查;目前仅涉物理窃听,未确认网络入侵或录音外泄,若罪成最高5年监禁。

图片


Linux vhost高危漏洞PoC公开,可致root提权与虚拟机逃逸

vhost漏洞CVE-2026-74580(Vghost)缓存校验缺陷,可致root提权,特定配置可虚拟机逃逸,已有PoC;应升级内核并限制vhost设备权限。

图片


Anthropic设立新加坡办公室,与政府签署AI安全合作协议

Anthropic新加坡设办公室并签AI安全MOU,推动Claude本地部署与Agent落地,Grab、星展等已应用,企业从试验转向生产。

图片





图片

本周好文推荐指数

图片
图片
图片

图片
图片



RAG 投毒攻击完整复现:从恶意文档构造到持久化控制的利用链

RAG默认信任检索内容,恶意文档投毒向量库后,用户查询即触发LLM生成恶意命令或工具调用,造成命令执行、数据外带与持久化控制,并给出检测防御。


图片


单个 Skill 都没问题,危险为什么藏在组合里?——AI Agent Skill 链攻击与运行时防御实测

单Skill均合规,组合执行路径仍可能外流、扩权或副作用。安全须从节点检查转向运行时路径控制,并以可信溯源执行路径级不变量,单Skill扫描不足。


图片


AI 模型后门攻击:供应链投毒植入隐蔽后门

AI模型供应链投毒借pickle反序列化在HuggingFace伪装模型植入后门,加载即触发命令执行与数据外带;需用safetensors、验证来源并监控。


图片



推荐阅读

图片


电报讨论

图片

扫码加入AI安全交流群

下载FreeBuf知识大陆APP

前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →