跳到正文

每天 3–8 分钟,了解值得关注的 AI 动态

AI Know 早报

窃取专有 LLM API 的推理轨迹:加密块可跨会话互换引发解密越狱

ChatGPT 与 Gemini 双双突破 10 亿用户;研究人员发现可读取ChatGPT等模型加密推理过程的API漏洞;NVIDIA 推出 Nemotron 3.5 Lightning,加速本地智能体任务

听书 00:00 / --:--
当日配图
图:HuggingFace Da
60
秒速览

看懂今天

  1. ChatGPT与Gemini月活均破10亿,大模型晋升普适基础设施。
  2. API加密推理轨迹遭跨会话窃取,专有模型思考链暴露风险。
  3. 英伟达密集发布Nemotron 3.5 Lightning与万亿参数Nemotron 4。
  4. OpenAI Astra攻克10道未解数学难题,数学界震动与自省并存。
  5. Apple Silicon推理加速11–16倍,本地大模型部署门槛骤降。
热点分析

今日格局与关键变量

主线一:10亿用户狂欢下的安全裂痕

ChatGPT与Gemini几乎在同一窗口期宣布月活用户突破10亿,标志着大模型服务正式进入全民级应用行列,AI不再是早期尝鲜者的玩具,而是像搜索引擎一样渗入日常工作与生活。然而,就在用户规模高歌猛进之时,HuggingFace与The Decoder同日披露了一则严峻的安全研究:攻击者可以利用API加密推理轨迹的跨会话互换机制,将窃取到的加密块重组解密,从而还原专有模型的完整思考过程。该漏洞直指当前API设计的一个深层缺陷——加密保护仅在单个会话内有效,不同会话间的推理块可被拼凑利用,形成“解密越狱”。这意味着即便传输层加密严密,攻击者仍能窃取模型的中间推理内容,这对金融分析、医疗建议、法律文书等依赖API输出的高敏感行业构成直接威胁。用户越多,暴露面越大,API安全架构正面临从“防侵入”到“防推理泄露”的范式升级。

主线二:英伟达多线出击,推理效率定义新战场

英伟达在本周接连抛出两枚模型“炸弹”。首先是Nemotron 3.5 Lightning,专为本地智能体任务打造,主打低延迟和高能效,配合SGLang在发布当日即完成Day-0适配,形成从训练框架到推理引擎的端到端闭环。其次,万亿参数开源模型Nemotron 4的消息浮出水面,直接对标全球最强模型矩阵,若如期开源,将改写整个领域的竞争格局。与此同时,工程侧的突破同样集中爆发:Apple Silicon借助Llama.cpp在macOS虚拟机中实现11–16倍的LLM推理加速,让本地运行百亿参数模型不再是想象;统一Radix缓存方案为混合模型前缀缓存构建单一树结构,大幅降低多模型部署的内存冗余。这一系列动作表明,大模型竞争的重心已从参数量的简单攀比,转向“场景适配+推理吞吐+成本能耗”的系统化效率竞赛,模型能不能跑在手机、汽车、PC里,以及跑得好不好,正在成为商业落地的分水岭。

主线三:数学突破燃起范式之争

OpenAI用Astra模型攻克了10道长期悬而未决的数学难题,涵盖组合数学、数论等多个方向。数学界的反应呈现撕裂态势:一方面,许多数学家将Astra视为超级辅助工具,期待它能加速猜想验证与证明编排;另一方面,也有人忧虑人类数学家的直觉、审美和构造性思维会被黑箱工具逐步替代,数学研究可能蜕变为提示工程。这背后折射的,是AI在高度智力密集型领域从“辅助”走向“替代”的边界焦虑,相关讨论势必影响学术评价标准和未来教育方向。

完整信源

事实从哪里来

今日信源10条
窃取专有 LLM API 的推理轨迹:加密块可跨会话互换引发解密越狱

窃取专有 LLM API 的推理轨迹:加密块可跨会话互换引发解密越狱

ChatGPT 与 Gemini 双双突破 10 亿用户

ChatGPT 与 Gemini 双双突破 10 亿用户

研究人员发现可读取ChatGPT等模型加密推理过程的API漏洞

研究人员发现可读取ChatGPT等模型加密推理过程的API漏洞

NVIDIA 推出 Nemotron 3.5 Lightning,加速本地智能体任务

NVIDIA 推出 Nemotron 3.5 Lightning,加速本地智能体任务

消息称英伟达开发万亿参数开源 AI 模型 Nemotron 4,目标挑战全球顶级

消息称英伟达开发万亿参数开源 AI 模型 Nemotron 4,目标挑战全球顶级

OpenAI 用 Astra 模型攻克 10 道数学难题,数学家既兴奋又担忧

OpenAI 用 Astra 模型攻克 10 道数学难题,数学家既兴奋又担忧

SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning

SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightnin

Apple Silicon 与 macOS 虚拟机:借助 Llama.cpp 实现 11-16 倍的 LLM 推理加速

Apple Silicon 与 macOS 虚拟机:借助 Llama.cpp 实现 11-16 倍的 LLM 推理加速

Gemini 助力 Database Migration Service 加速 PostgreSQL 迁移

Gemini 助力 Database Migration Service 加速 PostgreSQL 迁移

统一 Radix 缓存:为混合模型前缀缓存构建单一树结构

统一 Radix 缓存:为混合模型前缀缓存构建单一树结构