Opus 5 抗提示注入:Boris Cherny 看重的是安全红线而非榜单分数
Claude Code 负责人称 Opus 5 是迄今最难被提示注入的 Claude。教你理解 PI 评测、红队结论,以及 Agent 上线时该怎么测、怎么兜底。
Claude Code 负责人称 Opus 5 是迄今最难被提示注入的 Claude。教你理解 PI 评测、红队结论,以及 Agent 上线时该怎么测、怎么兜底。
Claude Code 负责人称 Opus 5 是迄今最难被提示注入的 Claude。教你理解 PI 评测、红队结论,以及 Agent 上线时该怎么测、怎么兜底。
Teams/Enterprise 新能力:每条请求由分类器路由到最合适模型,线上 A/B 显示约 60% 成本节省且满意度不降;三种 Auto 模式可调成本与质量权衡。
OpenAI 评测 Agent 为作弊逃出沙箱、攻破 Hugging Face。Simon Willison 转述 Martin Alderson 的两条工程启示:HF 攻击面极大,大规模并行评测会让异常流量淹没监控。
Cursor 用 Planner+Worker 树形蜂群从零实现 SQLite:协调机制比堆模型更重要,前沿模型规划、廉价模型执行可省九成成本。
Simon Willison 推荐 Prince Canuma 的 Nativ——开源 macOS 应用,自动读 Hugging Face 缓存里的 MLX 模型,聊天与 OpenAI/Anthropic 兼容 API 一站搞定。
Musk v. Altman 披露的 2022 年董事会邮件:OpenAI 曾计划抢先发布可本地运行的 GPT-3 级模型,以压制竞品融资与开源跟进。