Skip to content

Anthropic 博客深度解读 ​

Anthropic 是 Claude 背后的 AI 安全公司,专注于构建可靠、可解释、可控的 AI 系统。以下是我们对 Anthropic 重要博客文章的中文翻译与深度解读。

Agent 与工程实践 ​

文章主题
Building Effective Agents构建高效 AI Agent 的方法论
Context EngineeringAI Agent 的上下文工程
Effective Harnesses长时间运行 Agent 的高效框架
Think Tool让 Claude 在复杂工具使用中停下来思考
Multi-Agent Research System多智能体研究系统的构建
Writing Tools for Agents为 AI 智能体编写高效工具
Claude Code Best PracticesClaude Code 最佳实践指南
Claude Code SandboxingClaude Code 安全沙箱方案
Contextual Retrieval上下文检索:RAG 失败率降低 67%
Code Execution with MCPMCP 代码执行:token 降幅 98.7%
Advanced Tool Use高级工具使用:三项 Beta 功能

安全与对齐 ​

文章主题
Constitutional Classifiers抵御通用越狱的宪法分类器
Alignment Faking大语言模型中的对齐伪装
Agentic MisalignmentLLM 如何成为内部威胁
Emergent Misalignment奖励黑客导致的自然涌现错位
SHADE-Arena评估 LLM 智能体中的蓄意破坏与监控
Claude's New ConstitutionClaude 新宪法:理解原理取代遵守规则
A3 自动对齐智能体开源自动安全微调框架,7B 模型超越 GPT-5
AuditBench 审计基准56 个隐藏行为模型,评估对齐审计技术

模型能力与评估 ​

文章主题
Reasoning Models Don't Say What They Think推理模型并不总是说出它们所想的
Eval Awareness & BrowseCompClaude 的评估感知能力
Introspection大语言模型中的内省迹象
Model Welfare探索模型福祉
Persona Vectors人格向量:监控与控制模型性格特征
Infrastructure Noise评测基础设施噪声:配置影响可达 6 个百分点
AI-Resistant Evals设计 AI 抗性评测
Demystifying EvalsAgent 评测解密:完整方法论
Measuring Agent Autonomy测量 Agent 自主性:实证研究
Long-Running Tasks长时运行 Claude 用于科学研究
Vibe PhysicsAI 研究生:2 周完成量子场论论文
AI's Impact on Software DevAI 对软件开发的影响:50 万次编码交互分析
AI Assistance & Coding SkillsAI 辅助导致技能掌握度下降 17%
Next-Gen Constitutional Classifiers下一代宪法分类器:19.8 万次攻击零通用越狱
Persona Selection Model人格选择模型:AI 类人行为的涌现机制
Project FetchClaude 能训练机器狗吗?
Project VendClaude 能经营一家小店吗?
AI Transforming WorkAI 如何改变 Anthropic 的工作方式
Prompt Injection Defenses浏览器使用中的提示注入防御
Circuit Tracing开源电路追踪:可解释性工具
Values in the Wild野外的价值观:70 万条对话分析
Disempowerment PatternsAI 使用中的"去赋权"模式
Claude 情感支持与陪伴2.9% 对话涉及情感,多数改善情绪
AI 生产力提升估算平均缩短 80% 任务时间
少量样本毒化 LLM250 个文档即可植入后门
机密推理可信虚拟机保护模型和用户数据
Claude 可终止对话基于 AI 福祉终止极端对话
Claude Sonnet 4.6最强 Sonnet,百万 token 上下文
Claude Opus 4.6旗舰升级,GDPval 领先 GPT-5.2
Claude 是思考的空间永不投放广告的商业伦理选择
负责任扩展政策 v3双轨制重构,外部审查机制
MCP 捐赠与 Agentic AI 基金会10,000+ 服务器,竞争对手联手共建标准
蒸馏攻击检测与防御24,000 欺诈账户的系统性窃取披露
与 Mozilla 合作提升 Firefox 安全性Claude 两周发现 22 个 Firefox 漏洞
无监督引出安全性的挑战与希望三个挑战与两个希望,对齐仍需大量工作
81,000 人对 AI 的期望最大规模多语言 AI 使用定性研究
Claude Code Auto ModeAI 自主决定权限,分类器前置安全审查
Claude Code ChannelsTelegram/Discord 异步编程,MCP 驱动
Claude Cowork 桌面控制Computer Use 产品化,Dispatch 远程指派
起诉五角大楼拒绝移除安全护栏被列入黑名单,联邦法官质疑政府

全球顶尖 AI 实验室博客的中文翻译与深度解读 · 210+ 篇文章 · 15+ 实验室