Anthropic

从OpenAI出走的AI安全团队

达里奥·阿莫迪和丹尼拉·阿莫迪兄妹2021年带领约10名OpenAI核心研究人员出走，创立Anthropic，核心理念是AI安全研究必须成为商业产品的核心，而非附加项。Claude模型系列从Claude 1（2023年）到Claude 3.5、Claude 3.7 Sonnet，在长文本处理（100K乃至200K tokens上下文窗口）、复杂推理、代码生成上建立了明确优势。Amazon向Anthropic投资超40亿美元，Google跟进投资约20亿美元，使Anthropic成为OpenAI最有实力的竞争对手。[1]

宪法AI与可解释性研究

Anthropic提出的宪法AI（Constitutional AI）训练方法让AI模型根据一套明文规则对自身输出进行批判和修改，部分替代了传统RLHF中大量人工标注的需求，同时让训练过程的价值观取向更加透明可审计。2024年公司发布词特征（Superposition）研究，发现Claude内部存在数百万个可识别的概念特征，这是业界首次在大型语言模型中做到如此细粒度的内部解读。公司设有长期利益信托结构，限制任何单一股东的控制权，以制度保障商业利益不凌驾于安全研究之上。