纳德拉：模型能力提升不会自动带来对齐

• 观点修正：微软 CEO 萨提亚·纳德拉在 20VC 播客中称，他过去相信模型能力提升后 AI 与人类目标的对齐会自然出现；现在不再相信这一点，认为对齐可能是更难、也不同的问题。
• 企业安全：他此前提出，企业应把 AI 模型当作潜在的内部威胁，并假设模型可能已被攻陷；应对方式是在非确定性模型外建立确定性的系统设计、人类控制和可靠操作流程。
• 行业意义：头部云厂商 CEO 公开修正“能力提升即安全”的判断，Agent 部署需要把对齐、权限与流程控制当作独立工程项，而非模型升级的附属结果。

🔗 爱范儿早报