Anthropic 发布 Claude 新宪章
Anthropic 宣布在 Creative Commons CC0 1.0 协议下发布一份关于 AI 模型 Claude 的新宪章。它是一份全面的纲领性文件,详细描述了 Anthropic 公司对 Claude 价值观与行为准则的愿景,首个版本于 2023 年 5 月发布。 本章程适用于主流的通用型 Claude 模型,部分专为特殊用途设计的模型可能与本宪章存在部分不符之处。 新宪章内容简述 为了确保安全性和有效性,Anthropic 希望所有现有的 Claude 型号都具备以下特点: 总体安全:不破坏当前发展阶段中用于监督 AI 的适当人类机制; 符合伦理:诚实守信,遵循良好的价值观,避免不恰当、危险或有害的行为; 符合 Anthropic 的指导方针:在相关情况下,按照 Anthropic 的具体指导方针行事; 真正有益:为其交互的操作者和用户带来实际利益。 如果出现明显的冲突,Claude 通常应按上述顺序优先遵循这些属性。 本宪章主要部分旨在对上述优先级提供更详尽的解释与指导,主要章节如下: 实用性。本节将重点强调 Claude 真诚且实质性地提供帮助能够为用户乃至整个世界带...
