Anthropic发起“硬问题”倡议，邀请公众提出AI相关尖锐问题

谁来为 AI 制定规则？

AI 能给我的孩子一个更好的未来吗？

AI 会让世界变得更危险吗？

AI 能帮助科学家治愈疾病吗？

人们对 AI 有许多尖锐的疑问。回应这些疑问是我们的职责。

许多人对 AI 持积极态度。他们已经在每天使用它，并看到了它的潜力：让我们的工作和生活不再那么辛劳，改变我们的学习方式，帮助加快科学与技术的进步，创造新的繁荣来源，以及解决我们面临的一些最重大的医疗和社会问题。

但许多人同样怀有严肃的担忧。有些人担心 AI 可能导致失业。有些人担心它可能贬低创造性工作的价值。还有人担忧人的主体性：AI 可能影响我们独立思考的能力、建立人际联结的能力，以及让生活拥有意义的能力。许多人对 AI 的能力落入错误之手意味着什么感到忧虑——并怀疑其收益是否大于代价。

在下面的影片中，你可以听到我们与之交谈过的一些人所表达的部分期望与担忧。

Anthropic 是一家公益公司——我们的使命是确保先进 AI 模型带来的益处，并降低其风险。这一公益使命促使我们采取了一系列行动，例如投入 AI 安全保障以降低滥用风险，研究 AI 模型的行为与内部运作机制以帮助我们将其对齐到有益目标，向科学家免费提供我们的 AI 模型，以及启动一项奖学金计划，让处于职业生涯早期的 Claude 用户与非营利组织配对，以帮助扩大 AI 的益处。

要真正为公共利益行事，我们需要充分了解公众对这项新技术的期望与担忧。作为我们关于棘手问题的新倡议的一部分，我们正在采取进一步措施，了解人们对各种 AI 相关话题的看法和疑问，并透明地记录我们在实现公益目标方面的进展。

我们已经在为此奠定基础，征询了数千人对 AI 的看法：

• 我们已启动Anthropic Public Record——这是一项公开调查，在第一轮中询问了 52,000 名美国人，请他们阐述对这项技术最大的期望与担忧；
• 我们调查了 81,000 名 Claude 用户覆盖 159 个国家和 70 种语言，通过我们的Anthropic Interviewer;
• 我们开展了数十场线下焦点小组讨论，并与那些工作和传统与 AI 所引发的问题相关的群体召开了会议；以及
• 我们一直在通过匿名化的真实世界数据研究Claude 的使用情况。

我们创建了Anthropic Institute——这是公司内部的一项研究计划，目标是直面 AI 将对社会构成的最重大挑战——并且自公司创立早期以来，我们的Long-Term Benefit Trust就一直提供公正的监督，评估我们在推进公共利益使命方面的实际成效。

现在，我们明确地邀请你向我们提出你最棘手的 AI 问题：关于 AI 对就业、社会和家庭影响的问题；关于我们如何实现 AI 在科学和医学领域的巨大潜力的问题；关于人类历史上最强大的技术之一接下来能带我们去向何方的问题。

作为回报，我们将公开追踪并报告我们为回应这些问题所采取的具体行动——并且我们会坦诚说明我们可能在哪些方面未能达到自己设定的目标。

想看看其他人提出了哪些问题，并分享你自己的问题，请访问我们的hard questions website。

推出 Claude for Teachers

Anthropic 承诺投入 1000 万美元支持加拿大 AI 研究