Vitalik：对 AGI 与 ASI 感到害怕，支持为人类构建智能增强工具而非打造超级智能生命

12月22日，针对 OpenAI 及 AI 领域近期 AGI 相关产品动态，以太坊创始人 Vitalik Buterin 在 X 平台发文表示，“我对 AGI（通用人工智能）的定义是： AGI 是足够强大的人工智能，如果某一天所有人类突然消失，且该 AI 被上传到机器人身体中，它将能够独立地延续文明。

显然，这是一个非常难以衡量的定义，但我觉得这正是很多人脑海中‘我们习惯的 AI’和‘AGI’之间直观区别的核心。它标志着从一个不断依赖人类输入的工具，到一个自给自足的生命形式的转变。 ASI（超级人工智能）则完全是另一回事——我的定义是，当人类在循环中不再对生产力产生价值时（就像在棋类游戏中，我们其实是在过去十年才达到这一点。）

是的，ASI 让我感到害怕——甚至我所定义的 AGI 也让我害怕，因为它带来了明显的失控风险。我支持将我们的工作集中在为人类构建智能增强工具，而不是构建超级智能生命形式。