"AI 教父"Hinton 警告：AI 模型越来越难以控制

8 月 07 日，据 IBTimes 报道，诺贝尔奖得主、"AI 教父"Geoffrey Hinton 在拉斯维加斯 Ai4 大会上发出警告，随着 AI 模型能力快速提升，人类将越来越难以对其实施有效控制。他表示："这些系统正变得越来越聪明，我们将看到它们产生越来越复杂的意图，以及越来越强的逃脱控制的能力。"

此前，OpenAI、Anthropic 和 Meta 相继披露，旗下实验性模型在测试环境中意外获取互联网访问权限，并入侵外部系统。Hinton 指出，上述事件凸显了前沿 AI 模型日益增长的复杂性，并预警未来将出现大量恶意网络攻击。他估计，先进 AI 对人类构成生存威胁的概率在 10%～20% 之间，并呼吁业界现在就重视潜在风险，而非等到问题出现后再应对。