Bengio官宣创业！急筹3000万专治AI欺骗人类，图灵三巨头全下场

图灵奖得主Yoshua Bengio宣布成立非营利机构LawZero，致力于研发“设计即安全”的AI系统，以应对AI军备竞赛带来的社会性和生存性风险。LawZero正在开发一种名为“Scientist AI”的新型AI方法，其特点是不具备行动性，专注于理解世界而非执行任务，从而避免欺骗和自我保护等危险行为。Bengio批评当前AI竞赛过于注重能力提升而忽视安全性，并呼吁加强监管和国际合作。LawZero已筹集3000万美元资金，支持来自多个慈善机构。作为全球顶尖AI学者，Bengio强调AI研究应以人类福祉为核心，探索安全且可靠的AI路径，减少潜在风险并加速解决医疗和环境等重大挑战。
来源：https://mp.weixin.qq.com/s/legsDmUq_ymzBTsdaFvDuA