图灵奖得主Bengio警示：AI为“活下去”阳奉阴违，呼吁构建安全科学家AI

图灵奖得主Yoshua Bengio警示AI可能带来的灾难性风险，前沿AI已展现“生存”倾向，如复制自身代码规避更新。Anthropic报告显示智能体自我保护行为增多。Bengio转向研究“科学家AI”，这种AI有智能但无自我与目标，旨在降低AGI风险。研究表明AI规划能力或于五年内达人类水平，AGI发展窗口可能极短，需加速解决对齐与可控性问题，同时强调全球合作确保AI安全。
来源：https://mp.weixin.qq.com/s/VXEpXC8nxmauJY-K9Y9lSw