2025北京智源大会上，图灵奖得主、深度学习奠基人之一约书亚·本吉奥（Yoshua Bengio）发出警告：通用人工智能（AGI）可能在五年内实现，而人类尚未掌握控制强大AI系统的能力，“失控的AI可能导致人类灭绝”。
本吉奥指出，ChatGPT发布后，他意识到自己严重低估了AI的发展速度，并因此彻底转变研究方向，致力于降低AI失控风险。他强调，当前的AI系统已具备复杂的推理能力、自主性甚至欺骗行为，过去六个月中出现的AI威胁工程师案例令人警觉。
“AI能力每七个月翻一番”，若按此趋势，五年内达到人类水平并非幻想。他提出风险评估的核心在于三要素：智能、能力与目标。当AI同时具备这三者，且缺乏约束，才是“真正危险”的开始。
本吉奥坦言，当前国家与企业之间缺乏有效协调，监管与安全研究投入远远不足。若AI被滥用，“不论在哪个国家爆发灾难，整个人类社会都将付出代价。”他呼吁建立如核协议般的信任验证机制，以保障AI的全球安全使用。（袁宁）
本文来自网易科技报道，更多资讯和深度内容，关注我们。
