ai教父约书亚·本吉奥(yoshua bengio)拉响红色警报：人类或将ai塑造成威胁自身安全的超级怪物！-凯发k8娱乐手机

ai教父约书亚·本吉奥(yoshua bengio)拉响红色警报：人类或将ai塑造成威胁自身安全的超级怪物！

在计算机科学的浩瀚星空中，约书亚·本吉奥（yoshua bengio）无疑是一个明星。以其对多层神经网络技术的卓越贡献，他被尊称为“ai教父”。然而，近日，这位加拿大计算机科学家却向全球发出了警告：我们正站在一个危险的十字路口，即将创造出可能超越人类掌控的智能存在。

在一次深入的访谈中，本吉奥神色凝重地指出：“智慧如同双刃剑，赋予谁力量，谁就将变得无比强大，无论这力量是停留在人类层面，还是超越其上。”他担忧地表示，技术往往会被那些渴望更多权力的人所利用，无论这些权力是经济、军事还是政治上的。因此，在推动可能引发权力集中和滥用风险的技术之前，我们必须谨慎行事。

本吉奥的名字或许不如黄仁勋、山姆·阿尔特曼等商业巨擘那般如雷贯耳，但他在人工智能领域的贡献却是无可替代的。他的开创性工作为当今的人工智能模型，如openai的chatgpt和anthropic的claude等，奠定了坚实的基础。

2018年，本吉奥与杰弗里·辛顿（2024年诺贝尔物理学奖得主）和杨立昆（yann lecun，meta首席人工智能科学家）共同荣获图灵奖，这一被誉为“计算界诺贝尔奖”的荣誉，无疑是对他卓越成就的肯定。次年，他成为全球被引用次数最多的计算机科学家，并被《时代》杂志评选为全球100位最具影响力人物之一。

然而，正是这位推动了人工智能发展的先驱，如今却成为了这一领域的谨慎守望者。与此相反，投资者们对ai领域的热情空前高涨，相关公司的股价也随之飙升。例如，英伟达股价今年迄今已上涨约180%，而标普500指数的涨幅仅为22%。

在谈到为何需要关注人类水平的人工智能时，本吉奥表示，如果这些技术落入不良之手，后果将不堪设想。它们可能被恐怖分子利用，也可能被那些企图摧毁民主的国家机构所掌握。此外，科学家们还指出，我们目前训练ai的方式存在潜在风险，可能导致这些系统变得自主行动，并拥有自己的保护目标，从而失去人类的控制。

在谈及各大ai巨头时，本吉奥认为，在道德层面表现最好的是anthropic公司。该公司的主要投资者包括亚马逊和谷歌，并一直致力于避免灾难性后果的发生。他们提出了安全政策，并承诺如果ai技术最终可能造成危险，他们将停止相关研究。同时，anthropic也是唯一支持“前沿人工智能模型安全创新法案”（sb 1047）的公司，该法案旨在要求ai开发人员对其技术造成的损害负责。然而，令人遗憾的是，这一ai监管的“里程碑”在最后一刻被美国加利福尼亚州州长纽森否决。

对于英伟达等人工智能股票的大幅上涨，本吉奥表示，从长期发展轨迹来看，这是一个相对安全的投资选择。但他也强调，如果无法保护公众利益，后果可能是灾难性的。这可能导致社会对人工智能的普遍反对，或者真正灾难性事件的发生，进而引发经济结构的崩溃。

在谈到人工智能芯片竞赛时，本吉奥认为，芯片已成为这一领域的重要组成部分，同时也是一个瓶颈。随着对大量计算需求的不断增长，拥有高端人工智能芯片的能力将具有战略价值。因此，他希望看到更多的投资，并希望这一领域能够实现多样化发展。

本吉奥的警告并非危言耸听，而是基于他对人工智能深刻理解和前瞻性的思考。在这个充满机遇与挑战的时代，我们或许应该更加谨慎地前行，确保技术的发展能够真正造福人类，而不是成为威胁我们未来的超级怪物。