Yoshua Bengio 教授告诉 BBC，他对自己一生的工作感到“迷失”。
计算机科学家的评论是在人工智能专家表示它可能导致人类灭绝之后发表的。
本吉奥教授加入了人工智能监管的行列，他表示他认为军队不应该被授予人工智能权力。
他是所谓的人工智能三位“教父”中的第二位，以其在该领域的开创性工作而闻名，对人工智能的发展方向和速度表示担忧。
人工智能描述了计算机执行如此复杂任务的能力，它们以前需要人类智能才能完成。
最近的一个例子是人工智能聊天机器人的开发，比如 ChatGPT，它似乎可以像人类一样回答问题。
这导致了欧盟计划中的人工智能立法。 周三，欧盟技术负责人玛格丽特·维斯塔格 (Margrethe Vestager) 表示，可以“在未来几周内”制定人工智能的自愿行为准则。
“坏演员”
一些人担心先进的计算能力可能被用于有害目的，例如开发致命的新型化学武器。
本吉奥教授告诉 BBC，他担心“坏人”掌握人工智能，尤其是当它变得更加复杂和强大时。
“这可能是军人，可能是恐怖分子，可能是非常愤怒、精神病的人。因此，如果很容易对这些人工智能系统进行编程，要求他们做一些非常糟糕的事情，这可能是非常危险的。
“如果他们比我们聪明，那么我们就很难停止这些系统或防止损坏，”他补充说。
本吉奥教授承认，这些担忧对他个人造成了伤害，因为他一生的工作给了他方向和认同感，但他不再清楚了。
“从情感上讲，对于 [AI 部门] 内部的人来说，这是具有挑战性的，”他说。
“你可以说我感到迷茫。但你必须继续前进，你必须参与、讨论、鼓励他人与你一起思考。”
加拿大人最近签署了两项声明，敦促对人工智能的未来风险保持谨慎。 一些学者和行业专家警告说，发展速度可能导致恶意人工智能被“坏人”部署以主动造成伤害——或者选择自己造成伤害。
专家警告人工智能可能导致灭绝
人工智能聊天机器人“可能很快就会比我们更聪明”
人工智能是个好主意吗？
“教父”Geoffrey Hinton 博士也签署了与 Bengio 教授相同的警告，并于最近从谷歌退休，称他对自己的工作感到后悔。
第三位“教父”Yann LeCun 教授与 Bengio 教授和 Hinton 博士一起因其开创性工作获得了著名的图灵奖，他表示世界末日的警告有些言过其实。
推特和特斯拉的老板埃隆马斯克也表达了他的担忧。
“我不认为人工智能会试图摧毁人类，但它可能会把我们置于严格的控制之下，”他最近在《华尔街日报》主办的一次活动中说。
“它毁灭人类的可能性很小。接近于零，但并非不可能。”
Bengio 教授告诉 BBC，所有构建强大人工智能产品的公司都需要注册。
“政府需要跟踪他们正在做的事情，他们需要能够对其进行审计，而这只是我们为任何其他行业（例如制造飞机、汽车或制药）所做的最起码的事情，”他说。
“我们还需要接近这些系统的人获得某种认证……我们需要道德培训。顺便说一下，计算机科学家通常不会得到这些。”
但并非该领域的每个人都认为人工智能会导致人类的垮台——其他人则认为还有更多迫在眉睫的问题需要解决。
AI 公司 Huggingface 的研究科学家 Sasha Luccioni 博士表示，社会应该关注 AI 偏见、预测性警务以及聊天机器人传播错误信息等问题，她认为这些是“非常具体的危害”。
“我们应该关注这一点，而不是人工智能将毁灭人类的假设风险，”她补充道。
人工智能造福社会的例子已经很多。 上周，一种人工智能工具发现了一种新抗生素，借助使用人工智能开发的微芯片，一名瘫痪男子仅凭一想就能再次行走。
