全球领先的人工智能科学家呼吁各国政府合作监管人工智能技术，否则可能为时已晚。

三位图灵奖（Turing Award）得主（相当于计算机科学领域的诺贝尔奖）以及来自世界各地的十多名顶尖科学家，共同发表了一封公开信，呼吁为推进人工智能的发展建立更好的安全保障措施。这三位图灵奖得主曾帮助推动人工智能的研发。

这些科学家们表示，随着人工智能技术的快速发展，任何错误或滥用可能给整个人类带来严重的后果。

科学家们在公开信中表示：“人类失去对人工智能系统的控制，或者系统被恶意利用，可能给全人类带来灾难性的后果。”他们还警告，随着人工智能技术的快速发展，这些“灾难性后果”随时可能出现。

科学家们提出了下列措施，以立即着手解决人工智能被恶意利用的风险：

政府人工智能安全机构

政府需要合作执行人工智能安全预防措施。科学家们提出的一些观点包括鼓励各国建立人工智能主管部门，以应对本国发生的人工智能“事件”和风险。在理想情况下，这些部门将相互合作，而且从长远来看，应该创建一个新国际机构，以防止人工智能模型的开发给全球带来风险。

公开信中写道：“这个国际机构将确保各国采用并执行最低限度的有效安全防范措施，包括模型注册、披露和预警机制等。”

开发者的人工智能安全承诺

科学家们提出的另外一种观点是，要求开发者有意识地保证其模型的安全性，并承诺他们不会跨越红线。正如去年在北京召开的会议上，顶尖科学家们的声明中所说的那样，开发者需要承诺不会创建“能够自主复制或改进、寻求权力或欺骗开发者、协助制造大规模杀伤性武器和发送网络攻击”的人工智能。

对人工智能的独立研究和技术检查

另外一项建议是，创建一系列全球人工智能安全与验证基金，由政府、慈善家和企业提供资金，赞助独立研究，以帮助开发更好的人工智能技术核查方法。

呼吁各国政府在人工智能安全性方面采取行动的专家包括三位图灵奖得主，他们分别是：中国多位最成功的科技创业者的导师姚期智、全世界被引用次数最多的计算机科学家之一约书亚·本吉奥和OpenAI联合创始人兼前首席科学家伊利亚·苏特斯威夫的老师、曾在谷歌（Google）从事十多年机器学习研究的杰弗里·辛顿。

合作和人工智能道德规范

科学家们在公开信中对当前人工智能领域的国际合作大加称赞，例如今年5月，中美两国领导人在日内瓦就人工智能风险展开的讨论。但他们认为各国需要开展更多合作。

科学家们认为，人工智能的发展应该有工程师道德规范，类似于医生或律师的道德规范。政府应该把人工智能视为一种全球公共利益，而不仅仅是一项令人激动的新技术。

公开信中写道：“我们必须共同努力，准备应对随时可能到来的灾难性后果。”

转载请注明：可思数据 » 人工智能可能很快失控，创造它的科学家们忧心忡忡