英国科学大臣表示，如果官员们对人工智能系统的能力感到“担忧”，政府将在几个月内限制其强大的新人工智能系统。

随着人工智能公司计划明年夏天推出比当今最先进的系统强大100倍的新模型，米歇尔·多尼兰表示，政府科学家将提前获得权限，以确定它们是否构成国家安全威胁。

人工智能“被用作现代战争”

她警告说，人工智能正被“用于现代战争”，她还透露，英国正在与盟国合作，以应对被用来颠覆2024年西方关键选举的深度伪造威胁。

本周，Rishi Sunak将在白金汉郡的布莱切利公园(Bletchley Park)主办一场全球人工智能安全峰会，讨论如何解决该技术带来的风险。

卡梅伦表示，他担心这项技术可能被用来制造大规模杀伤性武器、发动网络攻击和传播虚假信息，如果人类失去对这项技术的控制，它最终甚至可能构成生存威胁。

虽然世界对Chat GPT等人工智能系统的到来感到惊讶，但相关公司已经在计划推出新的模型，其计算能力是目前最先进技术的100倍左右。

多尼兰女士在峰会前接受《每日电讯报》采访时说:“这些公司刚刚开始培训新车型，然后明年发布，所以时间是至关重要的。”

不要“急于监管”人工智能

周四，苏纳克表示，他不会“急于监管”人工智能，因为需要对其风险进行进一步研究。

然而，世界上最大的三个人工智能实验室已经承诺，英国将“优先进入”检查它们的模型，一个新的人工智能安全研究所将进行未来的评估。

当被问及如果发现新车型存在风险，政府是否会出台法规或要求暂停开发时，多尼兰表示:“如果有我们担心的东西，那是绝对的。

“(人工智能)正在以我们所见过的任何其他技术进步都无法比拟的速度发展。

“这意味着我们的反应需要跟上这一步伐。

“因此，如果我们需要改变我们接近它的方式，我们当然会这样做。”

苏纳克先生不寻求延期

上周，苏纳克表示，他不会寻求暂停开发通用人工智能(AGI)的尝试。通用人工智能是一种理论上的未来人工智能形式，在各方面都与人类一样有能力，甚至比人类更有能力。

一些专家呼吁禁止追求AGI，认为它可能会产生一种无法控制的“超级智能”。

今年4月，被苏纳克任命为首席人工智能顾问的科技企业家伊恩•霍加斯(Ian Hogarth)表示，AGI可能代表一种“像上帝一样的人工智能”，可能“导致人类的淘汰或毁灭”。

多尼兰在为不支持暂停投资的决定辩护时表示，AGI能否实现仍是“假设”。

她同意Sunak先生的说法，即禁止此类努力是不现实的。她说:“仅仅说让我们几乎拔掉插头是不切实际的。”“如果我们这样做，现实是世界其他国家不会这么做。

“这些公司也主要在美国，所以这不会产生你想要的实际影响。

“从根本上说，在我们采取非常固定的解决方案之前，我们必须更深入地了解风险。”

在人工智能虚假信息方面，多尼兰表示，深度造假——可以复制某人的长相或声音的数字操纵媒体——“几乎被用作现代战争”。

对英国发出“近期”威胁

她说，这个问题是对英国的“近期”威胁，因为“我们正在走向大选”。

当被问及英国是否有网络能力应对敌对国家的人工智能攻击时，多尼兰回答“有”，但她补充称，英国已与盟友建立了一个“工作流程”，以应对人工智能被用来“破坏”选举的危险。

她说，政府的前沿人工智能工作组将在峰会上就人工智能的潜在“社会危害”进行“演示”，包括“对民主的影响”。

政府也一直积极强调人工智能带来的机遇。

部长们设立了一项1亿英镑的基金，用于刺激医疗保健领域的创新，包括利用人工智能开发治疗痴呆症的新方法，以及提高对精神疾病的诊断。

内政部部长克里斯·菲利普也写信给警察局长，敦促他们在明年5月之前将人工智能面部识别搜索的使用增加一倍，以追踪更多已知的罪犯。

点击分享到