一封有影响力的公开信呼吁暂停建造强大的人工智能系统，其背后的科学家表示，少数科技公司正在通过无节制的人工智能开发危及人类的未来，它们必须停止“逐底竞赛”。

　　麻省理工学院(Massachusetts Institute of Technology)物理学教授、人工智能研究员马克斯?泰格马克(Max Tegmark)表示，世界正在“目睹一场必须制止的逐底竞赛”。今年4月，Tegmark组织了一封公开信，由包括埃隆·马斯克(Elon Musk)和苹果(Apple)联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)在内的数千名科技行业人士签署，呼吁将大型人工智能实验暂停6个月。

　　泰格马克在接受《卫报》采访时表示:“我们正在目睹一场必须制止的逐底竞赛。”“我们迫切需要人工智能安全标准，以便将其转变为一场争夺最高水平的竞赛。人工智能带来了许多令人难以置信的好处，但在没有监督的情况下，越来越强大的系统的鲁莽和不受控制的发展，将我们的经济、社会和生命置于危险之中。监管对安全创新至关重要，这样少数人工智能公司就不会危及我们共同的未来。”

　　在本周发布的一份政策文件中，23名人工智能专家(包括该技术的两位现代“教父”)表示，必须允许政府停止开发异常强大的模型。

　　该论文的合著者、多伦多大学施瓦茨赖斯曼技术与社会研究所(Schwartz Reisman Institute for Technology and Society)所长吉莉安哈德菲尔德(Gillian Hadfield)表示，未来18个月将建立的人工智能模型将比已经运行的模型强大许多倍。

　　她说:“有些公司计划在18个月内训练出计算能力比目前先进水平高100倍的模型。”“没有人知道他们会有多强大。而且基本上没有规定他们可以用这些模型做什么。”

　　这篇论文的作者包括Geoffrey Hinton和Yoshua Bengio——两位获得“计算机领域的诺贝尔奖”——ACM图灵奖的人——他们认为，强大的模型必须得到政府的许可，如果必要的话，停止它们的开发。

　　“对于功能异常强大的未来模型，例如可以规避人类控制的模型，政府必须准备好许可其开发，暂停开发以应对令人担忧的功能，强制访问控制，并要求对国家级黑客采取强有力的信息安全措施，直到准备好充分的保护措施。”

　　通用人工智能(artificial general intelligence)是一种能够执行与人类智力水平相当或更高的各种任务的系统，它的无限制发展是呼吁加强监管的人关注的一个关键问题。

　　上个月，亚马逊表示将向Anthropic投资高达40亿美元(合33亿英镑)。Anthropic是一家由OpenAI前高管创立的初创公司，计划从亚马逊的云服务中获取专有数据。亚马逊尚未透露将持有Anthropic多少股份。它在该公司持有的股份将是少数股权，上一次估计价值40亿美元。音乐厂牌起诉Anthropic涉嫌使用受版权保护的歌词。

　　亚马逊与anthropic的交易被视为这家电子商务巨头迄今追赶微软和Alphabet的最重要举措，这两家公司在云服务方面规模较小，但在人工智能领域处于领先地位。

　　微软在2019年最初投资10亿美元后，又向OpenAI押注130亿美元。OpenAI是超受欢迎的聊天机器人ChatGPT和图像生成器DALL-E - 3的母公司。OpenAI成立于2015年，今年早些时候估值为290亿美元。根据最近有关潜在员工出售股票的报道，该公司的估值可能达到860亿美元，是几个月前估值的三倍。

　　美国银行(Bank of America)的一份报告显示，自2016年以来，Alphabet旗下的谷歌已在人工智能和云计算领域投资了约1200亿美元，其中包括总部位于英国的DeepMind Technologies、名为“对话应用语言模型”(Language Models for Dialog Applications，简称LaMDA)的生成式人工智能工具，以及面向消费者的Bard。

　　该公司向Anthropic投资了3亿美元，并向人工智能初创公司Runway投入了同样的资金。也许比投资独立的人工智能产品更重要的是，谷歌正在将生成式人工智能集成到一些世界上最流行的软件中:谷歌搜索、Gmail、谷歌地图、谷歌文档。

　　“人工智能是我们目前正在研究的最深奥的技术，”Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)今年2月在公司的一篇帖子中写道。他在帖子中描述了人工智能将如何开辟新的机会，显著改善数十亿人的生活。“我们认为这是我们实现使命的最重要方式:组织世界上的信息，使其普遍可用和有用。”

　　与此同时，Facebook的母公司meta已从虚拟世界转向人工智能，并计划今年斥资330亿美元，支持“正在进行的人工智能能力建设”，专注于其开源的Llama大型语言模型。

　　Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)在4月份的财报电话会议上表示，meta“有机会以有用和有意义的方式向数十亿人介绍人工智能代理”，该公司预计其人工智能投资将集中在两个领域。

　　他说:“首先，庞大的推荐和排名基础设施为我们所有的主要产品提供动力，从feed到reel，从我们的广告系统到我们的完整性系统，我们已经为此工作了很多年。其次，新的生成基础模型使全新的产品和体验成为可能。”

　　meta的高管们将其强劲的广告收入业绩(“应用家族”细分市场(Facebook、Instagram、Messenger和WhatsApp)达到280亿美元)归因于越来越多地使用人工智能推荐。元股票的价值在2023年翻了一番多。

　　这些主要投资并不是人工智能投资热潮的全部。高盛(Goldman Sachs)今年8月发布的一份报告估计，到2025年，全球将有多达2000亿美元流入该行业。该报告预测，通过生成式人工智能，企业和社会将发生大规模变革，全球生产率和GDP将得到全面提振。

　　报告称:“生成式人工智能的突破有可能给全球经济带来翻天覆地的变化。”

　　新人工智能公司的融资也正在经历一场数十亿美元的投资热潮，超过了科技领域的其他投资类别，第三季度达到近180亿美元，全球比去年同期增长27%。

　　根据数据公司PitchBook为彭博社编制的数据，同期全球科技初创企业的融资规模下降了31%，至730亿美元。