一些推动人工智能的大公司，包括硅谷老牌巨头b谷歌和微软，以及新血液OpenAI和Anthropic，正联合起来推动自己的行业机构成为人工智能安全的主要堡垒。这些价值数十亿美元的公司给刚刚起步的人工智能论坛带来的第一个好处是一位新董事和区区1000万美元，以某种方式管理整个世界的道德人工智能。

　　这些人工智能公司在7月份首次公布了前沿模型论坛，其目的是推进人工智能安全研究和促进负责任的人工智能发展。该行业组织的目标是宣传人工智能目前是多么伟大，但有限。

　　这两家公司周三表示，他们找到了领导该行业组织的新人选。最近担任布鲁金斯学会(Brookings Institution)人工智能研究小组主任的克里斯·梅瑟勒(Chris Meserole)将担任前沿论坛的执行主任。这位自称为人工智能安全专家的专家在发布会上表示，“为了实现它们的潜力，我们需要更好地了解如何安全地开发和评估它们。”

　　除了新领导层之外，该组织的第一轮融资总额略高于1000万美元。这不仅仅是来自公司，还有一些慈善组织也在推广人工智能。两家公司声称，该基金的主要目标是找到新的方法来审查和测试最新、最大的人工智能模型。该基金本身没有自己的实验室空间，但将利用合作伙伴公司现有的团队。

　　从这1000万美元的角度来看，微软已经向OpenAI投入了数十亿美元，以扩大其对更多语言模型的访问。亚马逊最近向Anthropic投资了40亿美元，为亚马逊的服务开发更多的人工智能模型。

　　虽然现在还处于早期阶段，但该基金看起来已经很像一般的行业促进组织了。该基金仍然需要建立一个顾问委员会，该委员会将拥有“一系列的观点和专业知识”，尽管目前尚不清楚将有多少完全的人工智能怀疑论者参与其中，他们可以提供与基金对新人工智能发展的谨慎而热情的态度相对应的意见。

　　b谷歌和微软都一直在努力强调，他们已经在努力将人工智能风险降至最低，同时通过将生成式人工智能应用到几乎所有新的用户端产品中，尽可能地推动它的发展。这些公司表示，他们签署了一项白宫承诺，将以合乎道德的方式开发人工智能。这两家科技巨头与风投宠儿OpenAI和Anthropic一起声称，他们将管理“值得信赖的人工智能”，但当Palantir等主要军事承包商加入他们的行列时，很难把这一承诺当真。

　　基金组织将面临艰巨的任务。总部位于英国的国际观察基金会(IWF)周三提交的一份报告指出，它发现在一个暗网论坛上发布了2万多张人工智能生成的图片，用于传播儿童性虐待材料。分析人士发现，根据英国法律，其中一半以上明显违法。IWF表示，这些论坛上的用户正在积极分享使用人工智能美术生成器创建这些图像的技巧和技巧。

　　IWF首席执行官苏茜·哈格里夫斯在报告中写道:“我们非常担心，这将降低罪犯的进入门槛，并有可能减缓国际社会对这一令人发指的罪行的反应。”该监督组织要求政府允许他们审查不同公司以不透明著称的人工智能培训数据

　　该监督组织是众多关注这类人工智能图像的组织之一。早在7月份，路易斯安那州就已经通过了一项法律，禁止对未成年人进行性侵犯。上个月，韩国法院判处一名男子两年半监禁，罪名是制作了数百张人工智能CSAM图像。

　　并不是说这些人工智能开发公司反对监管。从表面上看，该公司的高管们都支持这一计划，但前提是不会妨碍他们开发更大的人工智能模型。尽管行业间的合作对于构建更有道德的人工智能是一件好事，但该基金只是这些公司继续做他们已经在做的事情的一种方式。