社交媒体上充斥着谷歌(Google)新推出的AI Overview产品说奇怪话的例子，从告诉用户在披萨上涂胶水到建议他们吃石头。这一混乱的推出意味着，随着各种表情包被发布，谷歌正在竞相手动禁用特定搜索的AI概述，这就是为什么用户看到许多表情包在发布到社交网络后不久就消失了。

　　这是一个奇怪的情况，因为谷歌已经测试了一年的人工智能概览——该功能于2023年5月推出测试版，名为搜索生成体验——首席执行官桑达尔·皮查伊表示，该公司在这段时间内处理了超过10亿个查询。

　　但皮查伊也表示，“在硬件、工程和技术突破的推动下”，谷歌在同一时期将提供人工智能答案的成本降低了80%。在技术成熟之前，这种优化似乎发生得太早了。

　　一位不愿透露姓名的人工智能创始人在接受the Verge采访时表示:“一家曾经以走在最前沿、生产高质量产品而闻名的公司，现在却以低质量的产品而闻名，而且还被人模仿。”

　　谷歌继续表示，其AI Overview产品主要向用户输出“高质量信息”。谷歌发言人梅根·法恩斯沃斯在给the Verge的一封电子邮件中说:“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或我们无法复制的例子。”法恩斯沃思还证实，该公司正在“迅速采取行动”，“根据我们的内容政策，在适当的情况下”删除某些查询的人工智能概述，并利用这些例子对我们的系统进行更广泛的改进，其中一些已经开始推出。”

　　人工智能专家、纽约大学神经科学名誉教授加里·马库斯告诉The Verge，许多人工智能公司都在“兜售梦想”，认为这项技术将从80%的正确率提高到100%。Marcus说，实现最初的80%相对简单，因为它涉及到大量的人类数据，但最后的20%极具挑战性。事实上，马库斯认为最后的20%可能是最难的。

　　“你实际上需要做一些推理来决定:这件事可信吗?这个来源合法吗?你必须像人类事实核查员那样做一些事情，这实际上可能需要人工通用智能。”Marcus和textarea的人工智能主管Yann LeCun都认为，支持当前人工智能系统(如Google的Gemini和OpenAI的GPT-4)的大型语言模型不会成为创造AGI的基础。

　　听着，这对谷歌来说是一个艰难的处境。据报道，OpenAI正在开发自己的搜索引擎，一家新的人工智能搜索初创公司已经价值10亿美元，而只想获得最佳体验的年轻一代用户正在转向TikTok。该公司显然感受到了竞争的压力，而压力正是导致AI发布混乱的原因。Marcus指出，在2022年，textarea发布了一个名为卡拉狄加(Galactica)的人工智能系统，该系统在发布后不久就不得不被撤下，因为它告诉人们要吃玻璃。听起来很熟悉。

　　谷歌对人工智能概述有宏伟的计划——今天的功能只是该公司上周宣布的一小部分。复杂查询的多步推理，生成人工智能组织结果页面的能力，谷歌镜头中的视频搜索——这里有很多雄心壮志。但现在，该公司的声誉只取决于基本的正确，它看起来并不好。

　　马库斯说:“(这些模特)天生就无法对自己的工作进行健全的检查，这就是这个行业背后的问题。”