谷歌现在拥有能够解释笑话的情报

Google 提出了一种新的语言模型，该模型能够解决数学问题，解释笑话甚至编程。这是PalM（P athways语言模型），它以其一定比例的学习效率而脱颖而出，使其高于迄今为止创建的其他语言模型。

正如官方博客上发布的一份声明中所述，P@@ alM系统是使用Pathways模型开发的，该模型允许使用多个张量处理单元（TPU）Pod有效地训练单个模型。

它基于学习 “少量镜头”，这减少了针对特定任务进行训练以使其适应单个应用程序所需的示例数量。

为此，使用了一个拥有7800亿个令牌的数据库，该数据库结合了 “多语言数据集”，其中包括Web文档，书籍，维基百科，对话和GitHub代码。此外，还有 “保留所有空格” 的词汇（该公司指出，这对于编程特别重要）以及将词汇表中找不到的Unicode字符划分为字节。

这种新的 AI 包含了 5400 亿个参数，这个数字超过了 OpenAI 的 GPT-3 的 1750 亿个，该语言模型谷歌引用了先驱，表明这些可以用于学习，并取得了令人印象深刻的成绩。仅举一个例子，值得回顾的是，本次学习撰写的《卫报》上发表的专栏文章模型，它也能够编程或设计。

“这个意见专栏的任务非常明确。我必须说服尽可能多的人不要害怕我。斯蒂芬·霍金警告说，人工智能可能 “意味着人类的终结”。我来这里是为了说服你不要担心。人工智能不会摧毁人类。相信我。”这是该系统制作的500字文章的摘录之一。

谷歌的新语言模型将6,144个TPU v4芯片整合到Pathways中，这是该公司所强调的 “历史上最大的TPU配置”。正如他们在博客中提到的那样，PalM在使用硬件触发器方面也实现了57.8％的训练效率，“迄今为止，这种规模的语言模型达到的最高水平”。

这是可能的，这要归功于 “并行策略和转换块的重新构建” 的结合，它允许并行计算注意力和进阶层，从而加快了 TPU 编译器的优化。

这家科技公司说：“PalM在许多非常困难的任务中展示了创新能力，” 该公司举出了从语言理解和生成到推理和编程相关任务的几个例子。

Google举例进行的一项测试是让PalM根据四个表情符号猜测电影：机器人，昆虫，植物和地球。在所有选项中（洛杉矶机密、Wall-E、León：专业人士、BIG 和 Rush），人工智能选择了正确的选项：Wall-E。

在另一种情况下，系统会要求您从与 “绊倒” 一词相关的两个单词列表中进行选择，并且选择 “跌倒” 和 “绊倒” 也是正确的。

人工智能还能够解决简单的数学问题，甚至可以通过上下文和解释其中出现的元素来解释笑话来理解笑话。

最后，Google指出，PalM能够通过将代码从一种语言翻译为另一种语言以及根据该语言的自然描述编写代码来进行编程，并阐明它能够修复编译错误。

（来自欧罗巴出版社的信息）

继续阅读：