谷歌推出下一代大型语言模型 PaLM 2
发布时间 2023-05-15 21:49:32 浏览量 831
谷歌推出下一代大型语言模型 PaLM 2
在谷歌的 I/O 开发者大会上，谷歌宣布推出了它的最新大型语言模型 PaLM 2。PaLM 2 将为谷歌更新的 Bard 聊天工具提供支持，该工具是谷歌对抗 OpenAI 的 ChatGPT 的竞争产品，并且还将成为公司宣布的大多数新人工智能功能的基础模型。开发人员现在可以通过谷歌的 PaLM API、Firebase 和 Colab 来使用 PaLM 2。
与 OpenAI 类似，谷歌没有提供有关如何训练这个下一代模型的很多技术细节，包括参数数量（值得一提的是，PaLM 1 是一个 5400 亿参数的模型）。谷歌在这里提供的唯一技术细节是，PaLM 2 是构建在谷歌最新的 JAX 和 TPU v4 基础设施之上的。
DeepMind 副总裁 Zoubin Ghahramani 在今天的新闻发布会之前在一次简报中表示：“我们在研究中发现，模型的规模并不总是越大越好。”“这就是为什么我们提供了一系列不同大小的模型。我们认为参数数量实际上并不是评估模型能力的有用方式，模型的能力应该由使用模型的人来判断，看看它们是否在试图实现的测试中发挥了作用。”
相反，谷歌决定注重模型的能力。谷歌表示，新模型在常识推理、数学和逻辑方面更加出色。实际上，正如 Ghahramani 所指出的，谷歌在大量的数学和科学文本以及数学表达式上对模型进行了训练。众所周知，大型语言模型在处理数学问题时往往需要借助第三方插件。然而，谷歌称 PaLM 2 可以轻松解决数学难题，通过问题进行推理，甚至提供图表。
PaLM 2 还增加了对编写和调试代码的支持。该模型使用了包括 JavaScript 和 Python 在内的 20 种编程语言进行训练，还包括 Prolog、Verilog 和 Fortran 等。PaLM 2 构成了 Codey 的基础，Codey 是谷歌专门用于编码和调试的模型，谷歌今天也作为其代码补全和生成服务的一部分推出了这一模型。
谷歌还强调，PaLM 2 在训练过程中使用了包含 100 多种语言
生成式 AI 加入谷歌搜索
发布会上，谷歌推出了一款 AI 驱动的搜索引擎，其总体目标是“让搜索更智能，让搜索更简单”。
这款搜索引擎现可接收用户输入的提示词，整个使用过程更趋近人们在现实生活中的问询过程。而在我们熟悉的搜索结果列表之上，将出现由 AI 针对用户问题生成的概括性回答。
谷歌高管 Cathy Edwards 在大会上指出，不同于以往直接搜索“哪个国家公园最好玩”的用法，现在用户可以像跟朋友聊天那样询问 Google 引擎哪处公园更适合带小孩和遛狗。例如，用户向搜索引擎提问，“对于带 3 岁以下小孩和宠物狗出行的家庭来说，布莱斯峡谷公园和拱门国家公园哪个更适合？”
Edwards 强调，“虽然问题本身没有变化，但以往的搜索引擎可能没法直接消化完整的查询。用户会把它拆分成多个更小的部分、筛选信息，然后再自行拼凑起来——现在，搜索功能本身将为您搞定这些麻烦。”
Edwards 将谷歌生成的摘要称为“AI 驱动的快照，能帮助您快速了解关于某个主题的概况。”摘要中将包含来源链接，用户可以选择不同的查看格式来进一步剖析摘要背后的来源。AI 生成的摘要还提供可点击的建议问题以鼓励交互，整个体验跟 AI 聊天机器人颇为相似。
AI 驱动的定制化结果，也有望重塑消费者的线上购物体验。例如，谷歌在演示中询问了关于适合日常出行的自行车款式，结果不仅包含指向自行车商品的链接、价格和评论，还提供关于适合特定用途的自行车建议，以及理想车型应当具备的几大特点。Edwards 提醒观众，在 AI 生成的摘要下方仍然保留了传统的搜索结果列表，继续将用户引导至已发布的原始内容处。她认为正是这种可溯源性，帮助维持着“网络的蓬勃发展”。
发布会上，谷歌推出了一款 AI 驱动的搜索引擎，其总体目标是“让搜索更智能，让搜索更简单”。
这款搜索引擎现可接收用户输入的提示词，整个使用过程更趋近人们在现实生活中的问询过程。而在我们熟悉的搜索结果列表之上，将出现由 AI 针对用户问题生成的概括性回答。
谷歌高管 Cathy Edwards 在大会上指出，不同于以往直接搜索“哪个国家公园最好玩”的用法，现在用户可以像跟朋友聊天那样询问 Google 引擎哪处公园更适合带小孩和遛狗。例如，用户向搜索引擎提问，“对于带 3 岁以下小孩和宠物狗出行的家庭来说，布莱斯峡谷公园和拱门国家公园哪个更适合？”
Edwards 强调，“虽然问题本身没有变化，但以往的搜索引擎可能没法直接消化完整的查询。用户会把它拆分成多个更小的部分、筛选信息，然后再自行拼凑起来——现在，搜索功能本身将为您搞定这些麻烦。”
Edwards 将谷歌生成的摘要称为“AI 驱动的快照，能帮助您快速了解关于某个主题的概况。”摘要中将包含来源链接，用户可以选择不同的查看格式来进一步剖析摘要背后的来源。AI 生成的摘要还提供可点击的建议问题以鼓励交互，整个体验跟 AI 聊天机器人颇为相似。
AI 驱动的定制化结果，也有望重塑消费者的线上购物体验。例如，谷歌在演示中询问了关于适合日常出行的自行车款式，结果不仅包含指向自行车商品的链接、价格和评论，还提供关于适合特定用途的自行车建议，以及理想车型应当具备的几大特点。Edwards 提醒观众，在 AI 生成的摘要下方仍然保留了传统的搜索结果列表，继续将用户引导至已发布的原始内容处。她认为正是这种可溯源性，帮助维持着“网络的蓬勃发展”。