谷歌推出下一代大型语言模型 PaLM 2

发布时间 2023-05-15 21:49:32 浏览量 595

1.png


谷歌推出下一代大型语言模型 PaLM 2


在谷歌的 I/O 开发者大会上,谷歌宣布推出了它的最新大型语言模型 PaLM 2。PaLM 2 将为谷歌更新的 Bard 聊天工具提供支持,该工具是谷歌对抗 OpenAI 的 ChatGPT 的竞争产品,并且还将成为公司宣布的大多数新人工智能功能的基础模型。开发人员现在可以通过谷歌的 PaLM API、Firebase 和 Colab 来使用 PaLM 2。


与 OpenAI 类似,谷歌没有提供有关如何训练这个下一代模型的很多技术细节,包括参数数量(值得一提的是,PaLM 1 是一个 5400 亿参数的模型)。谷歌在这里提供的唯一技术细节是,PaLM 2 是构建在谷歌最新的 JAX 和 TPU v4 基础设施之上的。


DeepMind 副总裁 Zoubin Ghahramani 在今天的新闻发布会之前在一次简报中表示:“我们在研究中发现,模型的规模并不总是越大越好。”“这就是为什么我们提供了一系列不同大小的模型。我们认为参数数量实际上并不是评估模型能力的有用方式,模型的能力应该由使用模型的人来判断,看看它们是否在试图实现的测试中发挥了作用。”


相反,谷歌决定注重模型的能力。谷歌表示,新模型在常识推理、数学和逻辑方面更加出色。实际上,正如 Ghahramani 所指出的,谷歌在大量的数学和科学文本以及数学表达式上对模型进行了训练。众所周知,大型语言模型在处理数学问题时往往需要借助第三方插件。然而,谷歌称 PaLM 2 可以轻松解决数学难题,通过问题进行推理,甚至提供图表。


PaLM 2 还增加了对编写和调试代码的支持。该模型使用了包括 JavaScript 和 Python 在内的 20 种编程语言进行训练,还包括 Prolog、Verilog 和 Fortran 等。PaLM 2 构成了 Codey 的基础,Codey 是谷歌专门用于编码和调试的模型,谷歌今天也作为其代码补全和生成服务的一部分推出了这一模型。


谷歌还强调,PaLM 2 在训练过程中使用了包含 100 多种语言


生成式 AI 加入谷歌搜索


发布会上,谷歌推出了一款 AI 驱动的搜索引擎,其总体目标是“让搜索更智能,让搜索更简单”。


这款搜索引擎现可接收用户输入的提示词,整个使用过程更趋近人们在现实生活中的问询过程。而在我们熟悉的搜索结果列表之上,将出现由 AI 针对用户问题生成的概括性回答。


谷歌高管 Cathy Edwards 在大会上指出,不同于以往直接搜索“哪个国家公园最好玩”的用法,现在用户可以像跟朋友聊天那样询问 Google 引擎哪处公园更适合带小孩和遛狗。例如,用户向搜索引擎提问,“对于带 3 岁以下小孩和宠物狗出行的家庭来说,布莱斯峡谷公园和拱门国家公园哪个更适合?”


Edwards 强调,“虽然问题本身没有变化,但以往的搜索引擎可能没法直接消化完整的查询。用户会把它拆分成多个更小的部分、筛选信息,然后再自行拼凑起来——现在,搜索功能本身将为您搞定这些麻烦。”


Edwards 将谷歌生成的摘要称为“AI 驱动的快照,能帮助您快速了解关于某个主题的概况。”摘要中将包含来源链接,用户可以选择不同的查看格式来进一步剖析摘要背后的来源。AI 生成的摘要还提供可点击的建议问题以鼓励交互,整个体验跟 AI 聊天机器人颇为相似。


AI 驱动的定制化结果,也有望重塑消费者的线上购物体验。例如,谷歌在演示中询问了关于适合日常出行的自行车款式,结果不仅包含指向自行车商品的链接、价格和评论,还提供关于适合特定用途的自行车建议,以及理想车型应当具备的几大特点。Edwards 提醒观众,在 AI 生成的摘要下方仍然保留了传统的搜索结果列表,继续将用户引导至已发布的原始内容处。她认为正是这种可溯源性,帮助维持着“网络的蓬勃发展”。


发布会上,谷歌推出了一款 AI 驱动的搜索引擎,其总体目标是“让搜索更智能,让搜索更简单”。


这款搜索引擎现可接收用户输入的提示词,整个使用过程更趋近人们在现实生活中的问询过程。而在我们熟悉的搜索结果列表之上,将出现由 AI 针对用户问题生成的概括性回答。


谷歌高管 Cathy Edwards 在大会上指出,不同于以往直接搜索“哪个国家公园最好玩”的用法,现在用户可以像跟朋友聊天那样询问 Google 引擎哪处公园更适合带小孩和遛狗。例如,用户向搜索引擎提问,“对于带 3 岁以下小孩和宠物狗出行的家庭来说,布莱斯峡谷公园和拱门国家公园哪个更适合?”


Edwards 强调,“虽然问题本身没有变化,但以往的搜索引擎可能没法直接消化完整的查询。用户会把它拆分成多个更小的部分、筛选信息,然后再自行拼凑起来——现在,搜索功能本身将为您搞定这些麻烦。”



Edwards 将谷歌生成的摘要称为“AI 驱动的快照,能帮助您快速了解关于某个主题的概况。”摘要中将包含来源链接,用户可以选择不同的查看格式来进一步剖析摘要背后的来源。AI 生成的摘要还提供可点击的建议问题以鼓励交互,整个体验跟 AI 聊天机器人颇为相似。



AI 驱动的定制化结果,也有望重塑消费者的线上购物体验。例如,谷歌在演示中询问了关于适合日常出行的自行车款式,结果不仅包含指向自行车商品的链接、价格和评论,还提供关于适合特定用途的自行车建议,以及理想车型应当具备的几大特点。Edwards 提醒观众,在 AI 生成的摘要下方仍然保留了传统的搜索结果列表,继续将用户引导至已发布的原始内容处。她认为正是这种可溯源性,帮助维持着“网络的蓬勃发展”。

下一篇: 没有了
意见反馈 官网微信
微信小程
返回顶部