PaLM-Google AI 大模型

PaLM概览

发布时间	2022年4月4日
更新时间	2023年5月4日
最新版本	PaLM2
参数量级	3400亿参数（初代5400亿）
所属公司	Google AI
开源协议	闭源
官网	https://ai.google/discover/palm2/

PaLM简介

PaLM （全称：Pathways Language Model）是由Google AI开发的一种基于Transformer的大型语言模型，PaLM 2是Google最新的AI语言模型，对标的是OpenAI的GPT-4，可以处理多种文本任务，如推理、编写代码和翻译，被用于其他最先进的模型，如Med-PaLM 2和Sec-PaLM，并为Google的生成式AI功能和工具（如Bard和PaLM API）提供支持。

PaLM发展历程

2022年4月。PaLM首次发布，当时它是一个自回归的语言模型，有5400亿个参数，使用了Pathways系统进行训练。

2023年5月4日，在Google I/O大会上，PaLM2正式发布，训练到token数量达到3.6万亿，3400亿参数。

PaLM2功能

问答推理

多语种翻译

代码编程

PaLM参考文档

PaLM官网：https://ai.google/discover/palm2/

PaLM论文技术报告：https://ai.google/static/documents/palm2techreport.pdf

PaLM API：https://developers.generativeai.google/products/palm

PaLM Prompt：https://developers.generativeai.google/prompt-gallery