出品 | 搜狐科技
(相关资料图)
作者 | 梁昌均
编辑 | 杨锦
基于GPT-3.5的ChatGPT带来的讨论余温未散，更强大的GPT-4又来了。这一次，人们关注的焦点也从“我会失业吗？”转为“我要失业了！”
3月15日凌晨，OpenAI正式发布多模态大模型GPT-4，它可以接受图像和文本输入。虽然在许多现实世界场景中的能力不如人类，但在各种专业和学术基准上表现出人类水平，比如在法律考试中可以打败90%的人类。
不过，GPT-4仍存和此前模型相似的局限性，仍然不完全可靠，存在事实性“幻觉”并出现推理错误，可能自信地在其预测中犯错。同时，它的使用价格也更贵，其API价格是Chat-GPT API 使用价格的15-30倍。
GPT-4实现多项突破，晋升“考霸”
相较GPT-3.5，GPT-4在多个方面实现飞跃式提升：增加了强大的识图能力，长度限制提升到32Ktokens，即能处理超过25000个单词的文本，并且可以使用长格式内容创建、扩展对话、文档搜索和分析等，同时回答准确性显著提高，同时能够生成歌词、创意文本等。
OpenAI表示，当任务的复杂性达到足够的阈值时，GPT-4就展现得比GPT-3.5更可靠、更有创意，并且能够处理更细微的指令。
为了解这两种模型之间的差异，OpenAI在各种基准测试上进行了测试，包括最初为人类设计的模拟考试。它以高分通过各种标准化考试，如SAT拿下700分，GRE几乎满分。在律师模拟考试中，ChatGPT背后的GPT-3.5排名在倒数10%左右，而GPT-4考到了前10%左右，即打败了90%的人类考生。
OpenAI还在为机器学习模型设计的传统基准上评估了GPT-4。GPT-4大大优于现有的大型语言模型，以及大多数SOTA模型。
在其他语言能力方面，OpenAI研究团队使用AzureTranslate将MMLU基准——一套涵盖57个主题的14000个多项选择题翻译成多种语言。在测试的26种语言的24种中，GPT-4优于GPT-3.5和其他大语言模型（Chinchilla、PaLM）的英语语言性能，包括拉脱维亚语、威尔士语、斯瓦希里语等少数语言。
此外，GPT-4还可以接受文本和图像形式的prompt，新能力与纯文本设置并行，允许用户指定任何视觉或语言任务。它在人类给定由散布的文本和图像组成的输入的情况下生成相应的文本输出（自然语言、代码等）。
在一系列领域，包括带有文本和照片的文档、图表或屏幕截图上，GPT-4展示了与纯文本输入类似的功能。它还可以通过为纯文本语言模型开发的测试时间技术得到增强，包括少样本和思维链prompt。
根据OpenAI的展示，GPT-4看起来不会再胡言乱语，且在简单的数学和物理题上能作出正确解答，同时可以“看图说话”。不过，目前图像输入是研究预览，仍不公开。
真实性提升40%，但并不完全可靠
OpenAI称其团队花了6个月的时间，使用对抗性测试程序和从ChatGPT得到的经验教训，对GPT-4进行迭代调整，在真实性、可控制性等方面取得了有史以来最好的结果，但仍远非完美。
过去两年里，OpenAI重建了整个深度学习堆栈，并与微软Azure云平台一起为其工作负载从头开始共同设计了一台超级计算机。一年前，OpenAI训练GPT-3.5作为系统的第一次“试运行”，发现并修复了一些错误并改进了其理论基础。结果GPT-4训练运行前所未有地稳定，成为OpenAI能够提前准确预测其训练性能的第一个大型模型。
随着继续专注于可靠的扩展，OpenAI的目标是完善其方法，以帮助自身越来越多地提前预测和准备未来的能力，OpenAI认为这对安全至关重要。
与以前的GPT模型一样，GPT-4基础模型经过训练可以预测文档中的下一个单词，并且使用公开可用的数据（例如互联网数据）以及OpenAI已获得许可的数据进行训练。这些数据是网络规模的数据语料库，包括数学问题的正确和错误解决方案、弱推理和强推理、自相矛盾和一致的陈述，并代表各种各样和想法。
尽管功能更加强大，但GPT-4与早期的GPT模型具有相似的局限性。最重要的是，它仍然不完全可靠，存在事实性“幻觉”并出现推理错误。OpenAI建议，在使用语言模型输出时应格外小心，特别是在高风险上下文中，使用符合特定用例需求的确切协议（如人工审查、附加上下文的基础或完全避免高风险使用）。
不过，GPT-4相对于以前的模型显著减少了幻觉。在OpenAI的内部对抗性真实性评估中，GPT-4的得分比GPT-3.5高40%。
同时，GPT-4普遍缺乏对绝大部分数据中断后，即2021年9月以后发生的事件的了解，也没有从经验中吸取教训。它有时会犯一些简单的推理错误，这些错误似乎与跨多个领域的能力不相称，或者在接受用户明显的虚假陈述时过于轻信。有时它会像人类一样在难题上失败，例如在它生成的代码中引入安全漏洞。GPT-4也可能自信地在其预测中犯错，在可能出错时没有仔细检查工作。
因此GPT-4也会带来与之前模型类似的风险，例如生成有害建议、错误代码或不准确信息，其附加功能会带来新的风险面。为此OpenAI聘请了50多位来自AI对齐风险、网络安全、生物风险、信任和安全以及国际安全等领域的专家来对模型进行对抗性测试，使OpenAI能够在需要专业知识进行评估的高风险领域测试模型行为，这些反馈和数据将用于模型改进。
OpenAI称，与GPT-3.5相比，其缓解措施显著改善了GPT-4的许多安全特性，已将模型响应禁止内容请求的可能性降低了82%，并且GPT-4根据OpenAI的政策响应敏感请求（如医疗建议和自我伤害）的频率提高了29%。
OpenAI表示，GPT-4和后续模型有可能以有益和有害的方式对社会产生重大影响。OpenAI正在与外部研究人员合作，以改进理解和评估潜在影响的方式，以及对未来系统中可能出现的危险功能进行评估，并将很快分享更多关于GPT-4和其他AI系统的潜在社会和经济影响的想法。
开放GPT-4API，ChatGPT升级价格是此前的15倍-30倍
OpenAI还表示正在开源OpenAIEvals软件框架，它被用于创建和运行基准测试以评估GPT-4等模型，同时可以逐样本地检查模型性能。
在GPT-4发布后，OpenAI直接升级了ChatGPT，并对外开放API。要访问GPT-4API（它使用与gpt-3.5-turbo相同的ChatCompletionsAPI），用户可以注册等待。获得访问权限后，用户目前可以向GPT-4模型发出纯文本请求（图像输入仍处于有限的alpha阶段）。
至于价格方面，定价为每1k个prompt token0.03美元，每1k个completion token0.06美元。按100个token对应约75个英文单词计算，即每次输入7.5万个单词需要3美元，输出7.5万个单词需要6美元。此前ChatGPT基于gpt-3.5-turbo的API使用成本是75万个单词2美元，也就是说此次ChatGPT升级后的使用成本是此前的15倍-30倍。
GPT-4默认速率限制为每分钟40k个token和每分钟200个请求，上下文长度为8192个token。OpenAI还提供了32768个token上下文（约50页文本）版本的有限访问，该版本也将随着时间自动更新（当前版本gpt-4-32k-0314，也支持到6月14日），定价为每1Kprompt token0.06美元和每1kcompletion token0.12美元。
在应用方面，GPT-4已与多邻国、By My Eyes、Stripe等应用开发者进行合作。此外，微软新款的必应（Bing）搜索引擎也已经运行于GPT-4系统之上，后续其他业务后也不排除使用GPT-4技术。
关键词：
