首页AI 新闻
OpenAI 推出一系列更新,启用全新 GPT-4 和 3.5 Turbo 模型
37

OpenAI 推出一系列更新,启用全新 GPT-4 和 3.5 Turbo 模型

好说新闻
好说新闻
2023-06-14 09:30
OpenAI 宣布更新,包括更易操控的 API 模型、函数调用功能、更长的上下文和更低的价格。

OpenAI 今年早些时候发布了 gpt-3.5-turbo 和 gpt-4,仅仅在短短几个月内,开发者们基于这些模型构建了令人难以置信的应用程序。

今天,他们将带来一些令人兴奋的更新:

▪ 在 Chat Completions API 中增加了新的函数调用能力。

▪ 更新和更可控的 gpt-4 和 gpt-3.5-turbo 版本。

▪ gpt-3.5-turbo 的新的 16k 上下文版本(相对于标准的 4k 版本)。

▪ OpenAI 先进的嵌入模型的成本降低了 75%。

▪ gpt-3.5-turbo 的输入标记成本降低了 25%。

▪ 宣布 gpt-3.5-turbo-0301 和 gpt-4-0314 模型的弃用时间表。

所有这些模型都提供与 OpenAI 在 3 月 1 日引入的相同的数据隐私和安全保证 —— 客户拥有从其请求生成的所有输出,并且他们的 API 数据不会用于训练。

函数调用

开发者现在可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函数,并让模型智能地选择输出一个包含调用这些函数的参数的 JSON 对象。这是一种更可靠地将 GPT 的能力与外部工具和 API 连接起来的新方法。

这些模型经过了微调,可以检测到何时需要调用函数(取决于用户的输入),并以符合函数签名的 JSON 进行回应。函数调用使开发者能够更可靠地从模型中获取结构化数据。

例如,开发者可以:

▪ 创建通过调用外部工具回答问题的聊天机器人(例如,类似于 ChatGPT 插件)。

▪ 将查询转换为函数调用,比如将 "Email Anya to see if she wants to get coffee next Friday" 转换为 send_email(to: string, body: string),或者将 "What's the weather like in Boston?" 转换为 get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。

▪ 将自然语言转换为 API 调用或数据库查询,比如将 "Who are my top ten customers this month?" 转换为内部 API 调用 get_customers_by_revenue(start_date: string, end_date: string, limit: int),或者将 "How many orders did Acme, Inc. place last month?" 转换为使用 sql_query(query: string) 的 SQL 查询。

▪ 从文本中提取结构化数据,例如定义一个名为 extract_people_data(people: [{name: string, birthday: string, location: string}]) 的函数,以提取在维基百科文章中提到的所有人物。

这些用例可以通过 OpenAI /v1/chat/completions 端点中的新 API 参数(functions 和 function_call)实现,开发者可以通过 JSON 模式描述函数,并可选择要求模型调用特定函数。如果开发者发现函数调用可以改进的情况,请参阅开发者文档并添加 evals 开始使用。

自从 ChatGPT 插件的 Alpha 版本发布以来,OpenAI 在使工具和语言模型安全协同工作方面积累了很多经验。然而,仍然存在一些待解决的研究问题。例如,一个概念验证的漏洞示例说明了来自工具输出的不可信数据如何指示模型执行意外操作。他们正在努力减轻这些和其他风险。开发者可以通过仅使用来自可信工具的信息,并在执行具有现实影响的操作(例如发送电子邮件、在线发布或购买)之前包含用户确认步骤来保护他们的应用程序。

新模型

GPT-4

gpt-4-0613 包含了一个更新和改进的具有函数调用功能的模型。

gpt-4-32k-0613 包含了与 gpt-4-0613 相同的改进,同时还增加了更长的上下文长度,以更好地理解较大的文本。

随着这些更新,OpenAI 将在未来几周内邀请更多的等候名单上的人尝试 GPT-4,打算通过这个模型完全取消等候名单。感谢所有耐心等待的人,我们很期待看到您如何使用 GPT-4 构建应用程序!

GPT-3.5 Turbo

gpt-3.5-turbo-0613 包括了与 GPT-4 相同的函数调用功能,以及通过系统消息实现更可靠的可操控性,这两个功能使开发者能够更有效地引导模型的响应。

gpt-3.5-turbo-16k 的上下文长度是 gpt-3.5-turbo 的 4 倍,价格是其两倍:输入标记每 1K 降至 0.003 美元,输出标记每 1K 降至 0.004 美元。16k 上下文意味着模型现在可以在单个请求中支持约 20 页的文本。

模型弃用

今天,OpenAI 将开始对我们在 3 月份宣布的 gpt-4 和 gpt-3.5-turbo 的初始版本进行升级和弃用过程。使用稳定的模型名称(gpt-3.5-turbo、gpt-4 和 gpt-4-32k)的应用程序将在 6 月 27 日自动升级到上述新模型。为了比较不同版本之间的模型性能,我们的 Evals 库支持公开和私有的 evals,以显示模型变化对您的用例的影响。

需要更多过渡时间的开发者可以通过在 API 请求的 'model' 参数中指定 gpt-3.5-turbo-0301、gpt-4-0314 或 gpt-4-32k-0314 来继续使用旧模型。这些旧模型将在 9 月 13 日后不再可用,之后指定这些模型名称的请求将失败。您可以通过我们的模型弃用页面及时了解模型弃用的情况。这是对这些模型的首次更新,因此我们热切期待开发者的反馈,以帮助我们确保平稳过渡。

更低的定价

OpenAI 继续提高系统的效率,并将这些节约成本回馈给开发者,从今天起生效。

嵌入模型

text-embedding-ada-002 是 OpenAI 最受欢迎的嵌入模型。今天,他们的成本降低了 75%,每 1K 标记仅需 0.0001 美元。

GPT-3.5 Turbo

gpt-3.5-turbo 是我们最受欢迎的聊天模型,为数百万用户提供 ChatGPT 的支持。今天,OpenAI 将 gpt-3.5-turbo 的输入标记成本降低了 25%。开发者现在可以以每 1K 输入标记 0.0015 美元和每 1K 输出标记 0.002 美元的价格使用该模型,这相当于每美元约可获得 700 页的文本。

gpt-3.5-turbo-16k 的定价为每 1K 输入标记 0.003 美元和每 1K 输出标记 0.004 美元。

转载自查看原文

全部讨论

no data来都来了,坐下聊聊