type
Post
status
Published
date
Nov 7, 2023
slug
summary
今天，OpenAI 又为开发者宣布了另一个令人兴奋的更新列表。
tags
AI
category
技术分享
icon
password
Property
Nov 7, 2023 07:01 AM
不再有embeddings
GPT-4 现在有 128K 上下文或“单个提示中超过 300 页的文本”。您现在可以使用 API 上传文件。这意味着对于大多数“与文档聊天”的情况，您只需批量上传文件并提出问题即可。
或者，您可以将所有数据提供给新的 Assistants API，并让它进行检索。您只需向其提供您的文件，如果需要，它就可以对其进行自己的矢量搜索。此外，它会记住所有聊天记录，因此您也无需保存。
这也简化了您的架构。
更好的数学
Assistant API 现在可以运行沙盒 Python。到目前为止，数学还不是 GPT 的强项。
将其与检索相结合，您就拥有了一个非常强大的数据分析工具。
多式联运
您可以开始使用新的 Vision、DALL-E、文本转语音端点构建真正的多模式应用程序。
读取表格然后输出图表。阅读图像并大声朗读其摘要。口头集思广益设计想法并迭代设计。
更便宜
GPT-3.5 和 GPT-4 便宜 3 倍。微调便宜 4 倍。
如果你是一家在价格上竞争的 SaaS 公司，我认为现在是重新考虑你的商业模式的时候了。
但这对于定制构建来说是个好消息。对于您的客户来说，持续的维护成本将更具吸引力。
更快
一条消息中的多个函数调用意味着更少的 API 往返次数。这对于用户体验来说非常好。
并且速率限制是 GPT-4 的两倍。
更准确，更可重复
有一个新的“JSON 模式”，它将指示 API 始终返回有效的 JSON。这对于在聊天会话中返回结构化输出非常有用。 GPT-3.5 中也提供了 JSON 模式。
还有一个新的“种子”参数可以使输出可再现。如果您要将数据集成到需要高水平可重复性的工作流程中，则非常有用。