Assistants API 的新变化试用版
探索 Assistants API 中的新功能和改进。
2024 年 4 月
我们宣布推出 Assistants API 的各种新功能和改进,并将我们的 Beta 版迁移到新的 API 版本 .以下是新功能:OpenAI-Beta: assistants=v2
- 我们正在推出一款名为
file_search
的改进检索工具,每个助手最多可以提取 10000 个文件,比以前多了 500 倍。它速度更快,支持通过多线程搜索进行并行查询,并具有增强的重新排名和查询重写功能。 - 除了 之外,我们还在 API 中引入了
vector_store
对象。将文件添加到 vector store 后,它会自动解析、分块和嵌入,以备搜索。矢量存储可以跨助手和线程使用,从而简化文件管理和计费。file_search
- 现在,您可以在 Assistants API 中控制运行使用的最大令牌数,从而管理令牌使用成本。您还可以对每次运行中使用的上一条/最近消息的数量设置限制。
- 我们添加了对
tool_choice
参数的支持,该参数可用于在特定运行中强制使用特定工具(如 , 或 a )。file_search
code_interpreter
function
- 您现在可以使用角色
助理
创建消息,以在 Threads 中创建自定义对话历史记录。 - Assistant 和 Run 对象现在支持常用的模型配置参数,如
温度
、response_format
(JSON 模式)和top_p
。 - 现在,您可以在 Assistants API 中使用微调的模型。目前,仅支持 的微调版本。
gpt-3.5-turbo-0125
- Assistants API 现在支持流式传输。
- 我们向 Node 和 Python SDK 添加了几个流式处理和轮询帮助程序。
请参阅我们的迁移指南,详细了解如何将工具使用情况迁移到最新版本的 Assistants API。