Assistants API 的新变化

试用版

我们宣布推出 Assistants API 的各种新功能和改进，并将我们的 Beta 版迁移到新的 API 版本。OpenAI-Beta: assistants=v2.以下是新功能：source

• 我们正在推出改进的检索工具称为file_search，每个助手最多可以摄取 10000 个文件，比以前多 500 倍。它速度更快，支持通过多线程搜索进行并行查询，并具有增强的重新排名和查询重写功能。
• 旁边file_search，我们为您介绍vector_store对象在 API 中。将文件添加到 vector store 后，它会自动解析、分块和嵌入，以备搜索。矢量存储可以跨助手和线程使用，从而简化文件管理和计费。
• 现在，您可以在 Assistants API 中控制运行使用的最大令牌数，从而管理令牌使用成本。您还可以对每次运行中使用的上一条/最近消息的数量设置限制。
• 我们添加了对tool_choice参数，可用于强制使用特定工具（如file_search,code_interpreter或function） 进行 URL 的运行。
• 您现在可以使用角色创建消息assistant以在 Threads 中创建自定义对话历史记录。
• Assistant 和 Run 对象现在支持常用的模型配置参数，例如temperature,response_format（JSON 模式）和top_p.
• 现在，您可以在 Assistants API 中使用微调的模型。目前，只有gpt-3.5-turbo-0125受支持。
• Assistants API 现在支持流式传输。
• 我们向 Node 和 Python SDK 添加了几个流式处理和轮询帮助程序。

请参阅我们的迁移指南，详细了解如何将工具使用情况迁移到最新版本的 Assistants API。source