OpenAI 新推出批量处理的 Batch API,这个 API 能帮你节省成本(半价)并提供更高的处理速率,尤其适合执行异步任务(如摘要、翻译及图像分类等)。只要上传一个包含多项请求的文件,可以在24小时内得到处理结果,享受 API 使用费用五折优惠。
其实就是充分利用闲时算力。相关文档:platform.openai.com/docs/api-reference/batch/create
上一篇:再访硅谷:生成式AI随处可见,VC开始关注国家安全类项目
下一篇:#清华大学公布3月LLM排行榜# Claude3作为智能体表现超越GPT4