OPENAI為開發者推出半價API：支持批量處理但不是實時獲得結果 – 藍點網
對于需要對大量內容進行處理的為開開發者有福了，OPENAI 今天為開發者們推出了批量處理 API，推出開發者們可以一次性將大量內容提交過去然后在 24 小時內獲得結果。半價不實
推出這種異步任務對 OPENAI 來說也有好處，持批那就是量處理可以在非高峰期時處理這些請求，這樣可以平衡服務器資源節省成本，時獲所以 OPENAI 給這些異步任務 API 提供了半價優惠，得結點網開發者只需要支付 50% 的果藍費用即可。
舉個例子，當存在大量的推出文本、摘要、半價不實翻譯或圖像需要進行分類整理時，持批就可以使用異步任務，量處理這些內容的時獲分類整理對及時性要求并不高，開發者可以提交后等待 OPENAI 給出結果再處理就好。得結點網
這樣對 OPENAI 和開發者來說是雙贏，按照 OPENAI API 文檔的說明，除了開發者可以獲得半價折扣外，還可以獲得更高的速率，也就是可以在每分鐘內提交更多請求。
唯一要求是開發者需要通過 JSONL 文件格式進行傳輸，即將需要處理的所有請求放到一個 JSONL 文件里，然后將這個文件使用 batch 參數上傳到服務器即可。
OPENAI 已經在 API 文檔中羅列了詳細使用方法，包括創建批處理、請求正文、檢索等，有需要的開發者可以前往 OPENAI 查看調用示例：https://platform.openai.com/docs/api-reference/batch
相關文章：
欄目分類
最新文章