（2023年8月14日に公開した記事です。古い可能性があります）
弊社でGPT-4を利用して一括のタスクを処理するためにAPIを利用していたのですが、ふと管理画面を見ていると
使用制限（Usage Limits）ページに「 $120 」と表示されていて驚きました。
OpenAIのAPIには、様々な種類の Limit があることが分かりました。
自分が設定するSoft LimitやHard Limitとは別に、Approved Usage Limit（=許可された使用制限）というのがあるのです。
つまり、以下の3つの Limit があります。
- Soft Limit … 自分で設定する値。これを超えると通知が来る。
- Hard Limit … 自分で設定する値。これに達すると制限がかかって利用できなくなる。
- Approved Usage Limit … OpenAI社が許可している値。最初は$120までで、自分でリクエストを出さないと上がらない。
この記事では、それぞれの Limit について紹介します。
目次
- Approved Usage Limit（許可された使用制限）とは
- Approved Usage Limitを超えると
- Usage Limitsの引き上げには申請が必要
- 申請からいつ承認されるのか？
- Rate Limit
Approved Usage Limit（許可された使用制限）とは
デフォルトの初期値は$120ですが、
新規会員登録時には無償で$5のクレジットが付与されて、それも利用できるらしいです。
つまり、合計で$125が上限となります。
OpenAIのAPIを利用する予定がある方は、これに注意しなければいけません。
私のように利用の直前になってから申請すると、数日は待たされるので利用できない期間が発生してしまいます。
OpenAI Webサイト（Google翻訳済みのページ）
Approved Usage Limitを超えると
Approved Usage Limitの上限（$120 + 5）を超えると、APIのレスポンスで
OpenAI API error: You exceeded your current quota, please check your plan and billing details.
（＝OpenAI API エラー: 現在の割り当てを超過しました。プランと請求の詳細を確認してください。）
というメッセージが出力されます。
Usage Limitsの引き上げには申請が必要
このUsage Limitを引き上げるためには、わざわざ申請する必要があるので面倒なのです。
申請フォーム「OpenAI Quota Increase Request」
申請からいつ承認されるのか？
というわけで私も申請してみました。
「通常は1営業日で対応します」と表示されていますが、これは昔の話のようです。
OpenAI APIのコミュニティを見ると、普通に1週間経過しても返信がない人もいるようです。
その場合にはサポートにメールして催促する必要があります。多くのリクエストがあるので、漏れてしまうんですかね？（勘弁してほしい）
実際に私が申請してから承認までどれくらいかかるか以下に記録しました。
- 7月11日(火) 14:00 に申請
- 7月15日(土) 5:56 に承認メールが届く
上記のように、私の場合は3日半くらい経過したときに、承認メールが届きました。
OpenAIから届いた承認メール
$1000をリクエストし、そのまま$1000が承認されました。
以上のように、申請から3日半かかることもあれば、フォーラムを見ると1週間も待たされることもあったり、忘れられてたりするようなので、OpenAIのAPIを利用することが分かったタイミングですぐに申請するのが良いでしょう。
ちなみに、Azure OpenAI Serviceでは、リクエスト申請後、翌日には承認されましたので、お急ぎの方やAzureを既に利用している方はAzureを使うのもアリだと思います。
Rate Limit
Usage Limitの他に、Rate Limitも設定されています。
つまり、一定時間のリクエスト数が制限されています。
無料トライアル時、そして有料ユーザーになっても元の48時間までは通常とは別のRate Limitとなります。以下の表参照。
Rate Limit のポイント
・RPM (Requests Per Minute) (リクエスト/分)
・RPD (Requests Per Day) (リクエスト/日)
・TPM (Tokens Per Minute) (トークン/分)
・gpt-3.5-turbo-16kのRate Limitは、上記表の2倍の数値まで許可されます。
・Rate Limitは、ユーザーレベルではなく組織(organization)レベルで決まっています。
以上、それぞれのLimitの紹介でした。