弊社でGPT-4を利用して一括のタスクを処理するためにAPIを利用していたのですが、ふと管理画面を見ていると
使用制限(Usage Limits)ページに「 $120 」と表示されていて驚きました。
自分が設定するSoft LimitやHard Limitとは別に、Approved Usage Limit(=許可された使用制限)というのがあるのです。
- Soft Limit … 自分で設定する値。これを超えると通知が来る。
- Hard Limit … 自分で設定する値。これに達すると制限がかかって利用できなくなる。
- Approved Usage Limit … OpenAI社が許可している値。最初は$120までで、自分でリクエストを出さないと上がらない。
Approved Usage Limit(許可された使用制限)とは
デフォルトの初期値は$120ですが、
新規会員登録時には無償で$5のクレジットが付与されて、それも利用できるらしいです。
つまり、合計で$125が上限となります。
OpenAIのAPIを利用する予定がある方は、これに注意しなければいけません。
私のように利用の直前になってから申請すると、数日は待たされるので利用できない期間が発生してしまいます。
Approved Usage Limitを超えると
Approved Usage Limitの上限($120 + 5)を超えると、APIのレスポンスで
OpenAI API error: You exceeded your current quota, please check your plan and billing details.
(=OpenAI API エラー: 現在の割り当てを超過しました。プランと請求の詳細を確認してください。)
というメッセージが出力されます。
Usage Limitsの引き上げには申請が必要
このUsage Limitを引き上げるためには、わざわざ申請する必要があるので面倒なのです。
申請からいつ承認されるのか?
というわけで私も申請してみました。
「通常は1営業日で対応します」と表示されていますが、これは昔の話のようです。
OpenAI APIのコミュニティを見ると、普通に1週間経過しても返信がない人もいるようです。
その場合にはサポートにメールして催促する必要があります。多くのリクエストがあるので、漏れてしまうんですかね?(勘弁してほしい)
実際に私が申請してから承認までどれくらいかかるか以下に記録しました。
- 7月11日(火) 14:00 に申請
- 7月15日(土) 5:56 に承認メールが届く
上記のように、私の場合は3日半くらい経過したときに、承認メールが届きました。
$1000をリクエストし、そのまま$1000が承認されました。
以上のように、申請から3日半かかることもあれば、フォーラムを見ると1週間も待たされることもあったり、忘れられてたりするようなので、OpenAIのAPIを利用することが分かったタイミングですぐに申請するのが良いでしょう。
ちなみに、Azure OpenAI Serviceでは、リクエスト申請後、翌日には承認されましたので、お急ぎの方やAzureを既に利用している方はAzureを使うのもアリだと思います。
Rate Limit
Usage Limitの他に、Rate Limitも設定されています。
つまり、一定時間のリクエスト数が制限されています。
無料トライアル時、そして有料ユーザーになっても元の48時間までは通常とは別のRate Limitとなります。以下の表参照。
テキスト&埋め込み | チャット | 画像 | 音声 | |
---|---|---|---|---|
無料トライアルユーザー | 200 RPD 3 RPM 150,000 TPM | 200 RPD 3 RPM 40,000 TPM | 200 RPD 5画像/分 | 200 RPD 3 RPM |
有料ユーザー (初めの48時間まで) | 2,000 RPD 60 RPM 250,000 TPM | 2,000 RPD 60 RPM 60,000 TPM | 2,000 RPD 50画像/分 | 2,000 RPD 50 RPM |
有料ユーザー (初めの48時間後) | 3,500 RPM 350,000 TPM | 3,500 RPM 90,000 TPM | 50画像/分 | 50 RPM |
・RPM (Requests Per Minute) (リクエスト/分)
・RPD (Requests Per Day) (リクエスト/日)
・TPM (Tokens Per Minute) (トークン/分)
・gpt-3.5-turbo-16kのRate Limitは、上記表の2倍の数値まで許可されます。
・Rate Limitは、ユーザーレベルではなく組織(organization)レベルで決まっています。
OpenAI APIの使い方
OpenAI APIの使い方はこの記事で解説しています→ OpenAI API使い方ガイド ChatGPTをAPIで使う
この記事の著者
阿部 隼也
Abe Shunya
株式会社AIイノベーションズ 代表取締役社長。人工知能学会 会員。東京都出身。横浜市立大学在学中に当社を創業し、SEOなどデジタルマーケティング事業や、ChatGPT入門講座を代表とするプライムアカデミー事業を立ち上げた。技術も好きで、自らコードを書きながらサービスを開発する。
Twitter(X)アカウント