社名変更のお知らせ(2月~)

OpenAIのAPIを使うならUsage Limit(=使用制限)に注意。事前に申請しないと利用できるのは125ドルまで

弊社でGPT-4を利用して一括のタスクを処理するためにAPIを利用していたのですが、ふと管理画面を見ていると

使用制限(Usage Limits)ページに「 $120 」と表示されていて驚きました。

自分が設定するSoft LimitHard Limitとは別に、Approved Usage Limit(=許可された使用制限)というのがあるのです。

  • Soft Limit … 自分で設定する値。これを超えると通知が来る。
  • Hard Limit … 自分で設定する値。これに達すると制限がかかって利用できなくなる。
  • Approved Usage Limit … OpenAI社が許可している値。最初は$120までで、自分でリクエストを出さないと上がらない。

Approved Usage Limit(許可された使用制限)とは

デフォルトの初期値は$120ですが、

新規会員登録時には無償で$5のクレジットが付与されて、それも利用できるらしいです。

つまり、合計で$125が上限となります。

OpenAIのAPIを利用する予定がある方は、これに注意しなければいけません。

私のように利用の直前になってから申請すると、数日は待たされるので利用できない期間が発生してしまいます。

OpenAI Webサイト(Google翻訳済みのページ)

Usage Limitsにはこちらからアクセスできます。

Approved Usage Limitを超えると

Approved Usage Limitの上限($120 + 5)を超えると、APIのレスポンスで

OpenAI API error: You exceeded your current quota, please check your plan and billing details.

(=OpenAI API エラー: 現在の割り当てを超過しました。プランと請求の詳細を確認してください。)

というメッセージが出力されます。

Usage Limitsの引き上げには申請が必要

このUsage Limitを引き上げるためには、わざわざ申請する必要があるので面倒なのです。

申請フォーム「OpenAI Quota Increase Request」

引き上げ申請フォームはこちら

申請からいつ承認されるのか?

というわけで私も申請してみました。

「通常は1営業日で対応します」と表示されていますが、これは昔の話のようです。

OpenAI APIのコミュニティを見ると、普通に1週間経過しても返信がない人もいるようです。

その場合にはサポートにメールして催促する必要があります。多くのリクエストがあるので、漏れてしまうんですかね?(勘弁してほしい)

実際に私が申請してから承認までどれくらいかかるか以下に記録しました。

  • 7月11日(火) 14:00 に申請
  • 7月15日(土) 5:56 に承認メールが届く

上記のように、私の場合は3日半くらい経過したときに、承認メールが届きました。

OpenAIから届いた承認メール

$1000をリクエストし、そのまま$1000が承認されました。

以上のように、申請から3日半かかることもあれば、フォーラムを見ると1週間も待たされることもあったり、忘れられてたりするようなので、OpenAIのAPIを利用することが分かったタイミングですぐに申請するのが良いでしょう。

ちなみに、Azure OpenAI Serviceでは、リクエスト申請後、翌日には承認されましたので、お急ぎの方やAzureを既に利用している方はAzureを使うのもアリだと思います。

Rate Limit

Usage Limitの他に、Rate Limitも設定されています。

つまり、一定時間のリクエスト数が制限されています。

無料トライアル時、そして有料ユーザーになっても元の48時間までは通常とは別のRate Limitとなります。以下の表参照。

テキスト&埋め込みチャット画像音声
無料トライアルユーザー200 RPD
3 RPM
150,000 TPM
200 RPD
3 RPM
40,000 TPM
200 RPD
5画像/分
200 RPD
3 RPM
有料ユーザー
(初めの48時間まで)
2,000 RPD
60 RPM
250,000 TPM
2,000 RPD
60 RPM
60,000 TPM
2,000 RPD
50画像/分
2,000 RPD
50 RPM
有料ユーザー
(初めの48時間後)
3,500 RPM
350,000 TPM
3,500 RPM
90,000 TPM
50画像/分50 RPM
Rate Limit ポイント

RPM (Requests Per Minute) (リクエスト/分)

RPD (Requests Per Day) (リクエスト/日)

TPM (Tokens Per Minute) (トークン/分)

・gpt-3.5-turbo-16kのRate Limitは、上記表の2倍の数値まで許可されます。

・Rate Limitは、ユーザーレベルではなく組織(organization)レベルで決まっています。

OpenAI APIの使い方

OpenAI APIの使い方はこの記事で解説しています→ OpenAI API使い方ガイド ChatGPTをAPIで使う

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です