18557¶

目的¶

申請したリクエストが何故はねられたか詳細が知りたい
APIリクスト上限解放に伴う方法について確認したい

2024-06-28 Incoming¶

CloudfunctionsからBQへ、StorageWriteAPIでデータを投入する処理を作成しており、こちらはリアルタイムで大量に呼び出される想定です。この際、以下のエラーが発生しました。 com.google.cloud.bigquery.BigQueryException: Exceeded rate limits: too many api requests per user per method for this user_method (TableService.getTable).

これは「google.cloud.bigquery.v2.TableService.GetTable」の呼び出し制限に抵触したことが原因と考えており、以下の2点の確認を行いたいです。

①この制限は、割当増加申請が可能でしょうか？ ②可能である場合、どの申請を行えば良いでしょうか？

添付のキャプチャは、割当増加申請ページでの当該APIの検索結果になります。ご確認をお願いいたします。

2024-06-28 Sent¶

株式会社JR西日本ITソリューションズ矢萩様

いつもお世話になっております、トップゲートサポートの高井です。

お問い合わせありがとうございます。ご質問いただいた内容について下記にご案内いたします。

①この制限は、割当増加申請が可能でしょうか？ ②可能である場合、どの申請を行えば良いでしょうか？

上記につきまして、当方ではお客様のAPIの利用状況は確認できかねるため、申請が可能であるか回答差し上げることも難しい状況でございます。そのため、当方でもGoogleに調査依頼を実施いたしますが、もし可能でしたら以下の方法にてお客様ご自身にて割り当ての確認・増加リクエストの送信をお試しいただけますでしょうか。

ご共有いただいているスクリーンショットのページにて、検索フィルタを解除し「Current usage percentage」列を降順にソートいただくと使用率が高い項目が判別可能かと存じます。リクエスト方法の詳細につきましては「割り当てと上限」公式ドキュメント「割り当ての増加をリクエストする」セクション[1]内「[ガイドを表示]」をクリックし、コンソールに遷移いただくと右側にガイドが表示されますので、参考にいただければ幸いです。

なお各項目の詳細につきましても「割り当てと上限」公式ドキュメント内の後半に記載されております。また「割り当てと上限のエラーのトラブルシューティング」公式ドキュメント[2]も添付いたしますので、併せて参照くださいませ。

[1] 割り当ての増加をリクエストする - 割り当てと上限 (Google Cloud BigQuery公式ドキュメント) https://cloud.google.com/bigquery/quotas?hl=ja#requesting_a_quota_increase

[2] 割り当てと上限のエラーのトラブルシューティング (Google Cloud BigQuery公式ドキュメント) https://cloud.google.com/bigquery/docs/troubleshoot-quotas?hl=ja

引き続きどうぞよろしくお願いいたします。

2024-07-01 Incoming¶

高井様

お世話になります。 J-WITSの大谷です。

横から失礼します。

「google.cloud.bigquery.v2.TableService.GetTable」についてのAPI呼び出しリクエストのクォーター制限解除リクエストは既に挙げており、Googleよりこのリクエストが正しいのかを確認せよと、そのリクエストの返答でいただいております。そこで本相談を貴社に挙げております。貴社およびGoogle様へ挙げていただき、矢萩様の書かれた自称における正しいクォーター制限解除リクエスト対象の APIについてお教えいただけますでしょうか。

2024-07-01 Sent¶

株式会社JR西日本ITソリューションズ矢萩様 (CC: 大谷様)

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート) の高井です。

大谷様、割り当ての増加リクエストを Google 宛に送信済である旨共有いただき、ありがとうございます。

また、恐れ入りますが当方ではお客様が Cloud Functions 上にてどのような Google Cloud クライアントライブラリを用いた処理をなさっているか分かりかねる状況でございます。また google.cloud.bigquery.v2.TableService.GetTable というような API 割り当ての項目は確認ができませんでした。

お客様はJava言語にて Google Cloud クライアントライブラリをご利用されていると認識しておりますが、上記の名称のメソッドはクライアントライブラリには存在しておらず、お客様のソースコード内のメソッド名と推察いたしました。

つきましてはお手数ですが、お客様の Cloud Functions 関数にてどのような処理を実施されているか把握させていただくため、使用しているクライアントライブラリのメソッドをご教示いただけますでしょうか。

お急ぎのところご不便おかけし恐れ入りますが、よろしくお願いいたします。

※株式会社トップゲートは2024年7月1日付で株式会社G-genと合併し、同時に「株式会社G-gen」へ社名を変更いたしました。その他所在地や法人番号などは変更ございません、本件に関するお問い合わせも（この文面を送っているサポートアドレス）へご連絡ください。

2024-07-02 Incoming¶

高井様

お世話になります。 J-WITSの大谷です。

矢萩様より下記回答をいただいております。＞矢萩様本メールで高井様とそのまま返信によるコミュニケーション可能なので、後続のリアクションはおねがいいたします。

申し訳ございません。ご指摘の通り、先にお伝えしたメソッドはライブラリ中のラップされたものでした。改めて状況を確認したところ、内部ではBigquery REST APIのdatasets.getを使用しているようです。以下にエラー時のログを記載いたしますのでご確認をお願いいたします。 ※プロジェクト名、データセット名、テーブル名はマスクしております。

Caused by: com.google.api.client.googleapis.json.GoogleJsonResponseException: 403 Forbidden
GET https://www.googleapis.com/bigquery/v2/projects/ {プロジェクト名}/datasets/{データセット名}/tables/ {テーブル名}?prettyPrint=false
{
  "code" : 403,
  "errors" : [ {
    "domain" : "usageLimits",
    "message" : "Exceeded rate limits: too many api requests per user per method for this user_method (TableService.getTable). For more information, see https://cloud.google.com/bigquery/docs/troubleshoot-quotas",
    "reason" : "rateLimitExceeded"
  } ],
  "message" : "Exceeded rate limits: too many api requests per user per method for this user_method (TableService.getTable). For more information, see https://cloud.google.com/bigquery/docs/troubleshoot-quotas",
  "status" : "PERMISSION_DENIED"
}

以上、お手数ではございますが、よろしくお願いいたします。

2024-07-04 Sent¶

株式会社JR西日本ITソリューションズ矢萩様 (CC: 大谷様)

CC: GCPサポートチーム

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート) の山口です。先ほど架電いたしましたが、ご不在のようでしたのでメールにて失礼いたします。

エラー内容のご共有ありがとうございます。共有いただいたエラー "reasen": "rateLimitExceeded" につきましては短期的な上限に逹している旨のメッセージ[1]となっております。

解決方法といたしまして、当該Cloud Functionsの再試行ポリシーを延伸いただく方法[2]がございます。

また、Cloud Functionsのソースコードを提供いただき、当サポートにて修正提案をさせていただくことも可能となりますが、ソースコードのレビュー・修正・サンプルコードの提供などは有償対応の範囲となります。そのため恐れ入りますが、上記の修正提案をご希望の場合は有償対応をご検討いただくことは可能でしょうか。

[1] ハイライト箇所を参照ください) rateLimitExceeded (概要) - 割り当てと上限のエラーのトラブルシューティング (Google Cloud BigQuery公式ドキュメント) https://cloud.google.com/bigquery/docs/troubleshoot-quotas?hl=ja#diagnosis:~:text=rateLimitExceeded%E3%80%82%E3%81%93%E3%81%AE%E5%80%A4%E3%81%AF%E3%80%81%E7%9F%AD%E6%9C%9F%E7%9A%84%E3%81%AA%E4%B8%8A%E9%99%90%E3%82%92%E7%A4%BA%E3%81%97%E3%81%BE%E3%81%99%E3%80%82

[2] 再試行ポリシーを構成する - イベントドリブン関数の再試行を有効にする (Cloud Functions公式ドキュメント) https://cloud.google.com/functions/docs/bestpractices/retries?hl=ja#configure_the_retry_policy

お忙しい中恐れ入りますが、ご確認のほどよろしくお願いいたします。

2024-07-04 Incoming¶

山口様お世話になります。 J-WITSの大谷です。短期的な上限に達したということでしたら、単純にAPI上限の解放リクエストとなる認識ですが、その場合ですでに申し上げていた対象のリクエストあげ、Google側のサポートで拒否された状態なのですが、どうすればリクエストが承認されますでしょうか。

2024-07-05 Sent¶

株式会社JR西日本ITソリューションズ大谷様

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート)の高井です。

追加でご質問いただいた内容について下記にご案内いたします。

短期的な上限に達したということでしたら、単純にAPI上限の解放リクエストとなる認識ですが、その場合ですでに申し上げていた対象のリクエストあげ、Google側のサポートで拒否された状態なのですが、どうすればリクエストが承認されますでしょうか。

こちらについて、先日ご案内した Cloud Functions の再試行ポリシーを延伸いただく方法[1]はお試しいただけましたでしょうか。延伸いただいた上で再発するようであれば、ソースコード等を共有いただき当サポートによる有償での技術サポートも可能でございますので一度ご検討いただけますと幸いです。

[1] 再試行ポリシーを構成する - イベントドリブン関数の再試行を有効にする (Cloud Functions公式ドキュメント) https://cloud.google.com/functions/docs/bestpractices/retries?hl=ja#configure_the_retry_policy

ご案内内容について不明点等ございましたらお知らせください。引き続きよろしくお願いいたします。

※株式会社トップゲートは2024年7月1日付で株式会社G-genと合併し、同時に「株式会社G-gen」へ社名を変更いたしました。

2024-07-05 Incoming¶

株式会社G-gen　高井様

お世話になっております。
本サポート依頼の起因となる機能の開発を担当しております、矢萩です。

担当するシステムでは、リアルタイムに大量のデータをBQに投入する仕組みを検討しています。
この中で、想定するデータ量で試験を行ったところ、全てのデータの投入完了には、データの入力から10時間程度必要でした。
原因として、BQ投入時に多くのAPIリクエスト上限エラーが発生し、複数回の再試行後にようやく投入成功する現象が発生しているためになります。
担当するシステムでは入力から投入完了までの時間を短くすることにメリットがあるため、APIリクエスト上限を開放することで、再試行が行われず、投入完了までの時間が短くなることを期待しています。

目的は投入成功ではなく APIリクエスト上限開放になりますので、
当該API、 Bigquery REST APIのdatasets.getについて、以下の内容についてご確認をお願いいたします。

①割当増加申請が可能でしょうか？
②可能である場合、どの申請を行えば良いでしょうか？

2024-07-08 Sent¶

株式会社JR西日本ITソリューションズ矢萩様

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート)の高井です。

再度、詳細なご状況を共有いただきありがとうございます。

今回お問い合わせいただいた内容につきまして、エラーの解消ではなく API の割り当て上限開放が最終的な目的である旨理解いたしました。以前当サポートよりご案内した延伸の対応については、お客様環境にて生じたエラーに対する対処法としてご案内させていただいておりました。

そのため、現在改めて申請を行うための方法・申請項目についての詳細情報を Google へ連携し確認を行なっております。つきましては、ご不便おかけしていることろ大変恐縮ですが、情報の確認まで今しばらくお待ちくださいませ。

引き続きよろしくお願いいたします。

※株式会社トップゲートは2024年7月1日付で株式会社G-genと合併し、同時に「株式会社G-gen」へ社名を変更いたしました。

2024-07-10 Sent¶

株式会社JR西日本ITソリューションズ矢萩様

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート)の高井です。

お待たせしており恐れ入ります。Google より確認が取れましたので下記にご案内いたします。

まず前提といたしまして Google Cloud ではお客さまによる個別事情の API 割り当ての増加申請は受け付けておりませんが、以前ご案内した延伸設定を行って尚APIへのリクエストが集中すると判断した場合、審査の対象となります。詳細につきましては、以下にご案内いたします。

割当増加申請が可能でしょうか？

こちらにつきまして、Google より bigquery.googleapis.com の呼び出し数についての割り当て増加申請には「当該 Cloud Functions 関数(icpmpfnccdc101)にて実施されている処理内容竝びに処理の背景、今後も多くの呼び出しがどのように見込まれるのか」などについてのご説明とともに申請いただく必要がある旨の連絡を受領しております。

可能である場合、どの申請を行えば良いでしょうか？

またこちらについて、申請いただく API の特定については以下の手順を実施いただければと存じます。

手順: 2024-06-20 16:00 から 2024-06-21 03:00 の間に出力された Cloud Functions ログに対して以下のクエリで検索を実施いただき、エラー発生直前に実行されていた処理内容とエラー文面から対象の API を特定する

ログの検索クエリ:

resource.labels.function_name="icpmpfnccdc101"
resource.type="cloud_function"
resource.labels.region="asia-northeast1"
SEARCH("PubsubToBqForCDC")

なお、Google プロダクトチームにて申請を承認するにあたり、まずはお客様にて Cloud Functions 関数のソースコードを修正いただく必要がございます。 Google にて調査した結果の詳細な理由を以下に説明いたします。

ログの内容から、当該メソッド TableService.getTable の呼び出しが一時的に集中し、現在の割り当て数(100コール/秒/ユーザー)を超過していた状況でございました。上記メソッドの割り当て数(100コール/秒/ユーザー)が引き上げ審査の対象となりますが、この割り当て数(100コール/秒/ユーザー)はお客様の個別の事情により引き上げを許諾する対応を取っていないメソッドと見受けられます。

つきましては、以前ご案内した Cloud Functions 関数のリトライ(失敗時の再呼び出し)の間隔を延伸するような処置をいただいて、呼び出しのタイミングを分散いただく必要がございます。上記の対応をいただいても尚、当該 API へのリクエストが集中すると見られる場合に初めて Google プロダクトチームによる、現在の割り当て数(100コール/秒/ユーザー)からの引き上げの審査対象となります。

ご案内内容について不明点等ございましたらお知らせください。引き続きよろしくお願いいたします。

※株式会社トップゲートは2024年7月1日付で株式会社G-genと合併し、同時に「株式会社G-gen」へ社名を変更いたしました。

2024-07-12 Incoming¶

株式会社G-gen 高井様

お世話になっております。矢萩です。

希望しているBigqueryAPIの制限 (100コール/秒/ユーザー)について、基本的に割り当て増加申請を受け付けていないことを理解しました。担当するシステムにおいて当該処理を改善する方法を検討しておりますが、まずは手を加える必要が無い手段を選択できればという意図の問い合わせでした。当該処理の対応方針としては一旦内部に持ち帰って再検討したいと思います。 ※再試行の延伸では希望の挙動にならないため、別案を検討いたします。

改めて、割り当て増加申請を行う方針となった際に向けて確認させてください。 BigqueryAPIの制限 (100コール/秒/ユーザー)の増加申請を行い、 Google プロダクトチームに審査いただくための方法について。 GCPコンソールの割り当て増加申請ページではなく、サポートから個別に申請を行う方法でよろしいでしょうか？ GCPコンソールから、 BigqueryAPIの制限 (100コール/秒/ユーザー)の増加申請を見つけることができないための確認になります。

2024-07-19 Sent¶

株式会社JR西日本ITソリューションズ矢萩様

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート)の高井です。ご案内にお時間いただいており恐れ入ります。

本件につきまして Google より得られた回答を現在社内で確認しております。大変恐縮でございますが、ご案内まで少々お待ちくださいませ。

ご不便おかけし恐れ入りますが、よろしくお願いいたします。

2024-07-22 Sent¶

株式会社JR西日本ITソリューションズ矢萩様

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート)の高井です。ご案内までお待たせしており、大変恐れ入ります。

保留となっておりました追加でのご質問について、下記に回答いたします。

BigqueryAPIの制限 (100コール/秒/ユーザー)の増加申請を行い、 Google プロダクトチームに審査いただくための方法について。 GCPコンソールの割り当て増加申請ページではなく、サポートから個別に申請を行う方法でよろしいでしょうか？

こちらのお客様のAPIメソッド TableService.getTable の呼び出し頻度についての割り当ての増量につきましては、まずは関連 API(bigquery.googleapis.com)の呼び出しが再び過多になったことにより、関連したエラーの発生率が高くなった状況をご確認くださいませ。その上で、それらの失敗時の情報と以前ご案内した再呼び出し間隔の漸増メカニズムの実装に関して具体的に取り組まれている内容などをご記載の上、当サポート窓口へ再度ご状況を共有いただければと存じます。

ご質問いただいております内容への回答は以上となりますが、認識の相違ある場合や不明点などありましたらお知らせくださいませ。引き続きどうぞよろしくお願いいたします。

2024-07-22 Sent¶

株式会社JR西日本ITソリューションズ矢萩様

お世話になっております、株式会社G-gen(旧: 株式会社トップゲート)の高井です。

ご案内内容をご確認いただきありがとうございます。

本件につきましてGoogle に申請をご希望の場合、当メールにご返信として現在の状況・実施いただいた内容を含めご連絡くださいませ。当ケースはこちらのメールをもちましてご案内終了とさせていただきまが、ご返信いただくことで継続のご案内が可能ですのでご安心くださいませ。