よくある質問AIサービスからの応答時間を短縮するには?
AIサービスからの応答時間を短縮するには?
AIサービスのAPIに送信されるリクエストには、翻訳対象の文字列が含まれています。リクエストが長いほど、APIの処理に時間がかかります。
たとえば、1000個の文字列を含む投稿を翻訳する場合、ChatGPTでは完了までに1分以上かかることがあります。
AIサービスからの応答時間を短縮するには、以下の方法があります。
- 同じAIサービスのより高速なモデルを使用する(例:ChatGPT 5の代わりにChatGPT 5 mini)
- プラグイン設定でAPIに送信するペイロードサイズを削減する
ペイロードサイズを削減すると、リクエストが複数のリクエストに分割され、それぞれがより短時間で処理されます。これらは並行して処理されるため、全体の応答時間が短縮されます。
Settings > Service Configuration > [AI service] に移動し、Max request payload length オプションを小さくしてください。
最適な応答時間が得られる値が見つかるまで、さまざまな値を試してみてください。たとえば、8000 に設定されている場合は 4000 に変更して再試行してみてください。
