FastAPI と並列実行
FastAPI での非同期プログラミング
デフォルトでは、FastAPI は非同期プログラミング パターンを採用しており、複数のリクエストを同時に処理します。具体的には、コルーチンとイベント ループを使用してリクエストを効率的に実行します。
Def と Async Def 関数
def (同期) として定義された関数が処理されます。外部スレッドプール内の別のスレッドで。 async def (非同期) として定義された関数は、イベント ループで直接実行されます。
ブロッキング コードの実行
問題: ブロッキング操作がasync def エンドポイント内で実行すると、イベント ループをブロックし、リクエストをシリアル化できます。
解決策:
-
def でエンドポイントを定義: エンドポイントが非同期操作を必要としない場合は、通常のメソッドで宣言します。ブロックを避けるには def を使用します。
-
を使用しますrun_in_threadpool(): 非同期 def エンドポイント内の操作をブロックする場合、FastAPI run_in_threadpool() 関数を使用すると、スレッドプール内の別のスレッドでタスクを実行して、イベント ループのブロックを防ぐことができます。
-
使用asyncio.loop.run_in_executor(): この関数は、 run_in_threadpool() はブロッキング タスクを非同期で実行します。
-
別のプロセス (ProcessPoolExecutor) を使用します: CPU を集中的に使用する計算の場合、並列化を最大化するために別のプロセスでタスクを実行することをお勧めします。
スレッド プールの回避疲労
- 複数の非同期 HTTP リクエストを並行して実行するには、httpx ライブラリを asyncio.gather() とともに使用します。
- 複数の FastAPI ワーカー (uvicorn --workers) を使用して、それぞれが独自のスレッドプールを持つ複数のプロセスにリクエストを分散します。
- 外部ジョブの使用を検討してください。大量のバックグラウンド計算用の Celery などのキュー システム。
追加メモ:
-
ブラウザ キャッシュ: シークレット タブを開くか、 API に対するブラウザ キャッシュの影響を回避するための別のブラウザ セッション
-
非同期 I/O: httpx や aiohttp などの非同期 HTTP クライアントは、リクエストなどの同期クライアントよりも優れたパフォーマンスを提供します。
以上がFastAPI はどのようにして並列実行を処理し、操作のブロックを回避できるのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。