FastAPI でリクエストの高い同時実行性と負荷分散を実現する方法-Python チュートリアル-php.cn

FastAPI でリクエストの高い同時実行性と負荷分散を実現する方法

王林

リリース： 2023-07-31 13:50:01

オリジナル

3173 人が閲覧しました

FastAPI でリクエストの高い同時実行性と負荷分散を実現する方法

はじめに:
インターネットの発展に伴い、Web アプリケーションの高い同時性が一般的な問題になりました。大量のリクエストを処理するときは、効率的なフレームワークとテクノロジーを使用して、システムのパフォーマンスとスケーラビリティを確保する必要があります。 FastAPI は、高い同時実行性と負荷分散の実現に役立つ高性能 Python フレームワークです。

この記事では、FastAPI を使用してリクエストの高い同時実行性と負荷分散を実現する方法を紹介します。例では Python 3.7 と FastAPI 0.65 を使用します。

1. 準備
始める前に、Python と FastAPI をインストールし、基本的な FastAPI アプリケーションを作成する必要があります。次のコマンドを実行してインストールできます。

pip install fastapi uvicorn

ログイン後にコピー

main.py というファイルを作成し、そのファイルに次のコードを追加します。

from fastapi import FastAPI

app = FastAPI()

@app.get("/hello")
def hello():
    return {"message": "Hello, World!"}

ログイン後にコピー

次に、次のコマンドを実行して、 FastAPI アプリケーションプログラム:

uvicorn main:app --reload

ログイン後にコピー

準備作業が完了したので、高い同時実行性と負荷分散を実現する方法から始めましょう。

2. リクエストの高い同時実行性の実現

非同期処理の使用
FastAPI は、Python の非同期フレームワーク asyncio を使用して、ノンブロッキングのリクエスト処理を実現します。非同期処理を使用すると、同時リクエストをより効率的に処理できます。

FastAPI アプリケーションでは、async キーワードと await キーワードを使用して非同期関数を定義し、await キーを使用できます。非同期操作が完了するまで待機するワード。以下に例を示します。

from fastapi import FastAPI

app = FastAPI()

@app.get("/hello")
async def hello():
    await asyncio.sleep(1)  # 模拟长时间的异步操作
    return {"message": "Hello, World!"}

ログイン後にコピー

同時実行ランナーの使用
FastAPI は、同時リクエストを処理するためのさまざまな同時実行ランナーの使用もサポートしています。デフォルトでは、FastAPI はサーバーとして uvicorn を使用し、パフォーマンスを向上させるために uvloop を使用します。

パフォーマンスをさらに向上させたい場合は、gunicorn、hypercorn などの他の同時実行ランナーの使用を検討できます。これらの同時ランナーはマルチワーカーモードをサポートし、複数のワーカープロセスを同時に実行して同時リクエストを処理できます。

たとえば、次のコマンドを使用して gunicorn をインストールして使用できます:

pip install gunicorn
gunicorn -w 4 -k uvicorn.workers.UvicornWorker main:app

ログイン後にコピー

上記のコマンドは、リクエストを処理するために 4 つのワーカープロセスを開始するため、同時処理が向上します。能力。

3. 負荷分散の実装

リバースプロキシの使用
リバースプロキシは、リクエストをさまざまなバックエンドサーバーに分散できる一般的な負荷分散テクノロジです。リバースプロキシを使用すると、アプリケーションの同時処理能力をスケールアウトできます。

一般的に使用されるリバースプロキシソフトウェアには、Nginx、HAProxy などが含まれます。ここでは、Nginx を例として説明します。まず、Nginx をインストールし、関連する構成を実行する必要があります。

異なるサーバー上で 3 つの FastAPI アプリケーションが実行されているとします。つまり、http://127.0.0.1:8000、http://127.0.0.1:8001 、およびhttp://127.0.0.1:8002。次の構成を使用して負荷分散を実現できます。

http {
    upstream fastapi {
        server 127.0.0.1:8000;
        server 127.0.0.1:8001;
        server 127.0.0.1:8002;
    }

    server {
        ...

        location / {
            proxy_pass http://fastapi;
        }
    }
}

ログイン後にコピー

上記の構成では、Nginx は 3 つの FastAPI アプリケーションの 1 つにリクエストを分散して負荷分散を実現します。

分散システムの使用
非常に高い負荷に直面した場合、単一サーバーを使用すると需要を満たすことができない可能性があります。この場合、分散システムを使用してリクエストを処理することを検討してください。

一般的な分散システムソリューションには、Kubernetes、Docker Swarm などが含まれます。これらのソリューションは、複数の FastAPI アプリケーションをさまざまなコンピューティングノードにデプロイし、ロードバランサーによって均一に管理およびスケジュールすることができます。

分散システムを使用すると、リクエストの高い同時実行性と負荷分散が実現され、システムのパフォーマンスとスケーラビリティが確保されます。

結論:
FastAPI フレームワークを非同期処理および同時実行ランナーと組み合わせて使用することで、リクエストの高い同時処理を実現できます。同時に、リバースプロキシと分散システムを使用することで、リクエストの負荷分散を実現できます。これらの方法は、システムのパフォーマンスとスケーラビリティを向上させ、同時実行性の高いシナリオのニーズを満たすのに役立ちます。

参考資料: