FastAPI 如何處理並行執行並避免阻塞操作？

FastAPI 和並行執行

FastAPI 中的異步編程

默認情況下，FastAPI 採用異步編程模式，允許它同時處理多個請求。具體來說，它使用協程和事件循環以有效的方式執行請求。

Def 與非同步 Def 函數

處理定義為 def（同步）的函數在外部執行緒池內的單獨執行緒中。定義為 async def（非同步）的函數直接在事件循環中執行。

運行阻塞代碼

問題：當阻塞操作被執行時在非同步定義端點內運行，它可以阻止事件循環並序列化請求

解決方案：

1. 使用def 定義端點： 如果端點不需要非同步操作，則使用普通的聲明def 以避免阻塞。
2. 使用run_in_threadpool(): 對於非同步定義端點內的阻塞操作，FastAPI run_in_threadpool() 函數可讓您在執行緒池內的單獨執行緒中執行任務，以防止事件循環阻塞。
3. 使用asyncio.loop.run_in_executor(): 此函式提供了 run_in_threadpool() 的替代方法來執行阻塞任務非同步。
4. 使用單獨的進程（ProcessPoolExecutor）：對於 CPU 密集型計算，建議在單獨的進程中運行任務以最大化並行化。

避免執行緒池耗盡

• 使用 httpx 函式庫和 asyncio.gather() 並行執行多個非同步 HTTP 要求。
• 使用多個 FastAPI 工作執行緒 (uvicorn --workers) 來並行執行多個非同步 HTTP 要求。跨多個進程分發請求，每個進程都有自己的執行緒池。
• 考慮使用外部作業排隊系統，例如Celery 用於繁重的後台計算。

附加說明：

• 瀏覽器快取：開啟隱身標籤頁或使用其他瀏覽器session 來瀏覽器緩存對API 的影響
• 異步I/O： 非同步 HTTP 用戶端（如 httpx 和 aiohttp）比同步客戶端（如請求）提供更好的效能。

以上是FastAPI 如何處理並行執行並避免阻塞操作？的詳細內容。更多資訊請關注PHP中文網其他相關文章！