FastAPI 以串行方式而不是并行方式运行 API 调用
问:为什么 FastAPI API 调用以串行方式而不是并行方式运行?
A:根据FastAPI的文档,当使用def 代替 async def 定义路径操作函数,它在外部线程池中运行,然后等待,而不是直接调用。这样做是为了防止阻塞服务器。
并行执行的其他注意事项:
异步 def 与 def 端点:
-
async def: 函数直接运行事件循环;只要它们等待非阻塞 I/O 绑定操作,就会同时处理。
-
def: 函数在与外部线程池分开的线程中运行;将串行处理,除非在事件循环之外运行。
使用阻塞操作:
如果 async def 端点包含阻塞操作并且不等待完成后,它将阻塞事件循环并处理请求
解决方案:
- 使用普通 def 而不是 async def 定义端点(如果没有可等待的操作)。
- 使用FastAPI的run_in_threadpool()函数在单独的线程中执行阻塞任务
- 使用asyncio的loop.run_in_executor()或asyncio.to_thread()在单独的执行器或线程中运行阻塞任务。
其他优化策略:
- 使用更多工人来利用多核 CPU。
- 考虑使用 Celery 或 AsyncIOScheduler 进行繁重的后台计算。
以上是为什么 FastAPI 以串行方式而不是并行方式运行 API 调用?的详细内容。更多信息请关注PHP中文网其他相关文章!