python 加快程序运行问题

Question

假设：

def get(url):
    #这里是get请求
    return url

for i in urls:
    get(i)
#这里采用循环去调用请求
#这样速度好像比较慢，有什么方法可以
#当多个请求时，也可以快速完成程序

谢谢了

Answer 1

>>> from eventor import Eventor
>>> urllist = ["https://a.com", ....]
>>> def get(url):
        # 网络IO耗时
        return url
>>> e = Eventor(threadcount=3, taskunitcount=3, func=get, interval=1)
>>> result = e.run_with_tasklist(urllist)
>>> print(result)

自己根据需求选择 多核多进程，还是多线程，协程加快处理。

详情移步：https://github.com/kute/eventor

后续再 加进 async await，celery worker等

Answer 2

几个方法，并且可以结合使用

1. coroutine

2. multiprocess

3. multithread

4. celery worker

Answer 3

最简单的改造就是用multiprocessing.dummy 执行多线程任务，可以查一下，设置好线程数量，然后对程序不需要太大改造，大体就能用。