C++ 短时间高并发任务用即时多线程好还是线程池好？

Question

我用C++写了个本地代理服务器，目前使用的是即时创建，即时销毁的方式使用多线程的，每一个HTTP请求创建一个线程，交换数据的时候创建一个线程（即一个线程向客户端取数据向服务端发，一个线程向服务端取数据向客户端发），这些线程处理任务的时间都非常短，处理完后即CloseHandle销毁了。
但有时候并发请求数多了以后，感觉还是有点延迟。这种情况下，是不是采用线程池比较好？

Answer 1

如果你的http请求处理是比较耗时的，那么每个http请求都创建一个线程是不错的选择。
但你目前的情况是处理任务的时间很短，那么大部分时间都是消耗在创建和销毁线程上了。

可以采取线程池处理任务队列的方法来处理。
可以参考下面这个实现。
C++11的简单线程池代码阅读 http://www.cnblogs.com/oloroso/p/5881863.html

Answer 2

线程创建销毁的开销很高，而且线程多了内存占用也很高。四代i7 DDR5下估计每秒钟只能完成千级别的创建和销毁。这个开销与配置和平台有关。

同配置用std::condition_variable和std::mutex实现的线程池，每秒钟能轻松完成百万级别次的同步。

具体耗时可以写一个简单的程序测试一下。建议采用线程池。

Answer 3

为了防止突发请求，需要用线程池，根据业务请求提前分配好线程数目，线程池的操作是异步操作大大的降低线程资源争抢。