由于GIL的存在,python中的多线程其实并不是真正意义上的多线程,在之前文章Python中的多线程与多进程那些事 中提到
I/O密集型使用多线程并发执行提高效率、计算密集型使用多进程并行执行提高效率。
针对计算密集型的任务,我们如何通过多进程提高效率?
基于multiprocessing、queue等模块实现简易的分布式计算框架。服务节点负责任务的派发和任务结果的采集,工作节点分布在同一电脑的不同进程,或者其他电脑上,负责任务执行和结果反馈,服务节点与工作节点通过Queue实现数据共享(任务下发、结果反馈)。
其中包含Task、MaterWork、SlaveWork三个模块,大
使用Python的multiprocessing实现分布式计算http://t.zijieimg.com/y5XpA8/