使用Python的multiprocessing实现分布式计算

Python与机器学习 徐 自远 642℃

由于GIL的存在,python中的多线程其实并不是真正意义上的多线程,在之前文章Python中的多线程与多进程那些事 中提到

I/O密集型使用多线程并发执行提高效率、计算密集型使用多进程并行执行提高效率。

针对计算密集型的任务,我们如何通过多进程提高效率?

基于multiprocessing、queue等模块实现简易的分布式计算框架。服务节点负责任务的派发和任务结果的采集,工作节点分布在同一电脑的不同进程,或者其他电脑上,负责任务执行和结果反馈,服务节点与工作节点通过Queue实现数据共享(任务下发、结果反馈)。

其中包含Task、MaterWork、SlaveWork三个模块,大

 

 

使用Python的multiprocessing实现分布式计算http://t.zijieimg.com/y5XpA8/

转载请注明:徐自远的乱七八糟小站 » 使用Python的multiprocessing实现分布式计算

喜欢 (0)

苏ICP备18041234号-1 bei_an 苏公网安备 32021402001397号