ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

python – multiprocessing.Pool:何时使用apply,apply_async或map?

2019-09-15 13:59:28  阅读:160  来源: 互联网

标签:python multithreading concurrency multiprocessing


我没有看到有关Pool.apply,Pool.apply_asyncPool.map的用例的清晰示例.我主要使用的是Pool.map;别人有什么好处?

解决方法:

回到Python的旧时代,要使用任意参数调用函数,您将使用apply:

apply(f,args,kwargs)

apply仍然存在于Python2.7中,但不存在于Python3中,并且通常不再使用.如今,

f(*args,**kwargs)

是优选的. multiprocessing.Pool模块尝试提供类似的接口.

Pool.apply就像Python apply,除了函数调用是在一个单独的进程中执行的. Pool.apply阻塞,直到功能完成.

Pool.apply_async也像Python的内置apply,除了调用立即返回而不是等待结果.返回AsyncResult对象.您调用其get()方法来检索函数调用的结果. get()方法一直阻塞,直到函数完成.因此,pool.apply(func,args,kwargs)等同于pool.apply_async(func,args,kwargs).get().

与Pool.apply相比,Pool.apply_async方法也有一个回调,如果提供,则在函数完成时调用.这可以用来代替调用get().

例如:

import multiprocessing as mp
import time

def foo_pool(x):
    time.sleep(2)
    return x*x

result_list = []
def log_result(result):
    # This is called whenever foo_pool(i) returns a result.
    # result_list is modified only by the main process, not the pool workers.
    result_list.append(result)

def apply_async_with_callback():
    pool = mp.Pool()
    for i in range(10):
        pool.apply_async(foo_pool, args = (i, ), callback = log_result)
    pool.close()
    pool.join()
    print(result_list)

if __name__ == '__main__':
    apply_async_with_callback()

可能会产生如下结果

[1, 0, 4, 9, 25, 16, 49, 36, 81, 64]

请注意,与pool.map不同,结果的顺序可能与pool.apply_async调用的顺序不对应.

因此,如果您需要在单独的进程中运行函数,但希望当前进程阻塞直到该函数返回,请使用Pool.apply.与Pool.apply一样,Pool.map会阻塞,直到返回完整的结果.

如果希望工作进程池进程异步执行许多函数调用,请使用Pool.apply_async.结果的顺序不保证与对Pool.apply_async的调用顺序相同.

另请注意,您可以使用Pool.apply_async调用许多不同的函数(并非所有调用都需要使用相同的函数).

相反,Pool.map将相同的函数应用于许多参数.
但是,与Pool.apply_async不同,结果以与参数顺序对应的顺序返回.

标签:python,multithreading,concurrency,multiprocessing
来源: https://codeday.me/bug/20190915/1804925.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有