Python多进程共享变量如何保证原子操作?

python多进程共享变量如何保证原子操作?

python多进程共享可操作变量, 如何保证原子操作?

需求分析

为了确保多进程共享可操作变量的原子操作,需要:

  • 维护一个共享变量:使用多处理模块中的manager对象可以创建共享变量。
  • 实现原子操作:使用锁机制来保证共享变量的修改在任意时刻仅由一个进程执行。

问题场景

在本文给出的演示代码中,使用共享变量作为计数器,当多个进程同时读取和修改它时,会出现竞争条件,导致变量值不正确。

解决方案

解决此问题的关键是确保共享变量的修改操作是原子的。修改后的代码如下:

from concurrent.futures import ProcessPoolExecutor
import ctypes
from multiprocessing import Manager, Lock
import os

# 创建 Manager 和 Lock
manager = Manager()
m = manager.Value(ctypes.c_int, 0)
lock = manager.Lock()

def calc_number(x: int, y: int, _m, total_tasks: int, _lock):
    # 模拟耗时任务函数

    # 模拟耗时计算
    res = x ** y

    # 用锁来保证原子操作
    with _lock:
        _m.value += 1
        current_value = _m.value

    # 当总任务数量和_m.value相等的时候, 通知第三方任务全部做完了
    if current_value == total_tasks:
        print(True)

    print(f"m_value: {current_value}, p_id: {os.getpid()}, res: {res}")

def main():
    # 任务参数
    t1 = (100, 200, 300, 400, 500, 600, 700, 800)
    t2 = (80, 70, 60, 50, 40, 30, 20, 10)

    len_t = len(t1)

    # 多进程执行任务
    with ProcessPoolExecutor(max_workers=len_t) as executor:
        for x, y in zip(t1, t2):
            executor.submit(calc_number, x, y, m, len_t, lock)

if __name__ == "__main__":
    main()

说明

  • 使用manager创建共享变量m和锁lock。
  • calc_number函数中使用with锁来保证m.value的修改操作是原子的。即,每次只有一个进程可以访问m.value。
  • 这样就避免了多个进程同时读取和修改变量的问题,确保了原子操作。

以上就是Python多进程共享变量如何保证原子操作?的详细内容,更多请关注硕下网其它相关文章!