celery怎么为不同异步任务分配不同worker

今天小编给大家分享一下celery怎么为不同异步任务分配不同worker的相关知识点，内容详细，逻辑清晰，相信大部分人都还太了解这方面的知识，所以分享这篇文章给大家参考一下，希望大家阅读完这篇文章后有所收获，下面我们一起来了解一下吧。

创新互联于2013年成立，先为裕安等服务建站，裕安等地企业，进行企业商务咨询服务。为裕安企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

背景：

之前所有的异步任务都由统一的一个worker来消费，这样有个问题，每次更新某个异步任务代码后，需要重启worker，如果有在运行的异步任务，那面重启后就暂停了，影响业务。

所以想到把不通的任务分配到不通的worker，如果更新某个任务代码，重启对应worker即可，不会影响其他业务。

开搞

1、配置celery，按正则匹配异步任务名，分配到指定消费队列

这里创建4个消费队列，release，job，sync，celery（默认）

匹配到sync_release的任务，会调度到release队列消费，以此类推，支持正则匹配

import re
# specify worker queue
# https://docs.celeryq.dev/en/latest/userguide/routing.html
app.conf.task_routes = ([
    ('cmapp.tasks.sync_release', {'queue': 'release'}),
    (re.compile(r'.*(job*|Cdd*)'), {'queue': 'job'}),
    (re.compile(r'.*(delay*|owncloud*)'), {'queue': 'sync'}),
    (re.compile(r'.*(clean*|keycloak*)'), {'queue': 'celery'}),
],)

2、启动消费队列

-Q指定消费队列名称

--hostname配置worker名

--concurrency配置最大并发

[program:q_release]
environment=ENV=production
directory=/opt/mmback
command=/opt/envs/env-mmweb/bin/celery -A mmback worker -l info --concurrency=20 -Q release --hostname=release@%%h
autorestart=true
autostart=true

supervisorctl update

可以看到已经有release任务在消费。

以上就是“celery怎么为不同异步任务分配不同worker”这篇文章的所有内容，感谢各位的阅读！相信大家阅读完这篇文章都有很大的收获，小编每天都会为大家更新不同的知识，如果还想学习更多的知识，请关注创新互联行业资讯频道。

新闻名称：celery怎么为不同异步任务分配不同worker
标题网址：https://www.cdcxhl.com/article38/jjejpp.html

成都网站建设公司_创新互联，为您提供服务器托管、网站设计、网站收录、网站导航、建站公司、品牌网站制作

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联