2014-06-06 58 views
4

我遇到了一个问题,我将任务放入队列中,并且正在多次运行。 从芹菜日志,我可以看到,同样的工人正在运行的任务...芹菜/ Django单个任务正在多次运行

[2014-06-06 15:12:20,731: INFO/MainProcess] Received task: input.tasks.add_queue 
[2014-06-06 15:12:20,750: INFO/Worker-2] starting runner.. 
[2014-06-06 15:12:20,759: INFO/Worker-2] collection started 
[2014-06-06 15:13:32,828: INFO/Worker-2] collection complete 
[2014-06-06 15:13:32,836: INFO/Worker-2] generation of steps complete 
[2014-06-06 15:13:32,836: INFO/Worker-2] update created 
[2014-06-06 15:13:33,655: INFO/Worker-2] email sent 
[2014-06-06 15:13:33,656: INFO/Worker-2] update created 
[2014-06-06 15:13:34,420: INFO/Worker-2] email sent 
[2014-06-06 15:13:34,421: INFO/Worker-2] FINISH - Success 

然而,当我认为它是显示每个步骤(5-6日志行的应用程序的实际日志? )。

我使用Django 1.6与RabbitMQ。放入队列的方法是通过在函数上放置一个延迟。

此函数(任务装饰中加入(然后调用其上运行的一类

有没有人在解决它的最好方法任何想法

编辑:?作为继承人的要求代码,

views.py

我认为即时发送我的资料至t他通过排队...

from input.tasks import add_queue_project 

add_queue_project.delay(data) 

tasks.py

from celery.decorators import task 

@task() 
def add_queue_project(data): 
    """ run project """ 
    logger = logging_setup(app="project") 

    logger.info("starting project runner..") 
    f = project_runner(data) 
    f.main() 

class project_runner(): 
    """ main project runner """ 

    def __init__(self,data): 
     self.data = data 
     self.logger = logging_setup(app="project") 

    def self.main(self): 
     .... Code 

settings.py

THIRD_PARTY_APPS = (
    'south', # Database migration helpers: 
    'crispy_forms', # Form layouts 
    'rest_framework', 
    'djcelery', 
) 

import djcelery 
djcelery.setup_loader() 

BROKER_HOST = "127.0.0.1" 
BROKER_PORT = 5672 # default RabbitMQ listening port 
BROKER_USER = "test" 
BROKER_PASSWORD = "test" 
BROKER_VHOST = "test" 
CELERY_BACKEND = "amqp" # telling Celery to report the results back to RabbitMQ 
CELERY_RESULT_DBURI = "" 

CELERY_IMPORTS = ("input.tasks",) 

celeryd

将L INE进出口运行是开始芹菜,

python2.7 manage.py celeryd -l info 

感谢,

+0

这些不是由celerybeat创建的工作,对不对? – JeffS

+0

你是否在某些django信号处理程序中创建任务?如果是,那么确保该信号不被多次调用。 –

+0

请发布您的代码 – dm03514

回答

1

我没有一个确切的答案,但有你应该考虑几件事情:

  • djcelery已弃用,因此如果您使用新版本的celery,则可能存在某种冲突。

  • 如果您input应用在INSTALLED_APPS芹菜上市会发现它,所以你不需要它这可能引起问题的原因,因为任务可以被加载多次

  • 添加到CELERY_IMPORTS = ("input.tasks",),尝试给你的任务一个名字@task(name='input.tasks.add'),它会知道它是一样的任务,不管你如何导入它。

看着你的设置,它看起来像你使用的是旧版本的芹菜,或者你正在使用旧配置的新版本的芹菜。在任何情况下,请确保您有最新版本,并尝试,而不是你有什么这个配置:

BROKER_URL = 'amqp://<user>:<password>@localhost:5672/<vhost>' 
CELERY_RESULT_BACKEND = 'amqp' 
CELERY_ACCEPT_CONTENT = ['json'] 
CELERY_TASK_SERIALIZER = 'json' 
CELERY_RESULT_SERIALIZER = 'json' 

现在,你还必须以不同的方式配置芹菜:

完全摆脱的东西djcelery

Django项目中创建proj/celery.py

​​

在你proj/__init__.py

from __future__ import absolute_import 

from proj.celery import app as celery_app 

那么如果你input应用程序是一个可重复使用的应用程序,是不是你的项目中使用@shared_task的一部分,而不是@task装饰。

然后运行芹菜:

celery -A proj worker -l info 

希望它能帮助。