swoole-jobs 基于 swoole 的 job 调度组件

程序名称:swoole-jobs

授权协议: MIT

操作系统: Linux

开发语言: PHP

swoole-jobs 介绍


swoole-jobs

  • 基于swoole类似gearman的分布式任务处理系统

  • 高性能/动态多woker进程消费队列,加速后端耗时服

  • 无需像gearman一个worker配置一条crontab,swoole-jobs负责管理所有worker状态

  • 独立的swoole http api 入队列,api不依赖php-fpm

1. 说明

  • web中较慢的逻辑,比如统计/email/短信/图片处理等;

  • 支持redis/rabbitmq/zeromq等任何一种做队列消息存储;

  • 比yii/laravel等框架自带队列更稳定更快[消费进程可动态变化]

  • 自带yii2/phalcon/yaf/ThinkPHP5集成示例,其他框架可参考src/Action代码,

  • yii2完整示例

  • ThinkPHP5完整示例

2. 架构图

架构图

进程模型

3. 特性

  • 基于swoole的job调度组件;类似gearman的分布式任务处理系统;

  • redis/rabbitmq/zeromq等任何一种做队列消息存储(目前只实现redis/rabbitmq);

  • 利用swoole的process实现多进程管理,进程个数可配置,worker进程退出后会自动拉起;

  • 子进程循环次数可配置,防止业务代码内存泄漏;默认stop命令会等待子进程平滑退出;

  • 支持topic特性,不同的job绑定不同的topic;

  • 每个topic启动对应数量的子进程,杜绝不同topic之间相互影响;

  • 根据队列积压情况,子进程动态启动进程数,最大子进程个数可配置;

  • 支持composer,可以跟任意框架集成;

  • 日志文件自动切割,默认最大100M,最多5个日志文件,防止日志刷满磁盘;

  • 出现积压情况,支持钉钉机器人等消息提醒;

4. 安装

git clone https://github.com/kcloze/swoole-jobs.git
cd swoole-jobs




composer install
  • git clone https://github.com/kcloze/swoole-jobs.git

  • cd swoole-jobs and composer install

  • 根据根目录Dockerfile构建镜像

  • docker build -t swoole-jobs .

  • docker run -it -v ~/data/code/php:/data swoole-jobs /bin/bash

  • 进入容器之后,进入项目目录:

    • php ./bin/swoole-jobs.php start

5. 运行

5.1 示范

1.修改配置config.php

2.启动服务
php ./bin/swoole-jobs.php start >> log/system.log 2>&1

3.往队列推送任务
php ./tests/testJobsSerialzie.php

4.启动api服务
php ./bin/swoole-jobs.php http start

5.停止api服务
php ./bin/swoole-jobs.php http stop

5.2 启动参数说明

NAME
      - manage swoole-jobs

SYNOPSIS
      -php ./bin/swoole-jobs.php app [options]
        -Manage swoole-jobs daemons.

WORKFLOWS

      -help [command]
        -Show this help, or workflow help for command.

      -restart
        -Stop, then start swoole-jobs master and workers.

      -start
        -Start swoole-jobs master and workers.

      -stop
        -Wait all running workers smooth exit, please check swoole-jobs status for a while.

      -exit
        -Kill all running workers and master PIDs.

      -http start 
        -Start swoole http server for apis.

      -http stop
        -Stop swoole http server for api.

5.3 API parameter description

ParamsTypeDemo
jobDatajson{topic:MyJob,jobClass:\Kcloze\Jobs\Jobs\MyJob,jobMethod:test2,jobParams:[kcloze,1532857253,oop],jobExtras:[],serializeFunc:php}

6. 服务管理

线上启动和关闭服务,有两种方式:

* * * * * /usr/local/bin/php /***/swoole-jobs.php start >> /***/log/system.log 2>&1

更多systemd介绍

1. 根据自己项目路径,修改 docs/systemd/swoole-jobs.service
2. sudo cp -f systemd/swoole-jobs.service /etc/systemd/system/
3. sudo systemctl --system daemon-reload
4. 服务管理
#启动服务
sudo systemctl start swoole-jobs.service
#reload服务
sudo systemctl reload swoole-jobs.service
#关闭服务
sudo systemctl stop swoole-jobs.service

7.系统截图

实例图

status

8. change log

9. 注意事项

  • 如果嵌入自己的框架,可参考src/Action代码,继承抽象类Kcloze\Jobs\Action\BaseAction

  • 各种框架服务启动会稍有不同,具体参考:example/bin项目的代码

  • swoole 4 以上版本需要设置php.ini,关闭协程

10. 压测

  • 瓶颈: redis/rabbitmq队列存储本身和job执行速度

11. 感谢

12. 联系

qq群:141059677

13. 捐赠

  • 如果这个项目真的帮助到你,麻烦点击右上角给个star

swoole-jobs 官网

https://github.com/kcloze/swoole-jobs

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


MuPlayer 是一款跨平台、轻量级的音频播放解决方案,是百度@音乐前端团队开发维护的浏览端音频播放内核,它基于HTML5
OS FLV 是一个 开源和可嵌入网页的flv播放器。 这个播放器拥有大量的选项可以通过嵌入代码进行设置.
DewPlayer音乐播放器,样式很简单,而且很实用.播放器可以根据自己的喜好改变颜色,也算比较个性化吧.但唯一的不足就是只支持MP3格式的音乐。
JW FLV MEDIA PLAYER是一个开源的在网页上使用的Flash视频、音频以及图片播放器,支持 Sliverlight
Speakker 是一个基于 Web 浏览器的音乐播放器,只提供很多高级播放功能包括播放列表管理和分享。
Player Framework 是一个开源的支持 HTML5 的视频播放器框架,同时也支持 Silverlight 和 Windows Phone
Sewise Player是一款专业的免费网页视频、流播放器,它功能强大,体积小,跨平台,使用方便简洁、随心所欲:
SoundManager 2 利用 HTML5 和 Flash 技术提供了稳定和阔平台的音乐播放功能,只有 10K 的 JS 包。
xPlayer v1.0 特性: 文件大小 9.78kb; 可以自定义皮肤; 3.支持 http 和 rtmp 视频; 4.音量调节,全屏播放,拖拽播放;
XPlayer 豆瓣音乐播放器 特点: 1.自动侦测Douban网页的歌曲 2.Douban网页关闭,歌曲能够继续播放
歌词 插件 最新更新,扩展性能稍微有点提升了, 不多说了,更多敬请查看首页http://luochunzong.sinaapp.com/?p=84
ABPlayerHTML5是一个在HTML5下的弹幕播放器(同步显示视频于评论)实现。类似功能的播放器可以参考基于Flash的MukioPlayer和PADPlayer。
AudioPlayer.js 是一个 jQuery 的插件,实现了 HTML5 的音乐播放器,无需任何图片,实现了响应式布局,支持触摸操作。
替换中国大陆主流视频网站的 Flash 播放器为 HTML5 播放器 使用 Mac 的同学都可能碰到过在线看视频引起机子风扇狂转、机身发烫等情况,这是因为 Flash 占用了过多系统资源的缘故。
AetherPlayer 是一个类CD的轻量HTML5播放器,特别适合博客及个人站点使用。它漂亮得不像……咳,这边吹牛的话就不说了。
专注、极致、智慧,国内外为数不多不依赖开源框架、跨平台(windows/android/iOS)、公网推送(支持rtmp)-播放(支持rtmp/rtsp)业界真正靠谱 的超低延迟。
node-kugou-client 是 Node.js 酷狗客户端。 安装 npm install node-kugou-client 使用 var kugou = require(\"node-kugou-client\");
Youku HTML5 播放器扩展 —— 告别 flash 和广告 关于官方内测 html5 播放器 Firefox ( xpi 直接安装) ( firefox 50.0+)
Chimee 由奇舞团研制的 h5 播放器,它支持 mp4、m3u8、flv 等多种格式。通过插件式开发,能满足业务方快速迭代、灰度发布等要求。让开发者能够轻松快捷地完成视频场景的开发。
OneVideo是一款基于OneBase+UniApp开发的小视频播放移动应用。