数据之路_代立冬_CSDN博客-● Hadoop,●数据仓库,●架构设计领域博主

原创 Apache DolphinScheduler(海豚调度) - 1.3 系列核心表结构剖析

Apache DolphinScheduler 是一个分布式去中心化，易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。近日，伯毅同学给社区贡献了工作流核心表结构的剖析文章，非常细致，喜欢的伙伴请转走 1. 工作流总体存储...

2020-07-03 17:10:30 154 0

原创直播回放：DolphinScheduler 1.3.0新特性与Roadmap路线，700多人在线

Apache DolphinScheduler社区于2020-05-26 19:30进行了社区情况介绍和新特性及Roadmap路线分享，本次线上直播有700多人在线，没来得及观看的伙伴请收看回放呐具体内容请参见回放地址：【Apache DolphinScheduler新特性及Roadmap】 ...

2020-05-28 11:38:49 441 0

原创大数据工作流任务调度--有向无环图(DAG)之拓扑排序

拓扑排序(Topological Sorting) 维基百科上拓扑排序的定义为: 对于任何有向无环图(DAG)而言，其拓扑排序为其所有结点的一个线性排序(同一个有向图可能存在多个这样的结点排序)。该排序满足这样的条件——对于图中的任意两个结点U和V，若存在一条有向边从U指向V，则在拓扑排序中U一定...

2019-01-20 22:47:02 3304 2

原创大数据分析的下一代架构--IOTA架构设计实践[下]

IOTA架构提出背景大数据3.0时代以前，Lambda数据架构成为大数据公司必备的架构，它解决了大数据离线处理和实时数据处理的需求。典型的Lambda架构如下： Lambda架构的核心思想是：数据从底层的数据源开始，经过各样的格式进入大数据平台，然后分成两条线进行计算。一条线是进入流式计算平...

2018-12-31 20:59:53 3155 0

原创承载每天10万级任务的数据调度系统的架构是如何设计的

EasyScheduler大数据调度系统架构分享导语 EasyScheduler是易观平台自主研发的大数据分布式调度系统。主要解决数据研发ETL 错综复杂的依赖关系，而不能直观监控任务健康状态等问题。EasyScheduler以DAG流式的方式将Task组装起来，可实时监控任务的运行状态，同时支...

2018-12-13 20:01:57 32113 16

原创金灿灿的季节 - Apache DolphinScheduler收获5位新Committer
原力计划

在这个金灿灿的收获季节，经过ApacheDolphinSchedulerPPMC们的推荐和投票，ApacheDolphinScheduler收获了5位新Committer。他们是：nauu(朱凯)、Rubik-W(温合民)、gabrywu、liwenhe1993、clay4444。对于成为Comm...

2020-05-28 19:07:52 307 0

转载弄明白CMS和G1，就靠这一篇了

在开始介绍CMS和G1前，我们可以剧透几点：根据不同分代的特点，收集器可能不同。有些收集器可以同时用于新生代和老年代，而有些时候，则需要分别为新生代或老年代选用合适的收集器。一般来说，新生代收集器的收集频率较高，应选用性能高效的收集器；而老年代收集器收集次数相对较少，对空间较为敏感，应当避免选...

2020-04-14 13:38:15 505 0

转载使用 DolphinScheduler 调度 Kylin 构建

原创史少锋@Kyligence apachekylin 前天 01 背景 Apache Kylin 是一个支持海量大数据的在线分析引擎，需要离线或流式地从Apache Hive, Apache Kafka加载数据。通常当上游数据准备好以后，用户需要使用Kylin的Web界面或API触发以生成数据...

2020-02-29 23:09:19 1330 0

原创 Apache DolphinScheduler集群部署方案

集群部署(Cluster) DolphinScheduler集群部署分为后端部署和前端部署两部分： 1、后端部署 1.1 : 基础软件安装(必装项请自行安装) PostgreSQL (8.2.15+) or Mysql (5.6或者5.7系列) : 两者任选其一即可 JDK (1.8+) :...

2020-02-25 12:35:52 982 0

原创 Apache DolphinScheduler 单机部署方案

单机部署(Standalone) DolphinScheduler单机部署分为后端部署和前端部署两部分： 1、后端部署 1.1 : 基础软件安装(必装项请自行安装) PostgreSQL (8.2.15+) or Mysql (5.6或者5.7系列) : 两者任选其一即可 JDK (1.8+...

2020-02-25 12:32:21 1711 2

原创 Apache DolphinScheduler 1.2.1发布，可视化工作流任务调度系统

Apache DolphinScheduler 1.2.1发布，可视化工作流任务调度系统 Apache DolphinScheduler 于2020年2月24日正式发布 1.2.1 版，发布内容如下：新特性： [#1497] 通过 API 创建的工作流在前端展示时自动调整布局。 [#7...

2020-02-25 12:21:43 2410 2

转载 logback日志配置说明

常用配置说明1： <?xml version="1.0" encoding="UTF-8"?> <!-- scan：当此属性设置为true时，配置文件如果发生改变，将会被重新加载，默认值为true。 scanPeriod：设置监测配置文...

2020-02-01 19:33:20 244 0

翻译 Code Review应该关注哪些点？

Code Review应该关注什么？注意:当我们考虑以下点时，应当始终遵循Code Review标准。设计 Code Review中最重要的一个点就是把握住变更中的整体设计。变更中各个部分的代码交互是否正常？整个改动是否属于你负责的代码库？是否和你系统中其他部分交互正常？现在是否是添加整个功能...

2019-12-31 20:48:24 290 0

原创 Error:java: javacTask: source release 8 requires target release 1.8异常处理

Error:java: javacTask: source release 8 requires target release 1.8 编译无问题，运行时报错: 环境： JDK Version: 1.8.0_171 IDE: IntelliJ Idea 2018 IntelliJ SDK Sett...

2019-12-24 16:16:32 242 0

转载 10分钟，快速搞懂RFM用户分析模型

月月针对全量用户上线活动，运营、设计、产品、研发全情投入，好努力却无从追溯效果？预算有限、想策划高ROI方案？在寻求以上问题的解决办法中，RFM用户价值分层模型一定会上榜，因为它是常见的精细化运营方法论。 RFM客户价值模型是一种有着几十年发展和应用的业务分析模型。通过一个客户的近期购买行为...

2019-12-17 22:17:11 709 0

原创 Apache ShardingSphere & DolphinScheduler将举行联合meetup

您是否想加入Apache社区并成为某个项目的Committer或PPMC，拥有一个apache邮箱呢？你是否知道apache社区的Committer也可以是非代码贡献者？本联合meetup旨在让对开源有兴趣的伙伴们有机会加入到社区中来，成为一份子，让自己的青春热血留下永久痕迹，让自己的代码(或...

2019-11-24 22:44:22 259 0

转载从开源使用者到Apache PPMC之路

近日, 观远数据联合创始人&首席架构师吴宝琪, 作为Apache DolphinScheduler 的PPMC（项目管理委员会）成员参加了Apache DolphinScheduler 的首届用户大会, 并在大会上做了《从开源使用者到Apache PPMC之路》的分享。 Ap...

2019-11-24 19:54:22 436 0

原创 Apache DolphinScheduler的官网正式上线了

DolphinScheduler的官网正式上线了: https://dolphinscheduler.apache.org , 后续的文档都将直接维护在官网上哈！特此告知，欢迎关注！

2019-10-14 17:17:01 2014 0

原创全票通过！易观开源项目DolphinScheduler进入Apache孵化器

全票通过！易观开源项目DolphinScheduler进入Apache孵化器美国时间2019年8月29日，易观开源的分布式任务调度引擎DolphinScheduler（原EasyScheduler）正式通过顶级开源组织Apache基金会的投票决议，以全票通过的优秀表现正式成为Apache孵...

2019-09-17 07:26:30 3882 2

原创第三届易观算法大赛 -- OLAP Session分析(5万奖金)

OLAP Session分析赛题背景 Session，即会话，是指在指定的时间段内在您的网站/H5/小程序/APP上发生的一系列用户行为的集合。例如，一次会话可以包含多个页面浏览、交互事件等。Session 是具备时间属...

2019-09-11 19:35:47 223 0

原创数据增长之线索培育升级

B2B增长之线索培育升级数据驱动增长讲的大部分都是如何通过渠道质量优化与转化率优化最大能力去挖掘商机，然而增长不仅有拉新，因为增长负责人要关注的是整体业务增长，比如销售漏斗与客户数，资金流和团队效能等，就数字营销领域来说，增长除了拉新之外，还有很重要的一个指标就是促活，当有一定数量的用户的时候，...

2019-09-04 14:04:32 209 0

原创 Easy Scheduler 1.1.0 Release发布，分布式工作流任务调度系统

Easy Scheduler Release 1.1.0 Easy Scheduler 1.1.0是1.1.x系列中的第一个版本。新特性： [EasyScheduler-391] run a process under a specified tenement user [EasySchedu...

2019-08-08 08:06:15 639 0

原创现在Easy Scheduler想贡献给Apache基金会，我们做了一份问卷看下大家的想法，也请大家积极参与，谢谢！

感谢各位伙伴们长期以来的持续关注和贡献，现在Easy Scheduler想贡献给Apache基金会，我们做了一份问卷看下大家的想法，也请大家积极参与，谢谢！ https://wj.qq.com/s2/4190958/5588/ 也欢迎大家直接去https://github.com/analysys...

2019-08-02 17:41:16 446 0

原创分布式工作流任务调度系统 Easy Scheduler 1.1.0 预览版发布

Easy Scheduler Release 1.1.0-Preview Easy Scheduler 1.1.0-Preview是1.x系列中的第六个版本。新特性： [EasyScheduler-391] run a process under a specified tenement us...

2019-07-16 17:35:44 436 0

原创分布式任务调度EasyScheduler贡献代码流程

首先从远端仓库https://github.com/analysys/EasyScheduler.git fork一份代码到自己的仓库中远端仓库中目前有三个分支： master 正常交付分支发布稳定版本以后，将稳定版本分支的代码合并到master上。 dev 日常开发分支日...

2019-07-05 11:20:26 716 0

原创开源分布式工作流任务调度系统EasyScheduler自定义任务插件开发

任务插件开发提醒:目前任务插件开发暂不支持热部署基于SHELL的任务基于YARN的计算（参见MapReduceTask）需要在 cn.escheduler.server.worker.task 下的 TaskManager 类中创建自定义任务(也需在TaskType注册对应的任务类型) ...

2019-06-13 17:43:05 688 0

转载数据分析方法论之常用分析思路

对于一款App来讲，市场渠道人员比较关注渠道的获客质量，经常会用到渠道分析；运营人员比较关注用户在产品内的行为信息，通常会用到用户分群，进行针对性运营；产品人员则关注产品功能的使用情况以及核心流程的转化情况。那么如何实现所有业务人员的数据需求。我们以有帐号体系产品的注册为核心流程为例，一般产品的...

2019-06-01 23:03:44 749 1

原创 Easy Scheduler 1.0.3 发布，分布式工作流任务调度系统

Easy Scheduler Release 1.0.3 Easy Scheduler 1.0.3是1.x系列中的第四个版本。新特性： [EasyScheduler-254] 流程定义删除和批量删除 [EasyScheduler-347] 任务依赖增加“今日” [EasyScheduler-2...

2019-05-28 08:26:44 766 1

转载大数据分析常用去重算法分析『HyperLogLog 篇』

大数据分析常用去重算法分析『HyperLogLog 篇』在上篇推送中，Kyligence 大数据工程师陶加涛为大家介绍了利用 Roaring Bitmap 来进行精确去重。虽然这种算法能大大地减少存储开销，但是随着数据量的增大，它依然面临着存储上的压力。在本篇推送中将要介绍的 HyperLogL...

2019-05-09 11:35:44 877 0

原创开源分布式工作流任务调度系统Easy Scheduler Release 1.0.2发布

Easy Scheduler Release 1.0.2 Easy Scheduler 1.0.2是1.x系列中的第三个版本。此版本增加了调度开放接口、worker分组(指定任务运行的机器组)、任务流程及服务监控以及对oracle、clickhouse等支持，具体如下：新特性： [EasySc...

2019-04-26 20:08:20 665 0

原创持续改进中——Easy Scheduler 1.0.1版本来了

持续改进中——Easy Scheduler 1.0.1版本来了背景在多位技术小伙伴的努力下，经过近2年的研发迭代、内部业务剥离及重构，也经历一批种子用户试用一段时间后，EasyScheduler终于迎来了第一个正式开源迭代发布版本 – 1.0.1，免编译版本下载地址 – 1.0.1 相信做过...

2019-04-17 10:54:37 1345 1

原创分布式工作流任务调度系统Easy Scheduler正式开源

Easy Scheduler 大数据工作流调度系统已经开源，欢迎下载交流 https://github.com/analysys/EasyScheduler Easy Scheduler for Big Data 设计特点：一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据...

2019-03-29 23:56:37 2665 1

原创 git使用.gitignore忽略提交文件并没有生效问题解决

idea集成git过滤一些不必要提交到git上的文件以及文件夹的时候发现使用.ignore插件创建.gitignore来忽略提交文件并没有生效，每次commit还是带了一堆不必提交的文件，最后找到了处理办法： .gitignore只能忽略那些原来没有被track的文件，如果某些文件已经被纳入了版...

2019-03-28 18:02:06 1675 0

原创 Excel表格转换为MarkDown表格工具

功能十分强大：https://tableconvert.com/ 还可以下载下来，真是很棒！

2019-03-18 22:49:49 1417 2

原创留存分析为何要做, 如何做

导读留存，是指用户在 App、网站等应用上使用过，并一段时间后仍有使用。留存分析模型是一种衡量用户健康度/参与度的方法，超越下载量、DAU 等这样的虚荣指标，深入了解用户的留存和流失状况，发现影响产品可持续增长的关键因素，指导市场决策、产品改进、提升用户价值等等。 ▌留存分析能解决哪些问...

2019-03-16 20:51:53 1302 0

原创易观推出免费版本方舟Argo，同时开源SDK及调度

易观推出了免费版本方舟Argo，Argo是国内唯一的一款免费的可以私有化部署的用户行为分析平台，可以私有化对接自己的各种内部系统，它的商业版本已经在招商银行、当当、首汽等客户大面积使用了。别人都是免费版到商业版，我们是先做商业版在做靠谱的免费版，初心真的是想把数据能力平民化，同时配合数据采集SD...

2019-03-01 23:02:37 1981 0

原创 Apache Curator中的Connection Guarantees(连接保证)

Curator不断监控与ZooKeeper集合的连接。此外，每个操作都包含有重试机制。因此，可以做出以下保证：每个Curator操作都会好好的等待，直到与ZooKeeper建立连接每个Curator操作（create，getData等）都保证按照当前设置的重试策略管理连接丢失和会话过期 ...

2019-02-24 23:24:02 1031 0

原创我关注的一些技术微信公众号

AI前线微信号: ai-front InfoQ 微信号: infoqchina CSDN 微信号: CSDNnews 开源中国微信号：oschina2013 AI科技大本营微信号: rgznai100 美团技术团队（ID：meituantech） Dat...

2019-02-21 15:46:19 555 0

转载在公有云实现分布式系统上千节点功能测试？Alluxio团队基于Docker的模拟方案和经验总结

01 摘要对分布式系统进行大规模测试通常是一个昂贵但又必要的流程。由于世界上很多公司和机构都依赖Alluxio技术，我们非常重视Alluxio的测试。因此，我们需要解决的一个问题是如何在不耗尽资源的情况下进行大规模测试。在本博客中，我们将展示Alluxio开源项目的开发维护者如何利用公有云基础设...

2019-02-14 14:13:04 1047 0

原创 Mac使用vnc远程登录ubuntu16.04桌面

mac使用vnc远程登录ubuntu16.04桌面 1.安装在Ubuntu上安装x11vnc，如下： sudo apt-get install x11vnc 2.配置vnc密码 x11vnc -storepasswd 3.启动vnc服务 x11vnc -forever -shared -rfba...

2019-01-23 15:22:00 10058 2