























这是一个创建于 4385 天前的主题,其中的信息可能已经有所发展或是发生改变。
我的作业是这样的:
spout收集日志->bolt汇总日志并每隔1秒钟插入数据库
每条日志都需要处理不能丢
kill task的时候spout的会先置为失效,这时候就没有消息推送到bolt中了。然后再停止掉
bolt中没有数据推送过来,所以就不会再触发process方法了
那么这1秒钟内数据将没法插入到数据库里了
storm里的cleanup方法貌似只能工作在本地模式下,那么我想要在分布式模式下kill作业的时候做下cleanup的处理该如何做呢?
1 codingpp 2014 年 6 月 12 日v2ex的大神们有用storm的吗 |
2 halfelf 2014 年 6 月 12 日写好spout,ack失败时将日志扔回去。 |
3 codingpp 2014 年 6 月 12 日@halfelf |
4 halfelf 2014 年 6 月 13 日明白了,在prepared bolt里做缓存了。写个hook,覆盖BaseTaskHook的cleanup方法 |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。