电子商务
·客户分析
·购买建议
·根据社交媒体情绪分析控制事故或进行修正
运输行业
·通过GPS实现实时追踪
·智能化交管方案以降低高峰时段的路线拥堵情况
·即时与自动远程信息处理,实现车辆联网
投机市场
·情绪分析
·动量计算
·天气对股市及股票价格的影响
·极低延迟实现市场数据分析
执法领域
·智能警务(传感器、闭路电视安装并接入中央云数据库、车牌识别、语音识别、犯罪嫌疑人及罪犯GPS追踪等)
·监控并识别异常活动、行为或事故,旨在加快决策制定速度并防止及减少犯罪事件
·刑事调查
·监控各执法机构及公众间交互
技术领域
·网站流量分析与参与(最常浏览页面、浏览时长最高页面、访客行为及用户导航模式等)
·移动应用——下载、会话、偏好、交易、使用模式等,有效分析客户行为并设计服务以提升使用感受
实时数据处理的挑战所在
实时事件/交易/交互数量每秒以百万计,由此产生的数据自然会给数据流处理系统造成巨大的压力。即使数据已经收集完成,系统仍然需要具备强大的能力以并行处理这些数据。之后是进行事件关联,旨在帮助我们从数据中提取有价值信息。除此之外,整套系统还需要具备容错性与分布式设计——这意味着系统需要拥有低延迟水平以及速度更快的计算机制以完成实时响应任务。
如何实现
为了满足以上各项苛刻条件,我们需要将大量工具加以结合。其中ApacheKafka负责收集数据流,并通过Apache Storm或者Apache Spark(基于具体系统需求)将其路由至HIVE/HDFS,接下来由分析引擎提取结论并将其发送至仪表板。
如何简化实现流程
来自任何来源的数据都会由Kafka集群负责收集与暂时存储,而Zookeeper——>中继——>主题分类机制则随即跟上。而后其会通过Storm或者Spark被发送至HIVE/HDFS,并由后者再传递至分析引擎(例如SASVA)——这一切都以实时方式完成,结论则被推送至仪表板供用户理解及据此行动。
最后,为了充分发挥实时数据分析的潜能,企业之间还需要通力协作。大数据领域的经验证明,合作伙伴之间的配合是实现分析的前提条件。最后,各合作伙伴还需要广泛接触各垂直行业,从而理解其中的具体业务及错综复杂的相关要素。
因此,选择理想的合作伙伴亦左右着实时分析项目的最终命运。
总结
多数企业都拥有大量最终用户接触点,而当下对此类组织以及政府机构而言可谓决定性时刻。通过即时了解当前状况,各组织机构将能够让自己的工作更加富有成效——而实时数据分析方案则给了它们一个将理想转化为现实的选项。