大数据时代,企业面临着数据爆炸式增长且多样性裂变的新常态,数据在企业和整个商业世界中发挥的作用和产生的能量都发生了质的变化。与此同时,互联网数据化运营中的用户行为路径分析与网站的海量Web日志分析成了大多数公司遇到的难题!本次经管之家旗下CDA数据分析研究院邀请到了李亮、辛立伟两位嘉宾就以上问题,以“大数据引领未来、让企业的数据价值最大化”为主题进行交流,诚邀广大大数据分析爱好者、企业从事大数据相关岗位的朋友、以及想要学习大数据的朋友们参与本次的交流分享与探讨。
2016.12.7(周三)晚19:30-21:30
主题:基于Spark机器学习用户行为大数据分析
2016.12.10(周六)晚19:30-21:30
主题:Hadoop进阶之网站海量日志KPI指标分析
主题1:基于Spark机器学习用户行为大数据分析——用户行为路径–技术&详解
在互联网数据化运营实践中,有一类数据分析应用是互联网行业所独有的,那就是用户行为路径分析的应用。路径分析是指:对用户的每一次网络行为进行精细跟踪和记录,及在此基础上通过分析、挖掘得到用户的详细网络行为路径特点。这种分析,可以让企业有的放矢地进行产品的优化升级,并针对典型场景的用户转化数据来进一步制定和实施有针对性的策略,以期提升转化效率。这次的分享,我将结合在诸葛IO的实际工作,分享这方面的实践经验。
• 程序员眼中的用户行为路径数据1. 用户行为路径算法2. 基于Spark的用户行为路径3. 用户行为路径产品化实践• 分析师眼中的用户行为路径数据1. 什么是用户行为路径2. 用户行为路径应用场景和商业价值3. 诸葛用户行为路径自动化报告实践:
主题2:Hadoop进阶之网站海量日志KPI指标分析
Web服务器产生的日志包含着网站最重要的信息,通过对日志进行分析可以了解网站的访问量、网页访问人数、以及哪个网页最有价值等信息。一般大型或超大型的网站,可能每小时就会产生10G的数据量。对于大规模的日志数据,结合Hadoop进行日志分析,是最适合不过的了。本次分享将着重分析pv、独立ip数和跳出率等指标,从数据收集、MapReduce的清洗与转换、利用Hive进行统计分析,使用sqoop将hive统计结果导入到关系型数据库中最后以可视化效果展现,全方位为大家阐述如何用进行海量Web日志分析提取KPI数据。
内容提纲
• 分析Web服务器产生的日志,分析pv、独立ip数和跳出率等指标。
1. 使用flume这个分布式日志收集系统收集web服务器产生的日志,并上传到HDFS
2. 使用MapReduce大数据运算框架进行数据清洗和转换
3. 使用Hive对清洗后的数据进行统计分析
4. 使用sqoop将hive统计结果导入到关系型数据库中5. 使用数据可视化技术展现分析结果
辛立伟,Java高级软件工程师&CDA大数据工程师Java高级软件工程师、Java高级培训讲师、认证高级讲师、系统架构师、SUN中国社区会员、JAVA技术专家。精通JAVA、JAVA EE6体系结构;精 通Java企业级中间件技术设计、构建以及应用部署。
丨报名通道
http://aihome2016.mikecrm.com/hXPxUJ