如何使用Hive中自定义UDAF函数实现统计区域产品用户访问排名-成都创新互联网站建设

关于创新互联

多方位宣传企业产品与服务 突出企业形象

公司简介 公司的服务 荣誉资质 新闻动态 联系我们

如何使用Hive中自定义UDAF函数实现统计区域产品用户访问排名

这篇文章主要介绍如何使用Hive中自定义UDAF函数实现统计区域产品用户访问排名,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

创新互联专业为企业提供京口网站建设、京口做网站、京口网站设计、京口网站制作等企业网站建设、网页设计与制作、京口企业网站模板建站服务,十载京口做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。

UDAF实现方法: 
1,用户的UDAF必须继承了org.apache.hadoop.hive.ql.exec.UDAF;
2,用户的UDAF必须包含至少一个实现了org.apache.hadoop.hive.ql.exec的静态类,诸如实现了 UDAFEvaluator 
3,一个计算函数必须实现的5个方法的具体含义如下:
init():主要是负责初始化计算函数并且重设其内部状态,一般就是重设其内部字段。一般在静态类中定义一个内部字段来存放最终的结果。
iterate():每一次对一个新值进行聚集计算时候都会调用该方法,计算函数会根据聚集计算结果更新内部状态。当输 入值合法或者正确计算了,则       就返回true。
terminatePartial():Hive需要部分聚集结果的时候会调用该方法,必须要返回一个封装了聚集计算当前状态的对象。
merge():Hive进行合并一个部分聚集和另一个部分聚集的时候会调用该方法。
terminate():Hive最终聚集结果的时候就会调用该方法。计算函数需要把状态作为一个值返回给用户。

mapreduce阶段调用函数 
MAP

init() 
iterate() 
terminatePartial()

Combiner

merge() 
terminatePartial()

REDUCE

init() 
merge() 
terminate()

一、自定义UDAF函数

点击(此处)折叠或打开

此处)折叠或打开

  1. DROP TEMPORARY FUNCTION user_click;

  2. add jar /data/hive_udf-1.0.jar;

  3. CREATE TEMPORARY FUNCTION user_click AS 'hive.org.ruozedata.UserClickUDAF';

三、调用自定义UDAF函数处理数据

点击(此处)折叠或打开

  1. insert overwrite directory '/works/tmp1' ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'

  2. select regexp_replace(substring(rs, instr(rs, '=')+1), '}', '') from (

  3.   select explode(split(user_click(pcid, pcname, type),',')) as rs from (

  4.     select * from (

  5.       select '-2' as type, product_id as pcid, product_name as pcname from product_info

  6.       union all

  7.       select '-1' as type, city_id as pcid,area as pcname from city_info

  8.       union all

  9.       select count(1) as type,

  10.              product_id as pcid,

  11.              city_id as pcname

  12.         from user_click

  13.        where action_time='2016-05-05'

  14.       group by product_id,city_id

  15.     ) a

  16.   order by type) b

  17. ) c

四、创建Hive临时外部表

点击(此处)折叠或打开

  1. create external table tmp1(

  2. city_name string,

  3. product_name string,

  4. rn string

  5. )

  6. ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'

  7. location '/works/tmp1';

五、-统计最终区域前3产品排名

点击(此处)折叠或打开

  1. select * from (

  2. select city_name,

  3.        product_name,

  4.        floor(sum(rn)) visit_num,

  5.        row_number()over(partition by city_name order by sum(rn) desc) rn,

  6.        '2016-05-05' action_time

  7.   from tmp1

  8.  group by city_name,product_name

  9. ) a where rn <=3

六、统计结果
如何使用Hive中自定义UDAF函数实现统计区域产品用户访问排名

以上是“如何使用Hive中自定义UDAF函数实现统计区域产品用户访问排名”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!


文章标题:如何使用Hive中自定义UDAF函数实现统计区域产品用户访问排名
转载来于:http://kswsj.cn/article/pehidc.html

其他资讯