Pig Cogroup操作符


协同组 操作符的工作或多或少以同样的方式为group运算。两个操作符之间的唯一区别是, 操作符通常与一个关系一起使用,而 cogroup 操作符用于涉及两个或更多个关系的语句中。

使用Cogroup分组两个关系

假设我们在HDFS目录 / pig_data / 中有两个文件,即 student_details.txtemployee_details.txt ,如下所示。

student_details.txt

001,Rajiv,Reddy,21,9848022337,Hyderabad
002,siddarth,Battacharya,22,9848022338,Kolkata
003,Rajesh,Khanna,22,9848022339,Delhi
004,Preethi,Agarwal,21,9848022330,Pune
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
006,Archana,Mishra,23,9848022335,Chennai
007,Komal,Nayak,24,9848022334,trivendram
008,Bharathi,Nambiayar,24,9848022333,Chennai

employee_details.txt

001,Robin,22,newyork
002,BOB,23,Kolkata
003,Maya,23,Tokyo
004,Sara,25,London
005,David,23,Bhuwaneshwar
006,Maggy,22,Chennai

我们已经将这些文件加载​​到Pig中,关系名分别为 student_detailsemployee_details ,如下所示。

grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
   as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);

grunt> employee_details = LOAD 'hdfs://localhost:9000/pig_data/employee_details.txt' USING PigStorage(',')
   as (id:int, name:chararray, age:int, city:chararray);

现在,让我们将关系 student_detailsemployee_details 的记录/元组与关键年龄进行分组,如下所示。

grunt> cogroup_data = COGROUP student_details by age, employee_details by age;

验证

使用 DUMP 运算符验证关系 cogroup_data ,如下所示。

grunt > Dump cogroup_data;

输出

它将生成以下输出,显示名为 cogroup_data 的关系的内容,如下所示。

(21,{(4,Preethi,Agarwal,21,9848022330,Pune), (1,Rajiv,Reddy,21,9848022337,Hyderabad)},
   {    })  
(22,{ (3,Rajesh,Khanna,22,9848022339,Delhi), (2,siddarth,Battacharya,22,9848022338,Kolkata) },  
   { (6,Maggy,22,Chennai),(1,Robin,22,newyork) })  
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)},
   {(5,David,23,Bhuwaneshwar),(3,Maya,23,Tokyo),(2,BOB,23,Kolkata)})
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)},
   { })  
(25,{   },
   {(4,Sara,25,London)})

协同组 根据年龄,其中每个组示出了特定的年龄值从每个关系操作员组的元组。

例如,如果我们考虑结果的第一个元组,则它按21岁分组。它包含两个包 -

  • 第一个包包含21岁的第一个关系(本例中的 student_details )的所有元组,以及

  • 第二个包包含21岁以后的第二个关系(本例中为 employee_details )的所有元组。

如果一个关系没有年龄值为21的元组,它将返回一个空包。