site:enseignement:master:bdle:annales
Différences
Ci-dessous, les différences entre deux révisions de la page.
Les deux révisions précédentesRévision précédenteProchaine révision | Révision précédente | ||
site:enseignement:master:bdle:annales [21/11/2018 22:06] – amine | site:enseignement:master:bdle:annales [20/11/2019 07:57] (Version actuelle) – amine | ||
---|---|---|---|
Ligne 1: | Ligne 1: | ||
====== Recueil d' | ====== Recueil d' | ||
===== Partie MR et Spark ===== | ===== Partie MR et Spark ===== | ||
+ | ==== Novembre 2019 ==== | ||
+ | {{ : | ||
+ | ==== Septembre 2018 ==== | ||
+ | {{ : | ||
==== Novembre 2017 ==== | ==== Novembre 2017 ==== | ||
+ | === Exercice 1 === | ||
+ | == Données == | ||
+ | <code bash> | ||
+ | nom: | ||
+ | nom: | ||
+ | nom: | ||
+ | nom: | ||
+ | </ | ||
+ | == Programme scala == | ||
+ | <code scala> | ||
+ | val data = sc.textFile(path+" | ||
+ | |||
+ | case class attribut(cle: | ||
+ | |||
+ | def parseElem(in: | ||
+ | val tmp = in.split(":" | ||
+ | | ||
+ | } | ||
+ | |||
+ | parseTuple(in: | ||
+ | |||
+ | val parsed = data.map(x=> | ||
+ | |||
+ | parsed.collect.foreach(println) | ||
+ | |||
+ | case class attribut(cle: | ||
+ | |||
+ | def parseElem(in: | ||
+ | val tmp = in.split(":" | ||
+ | | ||
+ | } | ||
+ | |||
+ | def parseTuple(in: | ||
+ | |||
+ | |||
+ | |||
+ | val parsed = data.map(x=> | ||
+ | |||
+ | /*non posée*/ | ||
+ | def mergeListAttributes(lat1: | ||
+ | ... | ||
+ | } | ||
+ | |||
+ | |||
+ | val synthese = parsed.reduce(mergeListAttributes) | ||
+ | |||
+ | |||
+ | scala> parsed.collect.foreach(println) | ||
+ | List(attribut(age, | ||
+ | List(attribut(niveau, | ||
+ | List(attribut(age, | ||
+ | List(attribut(nom, | ||
+ | |||
+ | |||
+ | </ | ||
=== Exercice 2 : Algèbre Dataset de Spark === | === Exercice 2 : Algèbre Dataset de Spark === | ||
== Données == | == Données == |
site/enseignement/master/bdle/annales.1542834384.txt.gz · Dernière modification : de amine