Logo fi.boatexistence.com

Miten kartoittimet ja supistimet toimivat?

Sisällysluettelo:

Miten kartoittimet ja supistimet toimivat?
Miten kartoittimet ja supistimet toimivat?

Video: Miten kartoittimet ja supistimet toimivat?

Video: Miten kartoittimet ja supistimet toimivat?
Video: Kulttuuriperintöstrategia 2030: Taustaselvityksestä kohti teemojen valintaa 2024, Saattaa
Anonim

Mapper- tai karttatyön tulos (avainarvoparit) on syöte reduceriin Supistin vastaanottaa avainarvoparin useista karttatöistä. Sitten supistin kokoaa nämä välitietotyypit (väliavainarvopari) pienemmäksi joukoksi monikkoja tai avainarvopareja, joka on lopullinen tulos.

Mitä kartoittajat ja supistajat tekevät?

Hadoop Mapper on funktio tai tehtävä, jota käytetään prosessoimaan kaikki syötetietueet tiedostosta ja luomaan tulos, joka toimii syötteenä Reducerille Se tuottaa tulosteen palauttamalla uuden avainarvo-pareja. … Mapper luo myös pieniä tietolohkoja, kun se käsittelee syötetietueita avainarvo-parina.

Mitä eroa on kartoittimella ja supistimella?

Mikä on tärkein ero Mapperin ja Reducerin välillä? Mapper-tehtävä on prosessoinnin ensimmäinen vaihe, joka käsittelee jokaisen syötetietueen (RecordReaderistä) ja luo väliavain-arvoparin. Reduce-menetelmää kutsutaan erikseen jokaiselle avain/arvoluetteloparille.

Miten lasketaan kartoittajien ja pienentäjien lukumäärä?

Se riippuu siitä, kuinka monta ydintä ja kuinka paljon muistia sinulla on kussakin orjassa. Yleensä yhden kartoittajan pitäisi saa 1–1,5 prosessorin ydintä Joten jos sinulla on 15 ydintä, voidaan käyttää 10 kartoitinta solmua kohden. Joten jos sinulla on 100 datasolmua Hadoop-klusterissa, voit ajaa 1000 kartoittajaa klusterissa.

Miten Mapper-toiminto toimii?

Mapper on funktio, joka prosessoi syötetiedot Mapper käsittelee tiedot ja luo useita pieniä tietopaloja. Mapper-funktion syöte on (avain, arvo) -parien muodossa, vaikka MapReduce-ohjelman syöte on tiedosto tai hakemisto (joka on tallennettu HDFS:ään).

Suositeltava: