Aký je rozdiel medzi paralelným a distribuovaným výpočtom?

Zatiaľ čo sú paralelné aj distribuované výpočty zamerané na zlepšenie výpočtovej rýchlosti a zvládnutie veľkých problémov, líšia sa vo svojej architektúre a spôsobe, akým tento cieľ dosahujú. Tu je rozdelenie kľúčových rozdielov:

paralelné výpočty:

* architektúra: Zvyčajne zahŕňa viac procesorov alebo jadier * v rámci jedného stroja * (napr. Viacjadrový procesor, GPU).

* pamäť: Zvyčajne zdieľa * zdieľaný pamäť * priestor. Všetky procesory majú prístup k rovnakým miestam pamäte.

* komunikácia: Komunikácia medzi procesormi je vo všeobecnosti rýchlejšia v dôsledku zdieľanej pamäte. Mechanizmy synchronizácie (zámky, semafory) sa používajú na koordináciu prístupu k zdieľaným zdrojom.

* Focus: Optimalizácia rýchlosti a efektívnosti rozdelením úloh medzi procesory, ktoré majú priamy prístup k rovnakým údajom.

* Príklady: MultithReading na jednom počítači s použitím GPU pre vedecké simulácie, vysoko výkonné výpočty na serveri.

* tesné spojenie: Procesory sú pevne spojené, čo znamená, že sú úzko prepojené a synchronizované.

Distribuované výpočty:

* architektúra: Zahŕňa viac nezávislých počítačov (uzlov), ktoré sú * pripojené prostredníctvom siete * (napr. Internet, sieť miestnej oblasti). Tieto uzly môžu byť fyzicky umiestnené v rôznych geografických miestach.

* pamäť: Každý uzol má svoju *vlastnú súkromnú pamäť *. Neexistuje žiadny priestor zdieľanej pamäte.

* komunikácia: Komunikácia sa vyskytuje prostredníctvom * správy odovzdávania * cez sieť. Toto je všeobecne pomalšie ako prístup k zdieľanej pamäte.

* Focus: Riešenie problémov vo veľkom meradle, zlepšenie dostupnosti a tolerancie porúch a umožnenie spolupráce medzi rôznymi systémami.

* Príklady: Cloud computing, mriežkové výpočty, siete typu peer-to-peer, distribuované databázy, systémy ako Apache Kafka alebo Apache Spark.

* voľné spojenie: Procesory sú voľne spojené, čo znamená, že fungujú relatívne nezávisle a komunikujú prostredníctvom správ.

Tu je tabuľka sumarizujúca rozdiely:

| Funkcia | Paralelné výpočty Distribuované výpočty

|-------------------|----------------------------------------------------|-----------------------------------------------------|

| architektúra | Viaceré procesory v jednom stroji Viaceré nezávislé počítače pripojené prostredníctvom siete

| pamäť | Zdieľaná pamäť Súkromná pamäť (bez zdieľanej pamäte)

| komunikácia | Prístup k zdieľanej pamäte (rýchly) Prejdenie správy (pomalšie)

| spojenie | Pevne spojené Voľne spojené

| Focus | Rýchlosť, efektívnosť Škálovateľnosť, dostupnosť, tolerancia porúch

| Umiestnenie | Typicky na jednom fyzickom mieste Môže preklenúť rôzne geografické miesta

Analogia:

* paralelné výpočty: Predstavte si skupinu kuchárov pracujúcich v tej istej kuchyni (jediný stroj). Zdieľajú rovnaké ingrediencie, náradie a pracovný priestor (zdieľaná pamäť) na rýchlejšie prípravy jedla.

* Distribuované výpočty: Predstavte si tím kuchárov pracujúcich v rôznych reštauráciách (samostatné stroje) po celej krajine. Komunikujú prostredníctvom telefónu alebo e -mailu (odovzdávanie správy), aby koordinovali vytvorenie zložitej ponuky.

Prekryt a rozostrenie:

Je dôležité poznamenať, že čiara medzi paralelným a distribuovaným výpočtom sa niekedy môže rozmazať. Napríklad:

* Klaster strojov (distribuovaný systém) môže používať viacjadrové procesory v rámci každého stroja (paralelné spracovanie).

* Niektoré systémy môžu používať kombináciu zdieľaných a distribuovaných architektúr pamäte.

V súhrne sa paralelné výpočty zameriava na maximalizáciu rýchlosti v jednom systéme pomocou zdieľaných zdrojov, zatiaľ čo distribuovaný výpočet spracováva väčšie a geograficky rozptýlené problémy využitím viacerých nezávislých systémov, ktoré komunikujú v sieti. Výber vhodného prístupu závisí od konkrétnych požiadaviek aplikácie vrátane veľkosti problému, cieľov výkonnosti a potrieb dostupnosti.

• Predchádzajúca strana: Aké sú kľúčové rozdiely medzi paralelným a distribuovaným výpočtom? 
• Ďalšia strana: No