Parallel Computing, atau Komputasi Paralel adalah salah satu teknik melakukan komputasi secara bersamaan dengan memanfaatkan beberapa komputer secara bersamaan. Biasanya diperlukan saat kapasitas yang diperlukan sangat besar, baik karena harus mengolah data dalam jumlah besar ataupun karena tuntutan proses komputasi yang banyak. Untuk melakukan aneka jenis komputasi paralel ini diperlukan infrastruktur mesin paralel yang terdiri dari banyak komputer yang dihubungkan dengan jaringan dan mampu bekerja secara paralel untuk menyelesaikan satu masalah. Untuk itu diperlukan aneka perangkat lunak pendukung yang biasa disebut sebagai middleware yang berperan untuk mengatur distribusi pekerjaan antar node dalam satu mesin paralel. Selanjutnya pemakai harus membuat pemrograman paralel untuk merealisasikan komputasi.
Dalam parallel processing ini juga memiliki berbagai kelemahan dan kelebihan dimana, untuk memiliki banyak prosessor memerlukan biaya yang tidak sedikit, tetapi dengan banyak nya prosessor maka proses komputasinya pun semakin cepat. Ada beberapa bentuk yang berbeda dari komputasi paralel: bit-tingkat, tingkat instruksi, data, dan tugas paralelisme. Paralelisme telah digunakan selama bertahun-tahun, terutama dalam komputasi kinerja tinggi, tetapi kepentingan di dalamnya telah berkembang akhir-akhir ini karena kendala fisik mencegah frekuensi scaling. Sebagai konsumsi daya (dan akibatnya generasi panas) oleh komputer telah menjadi perhatian dalam beberapa tahun terakhir, komputasi paralel telah menjadi paradigma dominan dalam arsitektur komputer, terutama dalam bentuk prosesor multi-core.
Keuntungan menggunakan Komputasi Paralel:
Arsitektur Komputer Paralel:
Single Instruction Single Datapath, ini prosesor tunggal, yang bukan paralel.
Single Instruction Multiple Datapath, alur instruksi yang sama dijalankan terhadap banyak alur data yang berbeda. Alur instruksi di sini kalau tidak salah maksudnya ya program komputer itu. trus datapath itu paling ya inputnya, jadi inputnya lain-lain tapi program yang digunakan sama.
Multiple Instruction Multiple Datapath, alur instruksinya banyak, alur
datanya juga banyak, tapi masing-masing bisa berinteraksi.
Multiple Instruction Single Datapath, alur instruksinya banyak tapi beroperasi pada data yang sama.
Komputer Paralel menggunakan CUDA
Komputasi berkembang dari "central processing" pada CPU untuk "co-processing" pada CPU dan GPU. Untuk mengaktifkan ini paradigma komputasi baru, NVIDIA menemukan arsitektur komputasi paralel CUDA yang sekarang pengiriman di GeForce, ION Quadro, dan Tesla GPU, mewakili dasar terinstal signifikan untuk pengembang aplikasi. Di pasar konsumen, hampir setiap aplikasi video yang konsumen utama telah, atau akan segera, dipercepat oleh CUDA, termasuk produk dari Teknologi Elemental, MotionDSP dan LoiLo, CUDA telah antusias diterima di bidang penelitian ilmiah. Misalnya, CUDA sekarang mempercepat AMBER, sebuah program simulasi dinamika molekuler digunakan oleh lebih dari 60.000 peneliti dalam dunia akademis dan perusahaan farmasi di seluruh dunia untuk mempercepat penemuan obat baru.Di pasar keuangan, Numerix dan CompatibL mengumumkan dukungan CUDA untuk aplikasi counterparty risk baru dan mencapai speedup 18X. Numerix digunakan oleh hampir 400 lembaga keuangan. Indikator adopsi CUDA adalah jalan dari Tesla GPU untuk komputasi GPU. Sekarang ada lebih dari 700 kelompok GPU terpasang di seluruh dunia di Fortune 500 perusahaan mulai dari Schlumberger dan Chevron di sektor energi untuk BNP Paribas di bidang perbankan.
Dan dengan peluncuran terbaru dari Microsoft Windows 7 dan Apple Snow Leopard, komputasi GPU akan mainstream. Dalam sistem operasi baru, GPU tidak hanya akan menjadi prosesor grafis, tetapi juga tujuan paralel prosesor umum dapat diakses oleh aplikasi apapun.
Sumber:
https://computing.llnl.gov/tutorials/openMP/
https://id.wikipedia.org/wiki/Komputasi_paralel
https://en.wikipedia.org/wiki/Thread_%28computing%29
http://www.nvidia.co.uk/object/cuda-parallel-computing-uk.html
Dalam parallel processing ini juga memiliki berbagai kelemahan dan kelebihan dimana, untuk memiliki banyak prosessor memerlukan biaya yang tidak sedikit, tetapi dengan banyak nya prosessor maka proses komputasinya pun semakin cepat. Ada beberapa bentuk yang berbeda dari komputasi paralel: bit-tingkat, tingkat instruksi, data, dan tugas paralelisme. Paralelisme telah digunakan selama bertahun-tahun, terutama dalam komputasi kinerja tinggi, tetapi kepentingan di dalamnya telah berkembang akhir-akhir ini karena kendala fisik mencegah frekuensi scaling. Sebagai konsumsi daya (dan akibatnya generasi panas) oleh komputer telah menjadi perhatian dalam beberapa tahun terakhir, komputasi paralel telah menjadi paradigma dominan dalam arsitektur komputer, terutama dalam bentuk prosesor multi-core.
Keuntungan menggunakan Komputasi Paralel:
- Hemat waktu dan / atau uang : Secara teori, melemparkanlebih banyak sumber daya pada tugas akan mempersingkatwaktu untuk penyelesaian, dengan potensi penghematan biaya.Komputer paralel dapat dibangun dari murah, komponenkomoditas.
- Memecahkan masalah yang lebih besar : Banyak masalahyang begitu besar dan / atau kompleks yang tidak praktis atau tidak mungkin untuk menyelesaikannya pada satu komputer,terutama mengingat memori komputer terbatas.
- Menyediakan concurrency : Sebuah sumber daya komputasitunggal hanya dapat melakukan satu hal pada suatu waktu.Beberapa sumber daya komputasi dapat melakukan banyak halsecara bersamaan.
- Penggunaan sumber daya non-lokal : Menggunakan sumber daya komputasi pada wide area network, atau bahkan Internetketika sumber daya lokal menghitung langka.
Arsitektur Komputer Paralel:
- SISD
Single Instruction Single Datapath, ini prosesor tunggal, yang bukan paralel.
- SIMD
Single Instruction Multiple Datapath, alur instruksi yang sama dijalankan terhadap banyak alur data yang berbeda. Alur instruksi di sini kalau tidak salah maksudnya ya program komputer itu. trus datapath itu paling ya inputnya, jadi inputnya lain-lain tapi program yang digunakan sama.
- MIMD
Multiple Instruction Multiple Datapath, alur instruksinya banyak, alur
datanya juga banyak, tapi masing-masing bisa berinteraksi.
- MISD
Multiple Instruction Single Datapath, alur instruksinya banyak tapi beroperasi pada data yang sama.
Komputer Paralel menggunakan CUDA
Komputasi berkembang dari "central processing" pada CPU untuk "co-processing" pada CPU dan GPU. Untuk mengaktifkan ini paradigma komputasi baru, NVIDIA menemukan arsitektur komputasi paralel CUDA yang sekarang pengiriman di GeForce, ION Quadro, dan Tesla GPU, mewakili dasar terinstal signifikan untuk pengembang aplikasi. Di pasar konsumen, hampir setiap aplikasi video yang konsumen utama telah, atau akan segera, dipercepat oleh CUDA, termasuk produk dari Teknologi Elemental, MotionDSP dan LoiLo, CUDA telah antusias diterima di bidang penelitian ilmiah. Misalnya, CUDA sekarang mempercepat AMBER, sebuah program simulasi dinamika molekuler digunakan oleh lebih dari 60.000 peneliti dalam dunia akademis dan perusahaan farmasi di seluruh dunia untuk mempercepat penemuan obat baru.Di pasar keuangan, Numerix dan CompatibL mengumumkan dukungan CUDA untuk aplikasi counterparty risk baru dan mencapai speedup 18X. Numerix digunakan oleh hampir 400 lembaga keuangan. Indikator adopsi CUDA adalah jalan dari Tesla GPU untuk komputasi GPU. Sekarang ada lebih dari 700 kelompok GPU terpasang di seluruh dunia di Fortune 500 perusahaan mulai dari Schlumberger dan Chevron di sektor energi untuk BNP Paribas di bidang perbankan.
Dan dengan peluncuran terbaru dari Microsoft Windows 7 dan Apple Snow Leopard, komputasi GPU akan mainstream. Dalam sistem operasi baru, GPU tidak hanya akan menjadi prosesor grafis, tetapi juga tujuan paralel prosesor umum dapat diakses oleh aplikasi apapun.
Sumber:
https://computing.llnl.gov/tutorials/openMP/
https://id.wikipedia.org/wiki/Komputasi_paralel
https://en.wikipedia.org/wiki/Thread_%28computing%29
http://www.nvidia.co.uk/object/cuda-parallel-computing-uk.html