Teknik multi-threading baru berjanji untuk menggandakan kecepatan pemrosesan

Teknik multi-threading baru yang dikembangkan oleh para peneliti di University of California Riverside dapat menggandakan kecepatan pemrosesan smartphone, tablet, komputer pribadi, atau server dengan menggunakan perangkat keras yang sudah ada di dalamnya. Teknik ini disebut Simultaneous and Heterogeneous Multithreading (SHMT) dan memanfaatkan unit pemrosesan grafis (GPU), akselerator perangkat keras untuk kecerdasan buatan (AI) dan pembelajaran mesin (ML), atau unit pemrosesan sinyal digital untuk memproses informasi secara bersamaan.

SHMT berbeda dari komputasi tradisional, di mana CPU, GPU, dan akselerator AI bekerja secara terpisah. Pemisahan ini mengharuskan transfer data antara komponen, yang dapat menyebabkan kemacetan. Sementara itu, SHMT menggunakan apa yang disebut peneliti sebagai "smart quality-aware work-stealing (QAWS) scheduler" untuk mengelola beban kerja heterogen secara dinamis antara komponen. Bagian ini bertujuan untuk menyeimbangkan kinerja dan presisi dengan menugaskan tugas yang membutuhkan akurasi tinggi ke CPU daripada akselerator AI yang lebih rentan kesalahan, di antara hal-hal lain. Selain itu, penjadwal dapat dengan lancar menugaskan ulang pekerjaan ke prosesor lain secara real time jika salah satu komponen tertinggal.

Dalam pengujian, SHMT meningkatkan kinerja sebesar 95 persen dan mengurangi penggunaan daya sebesar 51 persen dibandingkan dengan teknik yang ada. Hasilnya adalah peningkatan efisiensi yang mengesankan sebesar 4x. Uji coba awal menggunakan papan Nvidia Jetson Nano yang berisi prosesor ARM quad-core 64-bit, GPU Maxwell 128-core, RAM 4GB, dan slot M.2 yang menampung salah satu akselerator AI Edge TPU dari Google. Meskipun bukan perangkat keras yang paling canggih, tetapi mencerminkan konfigurasi standar.

Namun, ada beberapa keterbatasan mendasar. "Keterbatasan SHMT bukanlah model itu sendiri tetapi lebih pada apakah pemrogram dapat meninjau kembali algoritma untuk menunjukkan jenis paralelisme yang membuat SHMT mudah dimanfaatkan," kata makalah itu. Dengan kata lain, ini bukan implementasi perangkat keras universal yang sederhana yang dapat digunakan oleh pengembang mana pun. Pemrogram harus belajar cara melakukannya atau mengembangkan alat untuk melakukannya untuk mereka. Jika masa lalu menjadi indikasi, ini bukan hal yang mudah. Ingat peralihan Apple dari silikon Intel ke Arm-based di Mac? Perusahaan harus berinvestasi secara signifikan dalam alat pengembang untuk mempermudah pengembang menyesuaikan aplikasi mereka dengan arsitektur baru.

Teknik multi-threading baru ini memiliki implikasi yang besar. Penggunaan simultan komponen pemrosesan yang ada dapat mengurangi biaya perangkat keras komputer sekaligus mengurangi emisi karbon dari energi yang dihasilkan untuk menjalankan server di pusat pemrosesan data berukuran gudang. Ini juga dapat mengurangi kebutuhan akan air tawar yang langka yang digunakan untuk menjaga server tetap dingin. Makalah Tseng, bagaimanapun, mengingatkan bahwa penyelidikan lebih lanjut diperlukan untuk menjawab beberapa pertanyaan tentang implementasi sistem, dukungan perangkat keras, optimasi kode, dan jenis aplikasi apa yang paling diuntungkan, di antara masalah lain. Makalah ini dipresentasikan pada 56th Annual IEEE/ACM International Symposium on Microarchitecture yang diadakan pada Oktober di Toronto, Kanada. Makalah ini mendapat pengakuan dari rekan profesional Tseng di Institute of Electrical and Electronics Engineers, atau IEEE, yang memilihnya sebagai salah satu dari 12 makalah yang termasuk dalam edisi "Top Picks from the Computer Architecture Conferences" yang akan diterbitkan musim panas mendatang.

New multi-threading technique promises to double processing speeds