Halaman ini berisi istilah glosarium Google Cloud. Untuk semua istilah glosarium, klik di sini.
J
chip akselerator
Kategori komponen hardware khusus yang dirancang untuk menjalankan komputasi utama yang diperlukan untuk algoritma deep learning.
Chip akselerator (atau disingkat akselerator) dapat secara signifikan meningkatkan kecepatan dan efisiensi tugas pelatihan dan inferensi dibandingkan dengan CPU serbaguna. Ini ideal untuk melatih jaringan neural dan tugas intensif komputasi serupa.
Contoh chip akselerator mencakup:
- Tensor Processing Unit (TPU) Google dengan hardware khusus untuk deep learning.
- GPU NVIDIA yang, meskipun awalnya didesain untuk pemrosesan grafis, dirancang untuk mengaktifkan pemrosesan paralel, yang dapat meningkatkan kecepatan pemrosesan secara signifikan.
B
inferensi batch
Proses menyimpulkan prediksi pada beberapa contoh tak berlabel yang dibagi menjadi subset yang lebih kecil ("batch").
Inferensi batch dapat memanfaatkan fitur paralelisasi dari chip akselerator. Artinya, beberapa akselerator dapat secara bersamaan menyimpulkan prediksi pada berbagai batch contoh tak berlabel, yang secara drastis meningkatkan jumlah inferensi per detik.
C
Cloud TPU
Akselerator hardware khusus yang dirancang untuk mempercepat workload machine learning di Google Cloud.
D
perangkat
Istilah yang berlebihan dengan dua kemungkinan definisi berikut:
- Kategori hardware yang dapat menjalankan sesi TensorFlow, termasuk CPU, GPU, dan TPU.
- Saat melatih model ML pada chip akselerator (GPU atau TPU), bagian dari sistem yang benar-benar memanipulasi tensor dan embeddings. Perangkat berjalan pada chip akselerator. Sebaliknya, host biasanya berjalan pada CPU.
H
host
Saat melatih model ML pada chip akselerator (GPU atau TPU), bagian dari sistem yang mengontrol kedua hal berikut:
- Keseluruhan alur kode.
- Ekstraksi dan transformasi pipeline input.
Host biasanya berjalan pada CPU, bukan pada chip akselerator; perangkat memanipulasi tensor pada chip akselerator.
S
mesh
Dalam pemrograman paralel ML, istilah yang terkait dengan penetapan data dan model ke chip TPU, serta menentukan cara sharding atau replikasi nilai ini.
Mesh adalah istilah yang kelebihan beban yang dapat berarti salah satu dari hal berikut:
- Tata letak fisik chip TPU.
- Konstruksi logis abstrak untuk memetakan data dan model ke chip TPU.
Dalam kedua kasus tersebut, mesh ditentukan sebagai bentuk.
S
sharding
Pembagian logis dari set pelatihan atau model. Biasanya, beberapa proses membuat shard dengan membagi contoh atau parameter menjadi (biasanya) potongan-potongan yang berukuran sama. Setiap shard kemudian ditetapkan ke mesin yang berbeda.
Sharding model disebut paralelisme model; sharding data disebut paralelisme data.
T
Tensor Processing Unit (TPU)
Application-specific integrated circuit (ASIC) yang mengoptimalkan performa workload machine learning. ASIC ini di-deploy sebagai beberapa chip TPU pada perangkat TPU.
TPU
Singkatan dari Tensor Processing Unit.
chip TPU
Akselerator aljabar linear yang dapat diprogram dengan memori bandwidth tinggi pada chip yang dioptimalkan untuk workload machine learning. Beberapa chip TPU di-deploy di perangkat TPU.
Perangkat TPU
Papan sirkuit cetak (PCB) dengan beberapa chip TPU, antarmuka jaringan bandwidth tinggi, dan hardware pendingin sistem.
Master TPU
Proses koordinasi terpusat yang berjalan di mesin host yang mengirim dan menerima data, hasil, program, performa, dan informasi kesehatan sistem kepada pekerja TPU. Master TPU juga mengelola penyiapan dan penonaktifan perangkat TPU.
Node TPU
Resource TPU di Google Cloud dengan jenis TPU tertentu. TPU node terhubung ke Jaringan VPC Anda dari jaringan VPC peer. Node TPU adalah resource yang ditentukan dalam Cloud TPU API.
Pod TPU
Konfigurasi spesifik perangkat TPU di pusat data Google. Semua perangkat dalam Pod TPU terhubung satu sama lain melalui jaringan khusus berkecepatan tinggi. Pod TPU adalah konfigurasi perangkat TPU terbesar yang tersedia untuk versi TPU tertentu.
resource TPU
Entitas TPU di Google Cloud yang Anda buat, kelola, atau gunakan. Misalnya, node TPU dan jenis TPU adalah resource TPU.
Slice TPU
Slice TPU adalah bagian pecahan dari perangkat TPU dalam Pod TPU. Semua perangkat dalam slice TPU terhubung satu sama lain melalui jaringan khusus berkecepatan tinggi.
Jenis TPU
Konfigurasi satu atau beberapa perangkat TPU dengan
versi hardware TPU tertentu. Anda memilih jenis TPU saat membuat
node TPU di Google Cloud. Misalnya, jenis TPU v2-8
adalah perangkat TPU v2 tunggal dengan 8 core. Jenis TPU v3-2048 memiliki 256
perangkat TPU v3 berjaringan dan total 2.048 core. Jenis TPU adalah resource yang ditentukan di Cloud TPU API.
pekerja TPU
Proses yang berjalan pada mesin host dan menjalankan program machine learning di perangkat TPU.