Halaman ini berisi istilah glosarium Google Cloud. Untuk semua istilah glosarium, klik di sini.
A
chip akselerator
Kategori komponen hardware khusus yang dirancang untuk melakukan komputasi utama yang diperlukan untuk algoritma deep learning.
Chip akselerator (atau cukup akselerator) dapat meningkatkan kecepatan dan efisiensi tugas pelatihan dan inferensi secara signifikan dibandingkan dengan CPU umum. VM ini ideal untuk melatih jaringan neural dan tugas serupa yang memerlukan komputasi intensif.
Contoh chip akselerator meliputi:
- Tensor Processing Unit (TPU) Google dengan hardware khusus untuk deep learning.
- GPU NVIDIA, meskipun awalnya dirancang untuk pemrosesan grafis, dirancang untuk memungkinkan pemrosesan paralel, yang dapat meningkatkan kecepatan pemrosesan secara signifikan.
B
inferensi batch
Proses menyimpulkan prediksi pada beberapa contoh tidak berlabel yang dibagi menjadi subset yang lebih kecil ("batch").
Inferensi batch dapat memanfaatkan fitur paralelisasi chip akselerator. Artinya, beberapa akselerator dapat menyimpulkan prediksi secara bersamaan pada berbagai batch contoh yang tidak berlabel, sehingga meningkatkan jumlah inferensi per detik secara signifikan.
Lihat Sistem ML produksi: Inferensi statis versus dinamis di Kursus Singkat Machine Learning untuk mengetahui informasi selengkapnya.
C
Cloud TPU
Akselerator hardware khusus yang dirancang untuk mempercepat workload machine learning di Google Cloud.
D
perangkat
Istilah yang memiliki lebih dari satu definisi dengan dua kemungkinan definisi berikut:
- Kategori hardware yang dapat menjalankan sesi TensorFlow, yang meliputi CPU, GPU, dan TPU.
- Saat melatih model ML di chip akselerator (GPU atau TPU), bagian sistem yang benar-benar memanipulasi tensor dan embedding. Perangkat berjalan di chip akselerator. Sebaliknya, host biasanya berjalan di CPU.
H
host
Saat melatih model ML di chip akselerator (GPU atau TPU), bagian sistem yang mengontrol keduanya:
- Alur keseluruhan kode.
- Ekstraksi dan transformasi pipeline input.
Host biasanya berjalan di CPU, bukan di chip akselerator; perangkat memanipulasi tensor di chip akselerator.
B
mesh
Dalam pemrograman paralel ML, istilah yang terkait dengan penetapan data dan model ke chip TPU, serta menentukan cara nilai ini akan di-shard atau direplikasi.
Mesh adalah istilah yang memiliki lebih dari satu makna yang dapat berarti salah satu dari berikut:
- Tata letak fisik chip TPU.
- Konstruksi logis abstrak untuk memetakan data dan model ke chip TPU.
Dalam kedua kasus tersebut, jaring ditentukan sebagai bentuk.
S
shard
Pembagian logis set pelatihan atau model. Biasanya, beberapa proses membuat shard dengan membagi contoh atau parameter menjadi beberapa bagian (biasanya) berukuran sama. Setiap bagian kemudian ditetapkan ke mesin yang berbeda.
Memecah model disebut paralelisme model; memecah data disebut paralelisme data.
T
Tensor Processing Unit (TPU)
Sirkuit terintegrasi khusus aplikasi (ASIC) yang mengoptimalkan performa beban kerja machine learning. ASIC ini di-deploy sebagai beberapa chip TPU di perangkat TPU.
TPU
Singkatan dari Tensor Processing Unit.
Chip TPU
Akselerator aljabar linear yang dapat diprogram dengan memori bandwidth tinggi on-chip yang dioptimalkan untuk beban kerja machine learning. Beberapa chip TPU di-deploy di perangkat TPU.
Perangkat TPU
Papan sirkuit cetak (PCB) dengan beberapa chip TPU, antarmuka jaringan bandwidth tinggi, dan hardware pendingin sistem.
Node TPU
Resource TPU di Google Cloud dengan jenis TPU tertentu. Node TPU terhubung ke Jaringan VPC Anda dari jaringan VPC peer. Node TPU adalah resource yang ditentukan dalam Cloud TPU API.
Pod TPU
Konfigurasi spesifik perangkat TPU di pusat data Google. Semua perangkat dalam Pod TPU terhubung satu sama lain melalui jaringan khusus berkecepatan tinggi. Pod TPU adalah konfigurasi terbesar dari perangkat TPU yang tersedia untuk versi TPU tertentu.
Resource TPU
Entitas TPU di Google Cloud yang Anda buat, kelola, atau gunakan. Misalnya, node TPU dan jenis TPU adalah resource TPU.
Slice TPU
Slice TPU adalah sebagian kecil dari perangkat TPU dalam Pod TPU. Semua perangkat dalam slice TPU terhubung satu sama lain melalui jaringan khusus berkecepatan tinggi.
Jenis TPU
Konfigurasi satu atau beberapa perangkat TPU dengan versi hardware TPU tertentu. Anda memilih jenis TPU saat membuat
node TPU di Google Cloud. Misalnya, jenis TPU v2-8
adalah perangkat TPU v2 tunggal dengan 8 core. Jenis TPU v3-2048 memiliki 256 perangkat TPU v3 yang terhubung ke jaringan dan total 2048 core. Jenis TPU adalah resource yang ditentukan di Cloud TPU API.
TPU worker
Proses yang berjalan di mesin host dan menjalankan program machine learning di perangkat TPU.