Perkembangan kecerdasan buatan atau artificial intelligence (AI) memasuki fase yang semakin menuntut kemampuan infrastruktur. Model AI generatif yang semakin besar membutuhkan daya komputasi tinggi, tetapi performa sistem tidak hanya ditentukan oleh prosesor atau akselerator.

Salah satu persoalan yang semakin penting justru berada pada sisi memori.

Sistem AI harus memindahkan data dalam jumlah sangat besar antara memori dan chip pemrosesan. Ketika kebutuhan tersebut meningkat, bandwidth, kapasitas, konsumsi energi, serta panas menjadi tantangan yang sulit diabaikan.

Kondisi tersebut mendorong perusahaan semikonduktor berlomba menghadirkan teknologi memori generasi baru. Dua raksasa industri memori, Samsung Electronics dan SK hynix, menjadi pemain penting dalam perlombaan tersebut.

Keduanya berupaya mengembangkan solusi yang dapat mendukung kebutuhan AI modern, khususnya untuk pusat data yang menjadi fondasi layanan AI generatif.

Memori Jadi Hambatan Baru AI

Ketika membahas AI, perhatian publik biasanya tertuju pada GPU, NPU, atau chip akselerator lainnya. Padahal, kemampuan chip tersebut sangat bergantung pada seberapa cepat data dapat disediakan oleh sistem memori.

Model AI bekerja dengan memproses data dalam jumlah besar. Semakin kompleks model yang digunakan, semakin besar pula kebutuhan terhadap memori dan bandwidth.

Jika prosesor harus menunggu data tersedia, kemampuan komputasi yang tinggi tidak dapat dimanfaatkan secara maksimal.

Situasi tersebut dikenal sebagai salah satu bentuk memory bottleneck.

Karena itu, industri semikonduktor tidak hanya berlomba membuat chip pemrosesan yang lebih cepat. Teknologi memori juga harus berkembang agar mampu mengimbangi peningkatan kemampuan komputasi.

HBM Jadi Komponen Penting

Salah satu teknologi yang berada di pusat perkembangan infrastruktur AI adalah High Bandwidth Memory (HBM).

HBM dirancang untuk menyediakan bandwidth sangat tinggi dalam bentuk memori yang ditempatkan dekat dengan prosesor atau akselerator. Karakteristik tersebut membuat HBM sangat cocok digunakan pada sistem komputasi AI.

Permintaan HBM meningkat seiring berkembangnya pusat data AI. Perusahaan teknologi membutuhkan semakin banyak akselerator untuk melatih dan menjalankan model AI, sementara setiap akselerator membutuhkan memori berkecepatan tinggi.

Samsung dan SK hynix kemudian menjadi dua perusahaan yang bersaing ketat dalam pasar tersebut.

Persaingan bukan hanya soal kapasitas. Efisiensi energi, bandwidth, ukuran paket, kemampuan produksi, dan kompatibilitas dengan akselerator juga menjadi faktor penting.

Samsung Dorong Generasi HBM Baru

Samsung terus mengembangkan teknologi HBM untuk memenuhi kebutuhan komputasi AI.

Generasi HBM yang lebih baru berupaya meningkatkan bandwidth dan kapasitas sekaligus mengurangi konsumsi energi. Tantangan tersebut menjadi semakin kompleks karena jumlah chip memori yang harus ditumpuk juga meningkat.

Pada teknologi HBM, beberapa lapisan DRAM dapat ditumpuk secara vertikal. Pendekatan tersebut memungkinkan kapasitas lebih besar dalam ruang yang relatif terbatas.

Namun, semakin banyak lapisan yang digunakan, semakin rumit proses produksi dan pengelolaan panasnya.

Karena itu, inovasi tidak hanya berfokus pada peningkatan jumlah lapisan, tetapi juga pada teknologi packaging dan koneksi antarlapisan.

SK hynix Perkuat Posisi

SK hynix juga berada di garis depan perkembangan HBM.

Perusahaan asal Korea Selatan tersebut telah menjadi salah satu pemasok penting HBM untuk industri AI dan terus meningkatkan teknologi memori generasi berikutnya.

Persaingan antara Samsung dan SK hynix menjadi semakin menarik karena pasar AI berkembang sangat cepat.

Pelanggan mereka bukan hanya perusahaan semikonduktor, tetapi juga perusahaan teknologi besar yang membangun pusat data AI dalam skala masif.

Kebutuhan tersebut membuat kemampuan produksi massal menjadi sama pentingnya dengan kemampuan penelitian dan pengembangan.

Teknologi yang bagus tidak akan memberikan dampak besar jika tidak dapat diproduksi dalam jumlah cukup untuk memenuhi permintaan pasar.

Bandwidth Tinggi Bukan Satu-Satunya Jawaban

Meningkatkan bandwidth memang penting, tetapi industri juga menghadapi persoalan konsumsi energi.

Pusat data AI membutuhkan listrik dalam jumlah besar. Setiap peningkatan jumlah akselerator akan berdampak pada kebutuhan daya, sistem pendingin, dan infrastruktur kelistrikan.

Memori menjadi bagian dari persoalan tersebut.

Jika transfer data dapat dilakukan dengan lebih efisien, sistem secara keseluruhan berpotensi menggunakan energi lebih sedikit untuk menyelesaikan beban kerja yang sama.

Karena itu, pengembangan memori AI modern semakin berfokus pada keseimbangan antara performa dan efisiensi energi.

Packaging Jadi Medan Persaingan

Selain teknologi DRAM, packaging menjadi faktor penting dalam perkembangan memori AI.

HBM membutuhkan koneksi berkecepatan tinggi antara chip memori dan prosesor. Karena itu, desain paket menjadi semakin kompleks.

Teknologi seperti advanced packaging memungkinkan berbagai komponen ditempatkan lebih dekat sehingga jalur komunikasi menjadi lebih pendek.

Pendekatan tersebut dapat membantu meningkatkan kecepatan transfer data sekaligus mengurangi latensi.

Namun, semakin kompleks sebuah paket, semakin besar pula tantangan manufaktur.

Industri semikonduktor harus menjaga kualitas produksi karena cacat pada satu komponen dapat memengaruhi keseluruhan paket.

AI Dorong Investasi Semikonduktor

Ledakan AI membuat perusahaan teknologi meningkatkan investasi pada pusat data. Dampaknya tidak hanya dirasakan produsen GPU.

Produsen memori, perusahaan packaging, pembuat jaringan, hingga pemasok sistem pendingin ikut mendapatkan permintaan baru.

Rantai pasok AI kini menjadi ekosistem yang sangat luas.

Samsung dan SK hynix berada pada posisi strategis karena memori merupakan komponen utama dalam sistem komputasi AI.

Pertumbuhan permintaan tersebut juga mendorong perusahaan meningkatkan kapasitas produksi dan mengembangkan generasi teknologi baru.

Tantangan Produksi Tidak Sederhana

Meski permintaan tinggi, meningkatkan produksi memori canggih tidak dapat dilakukan dalam waktu singkat.

Pabrik semikonduktor membutuhkan investasi besar dan proses manufaktur yang kompleks. Selain itu, setiap generasi memori baru memerlukan pengujian untuk memastikan kompatibilitas dengan sistem pelanggan.

Dalam konteks AI, validasi menjadi semakin penting karena HBM bekerja sebagai bagian dari sistem yang sangat kompleks.

Memori harus mampu bekerja bersama akselerator, motherboard, packaging, sistem jaringan, serta perangkat lunak yang digunakan pusat data.

Kesalahan kecil dapat menyebabkan penurunan performa atau masalah stabilitas.

Masa Depan AI Bergantung pada Memori

Perkembangan AI sering kali digambarkan sebagai perlombaan membuat model yang semakin besar dan chip yang semakin cepat.

Namun, semakin besar model AI, semakin penting pula kemampuan sistem memindahkan dan menyimpan data.

Hal tersebut menjadikan memori sebagai salah satu fondasi penting dalam perkembangan kecerdasan buatan.

Jika teknologi pemrosesan berkembang lebih cepat daripada teknologi memori, potensi performa sistem tidak akan dapat dimanfaatkan secara maksimal.

Karena itu, inovasi di sektor memori menjadi bagian integral dari perkembangan AI.

Persaingan Samsung dan SK hynix Makin Ketat

Persaingan Samsung dan SK hynix menunjukkan bahwa perlombaan AI tidak hanya terjadi pada perusahaan pembuat model seperti OpenAI, Google, atau perusahaan pengembang chip.

Di belakang layar, produsen komponen semikonduktor juga berlomba menyelesaikan persoalan teknis yang menentukan kemampuan sistem AI.

HBM menjadi salah satu medan utama persaingan tersebut.

Perusahaan yang mampu menghadirkan memori dengan bandwidth tinggi, efisiensi energi lebih baik, kapasitas besar, dan produksi stabil berpeluang mendapatkan posisi strategis dalam rantai pasok AI.

Infrastruktur Menentukan Masa Depan

Perkembangan AI pada akhirnya tidak hanya bergantung pada kecanggihan algoritma.

Kapasitas pusat data, akselerator, jaringan, penyimpanan, dan memori harus berkembang secara bersamaan.

Samsung dan SK hynix menjadi contoh bagaimana industri memori merespons kebutuhan tersebut melalui inovasi teknologi HBM dan packaging.

Bagi pengguna akhir, perkembangan ini mungkin tidak terlihat secara langsung. Namun, teknologi memori yang lebih cepat dan efisien dapat berpengaruh terhadap kemampuan pusat data menjalankan model AI dalam skala besar.

Dua raksasa memori tersebut kini berada di tengah perlombaan penting. Mereka tidak hanya berebut pangsa pasar, tetapi juga berusaha menjawab salah satu pertanyaan terbesar dalam era AI: bagaimana membuat sistem mampu memproses data dalam jumlah semakin besar tanpa membuat biaya energi dan infrastruktur melonjak tanpa kendali?

Jawaban dari tantangan tersebut akan menjadi salah satu faktor yang menentukan seberapa jauh perkembangan AI dapat melaju dalam beberapa tahun mendatang.