Microsoft memperkenalkan Maia 300, chip kecerdasan buatan (AI) generasi ketiga yang dirancang untuk memperkuat infrastruktur komputasi awan Azure. Perangkat keras ini menjadi bagian dari strategi Microsoft untuk meningkatkan kapasitas layanan AI sekaligus menekan biaya operasional pusat data.
Pengumuman tersebut disampaikan pada 12 Oktober 2026. Microsoft menyebut Maia 300 sebagai sistem utama untuk menjalankan proses inferensi AI pada berbagai produk dan layanannya, dengan penerapan produksi yang direncanakan mulai 2027.
Sorotan utama terletak pada klaim peningkatan performa. Dalam konfigurasi rak penuh yang memuat 96 akselerator, Maia 300 diklaim mampu menghasilkan throughput token hingga tujuh kali lipat dibandingkan generasi sebelumnya, Maia 200.
Microsoft juga memperkirakan sistem tersebut dapat memproses 40 persen lebih banyak token per megawatt dibandingkan sistem berbasis GPU terkemuka. Klaim ini menunjukkan bahwa perusahaan tidak hanya mengejar kecepatan pemrosesan, tetapi juga efisiensi penggunaan energi untuk menjalankan layanan AI dalam skala besar.
Maia 300 Fokus pada Inferensi AI
Maia 300 dirancang terutama untuk kebutuhan inferensi, yakni proses ketika model AI menggunakan hasil pelatihannya untuk menjawab pertanyaan, menghasilkan teks, menulis kode, atau menjalankan tugas lainnya.
Inferensi menjadi komponen penting dalam operasional layanan AI. Setiap kali pengguna mengajukan pertanyaan kepada chatbot atau meminta asisten AI menyelesaikan pekerjaan, sistem harus menjalankan perhitungan untuk menghasilkan respons.
Ketika jumlah pengguna meningkat, kebutuhan komputasi juga bertambah. Perusahaan penyedia layanan AI harus menyeimbangkan kecepatan respons, kapasitas pemrosesan, konsumsi listrik, dan biaya operasional.
Microsoft merancang Maia 300 untuk menangani beban kerja seperti penalaran dengan konteks panjang, percakapan yang membutuhkan respons cepat, serta tugas agen AI yang melibatkan beberapa langkah.
Tugas agen AI berbeda dari sekadar menjawab pertanyaan sederhana. Agen dapat menjalankan rangkaian tindakan, memproses informasi, dan menyelesaikan pekerjaan secara bertahap. Beban kerja semacam ini membutuhkan kombinasi kemampuan komputasi, kapasitas memori, dan komunikasi antarkomponen yang efisien.
Dengan Maia 300, Microsoft ingin meningkatkan kemampuan pusat data Azure dalam melayani kebutuhan tersebut.
Apa Arti Klaim Tujuh Kali Lebih Produktif?
Angka tujuh kali menjadi salah satu klaim paling menonjol dari Maia 300. Namun, angka tersebut memiliki konteks teknis yang perlu dipahami.
Microsoft menyatakan bahwa Maia 300 dapat mencapai hingga tujuh kali throughput token pada tingkat rak dibandingkan Maia 200 ketika menggunakan konfigurasi penuh dengan 96 akselerator.
Throughput token mengacu pada jumlah token yang dapat diproses atau dihasilkan dalam periode tertentu. Token merupakan satuan yang digunakan model bahasa untuk memproses teks, meskipun satu token tidak selalu sama dengan satu kata.
Peningkatan throughput memungkinkan infrastruktur AI menangani volume pekerjaan lebih besar dalam rentang waktu yang sama. Hal ini berpotensi membantu layanan seperti Copilot melayani lebih banyak permintaan secara efisien.
Namun, klaim tersebut bukan berarti setiap permintaan pengguna akan selesai tujuh kali lebih cepat. Waktu respons aktual juga bergantung pada ukuran model, panjang konteks, jenis tugas, konfigurasi sistem, dan kondisi beban kerja.
Angka tujuh kali tersebut juga membandingkan Maia 300 dengan Maia 200, bukan dengan seluruh produk GPU yang tersedia di pasar. Karena itu, klaim ini sebaiknya dipahami sebagai hasil yang ditargetkan dalam konfigurasi dan kondisi tertentu.
Efisiensi Energi Jadi Prioritas
Selain throughput, Microsoft menyoroti efisiensi energi sebagai salah satu keunggulan Maia 300.
Perusahaan memperkirakan chip tersebut dapat menghasilkan 40 persen lebih banyak token per megawatt dibandingkan sistem berbasis GPU terkemuka. Secara sederhana, artinya sistem ditargetkan mampu menyediakan kapasitas pemrosesan AI lebih besar dengan penggunaan daya yang sama.
Efisiensi ini penting karena pusat data AI membutuhkan listrik dalam jumlah besar. Ketika perusahaan memperluas layanan berbasis model bahasa dan agen AI, kebutuhan energi untuk menjalankan komputasi ikut meningkat.
Peningkatan efisiensi berpotensi membantu operator pusat data mengoptimalkan kapasitas yang tersedia dan mengurangi biaya listrik per unit pekerjaan. Meski demikian, dampak terhadap biaya keseluruhan tetap dipengaruhi harga perangkat keras, pembangunan pusat data, pendinginan, jaringan, serta pemeliharaan.
Microsoft juga mengandalkan pengalaman pengoperasian Maia 200 untuk menyempurnakan generasi baru ini. Menurut perusahaan, Maia 200 telah digunakan dalam beban kerja produksi, termasuk sejumlah kemampuan AI di Copilot dan Microsoft Teams.
Arsitektur Chiplet dan Memori HBM4
Maia 300 menggunakan pendekatan arsitektur chiplet, yaitu desain yang memisahkan sejumlah fungsi utama ke dalam beberapa komponen silikon yang bekerja sebagai satu sistem.
Pendekatan ini memungkinkan fungsi komputasi, pengendali memori, dan input-output dirancang dengan pertimbangan kebutuhan masing-masing. Microsoft menyebut chiplet komputasinya menggunakan proses manufaktur TSMC N2P.
Perusahaan juga mengungkap penggunaan delapan tumpukan memori HBM4 dengan bandwidth puncak gabungan 18 terabita per detik pada akselerator. HBM atau High Bandwidth Memory merupakan jenis memori berbandwidth tinggi yang dirancang untuk mendukung pemrosesan data intensif.
Bandwidth memori sangat penting bagi inferensi AI karena model berukuran besar perlu mengakses bobot dan data secara efisien. Ketika perpindahan data menjadi hambatan, kemampuan komputasi yang tinggi tidak selalu dapat dimanfaatkan secara optimal.
Microsoft berupaya mengurangi hambatan tersebut melalui pengaturan aliran data, optimasi perangkat lunak, dan pemanfaatan memori yang lebih efisien.
Pada tingkat rak, sistem Maia 300 dirancang menampung 96 akselerator dengan konsumsi daya sekitar 167 kilowatt. Konfigurasi tersebut ditujukan untuk meningkatkan kepadatan pemrosesan di pusat data.
Mendukung Copilot hingga GitHub
Microsoft merencanakan penggunaan Maia 300 untuk memperkuat berbagai layanan AI internal. Salah satu sasaran utamanya adalah Copilot, asisten AI yang terintegrasi dalam sejumlah produk dan layanan perusahaan.
Chip tersebut juga diproyeksikan mendukung pengembangan pengalaman pemrograman melalui GitHub, penyediaan model AI melalui Microsoft Foundry, serta beban kerja AI lain yang membutuhkan pemrosesan dalam skala besar.
Dalam konteks pengembangan perangkat lunak, kapasitas inferensi yang lebih efisien dapat membantu sistem AI menangani permintaan pembuatan kode, analisis program, dan tugas pemrograman bertahap.
Sementara itu, Microsoft Teams dan layanan percakapan berbasis AI dapat memperoleh manfaat dari peningkatan kapasitas dan efisiensi sistem. Namun, hasil akhirnya tetap bergantung pada bagaimana model, perangkat lunak, dan infrastruktur tersebut diintegrasikan.
Microsoft juga menyebut potensi penggunaan untuk Dragon Copilot, layanan yang mendukung alur kerja tenaga kesehatan. Beban kerja seperti ini membutuhkan respons yang andal serta pengelolaan informasi secara hati-hati.
Microsoft Perkuat Chip Buatan Sendiri
Peluncuran Maia 300 memperlihatkan upaya Microsoft membangun infrastruktur AI yang lebih terintegrasi, mulai dari perangkat keras hingga perangkat lunak.
Selama ini, GPU dari Nvidia menjadi komponen penting dalam industri komputasi AI. Dengan mengembangkan akselerator sendiri, Microsoft berusaha memperoleh fleksibilitas lebih besar untuk mengoptimalkan sistem berdasarkan kebutuhan layanan Azure.
Namun, strategi tersebut tidak berarti Microsoft langsung meninggalkan GPU pihak ketiga. Infrastruktur AI skala besar dapat menggunakan beragam jenis akselerator, bergantung pada model, kebutuhan pelanggan, dan ketersediaan perangkat keras.
Microsoft berencana memperluas penerapan sistem Azure Maia ke skala multi-gigawatt mulai 2027. Rencana itu menunjukkan besarnya investasi yang dibutuhkan untuk memenuhi pertumbuhan permintaan AI.
Pada akhirnya, keberhasilan Maia 300 tidak hanya ditentukan oleh angka performa di atas kertas. Kemampuan produksi massal, stabilitas sistem, efisiensi dalam penggunaan nyata, serta dukungan terhadap berbagai model AI akan menjadi faktor penting.
Jika targetnya tercapai, Maia 300 dapat membantu Microsoft memperluas kapasitas layanan AI dengan pemanfaatan energi yang lebih efisien. Namun, dampak sesungguhnya baru dapat dinilai setelah sistem mulai digunakan secara luas dalam operasional pusat data.
