Saat ini, Nvidia memegang sekitar 80 persen dari pasar ini, dengan mayoritas sisanya ditempati oleh berbagai iterasi unit pemrosesan tensor Google (TPU).

Tidak seperti Nvidia, Google tidak menjual chipnya secara langsung tetapi menawarkan akses melalui platform komputasi awannya, membuat prosesor yang kuat ini tersedia untuk berbagai pengguna.

Menurut Google, chip Trillium memberikan kinerja komputasi 4,7 kali lebih baik dibandingkan dengan TPU v5e, sebuah chip yang dirancang untuk menghasilkan teks dan media dari model AI besar.

Selain itu, prosesor Trillium menawarkan peningkatan efisiensi energi sebesar 67 persen dibandingkan pendahulunya, peningkatan penting dalam mengurangi biaya operasional dan dampak lingkungan.

Chip baru, yang akan tersedia untuk pelanggan cloud Google pada akhir 2024, mencapai peningkatan kinerjanya melalui peningkatan kapasitas memori bandwidth tinggi dan bandwidth keseluruhan.

Kemajuan ini mengatasi hambatan signifikan dalam kinerja model AI, yang sangat bergantung pada sejumlah besar memori canggih.