Microsoft Rilis Model Bahasa Kecil Phi-Silica untuk PC Copilot+

Microsoft memperluas investasinya dalam pengembangan model bahasa kecil (SLM) dengan memperkenalkan inovasi terbaru Phi Silica pada konferensi pengembang Build.

Perusahaan teknologi raksasa ini mengumumkan ketersediaan umum model Phi-3, sekaligus meninjau visi jangka panjang terkait pengembangan teknologi tersebut.

Terlebih lagi, setelah meluncurkan berita tentang Microsoft Copilot+ PC, mereka juga memperkenalkan SLM yang dirancang khusus untuk memanfaatkan kemampuan Neural Processing Unit (NPU) yang canggih pada perangkat ini.

Model terbaru, Phi-3-Silica, akan menjadi fitur standar yang disematkan di semua PC Copilot+ yang mulai dijual pada bulan Juni mendatang.

Model ini merupakan varian terkecil dalam rangkaian model Phi, dengan 3,3 miliar parameter, yang dirancang untuk menawarkan kinerja yang optimal dengan efisiensi energi tinggi.

Microsoft mengklaim bahwa Phi-3-Silica memiliki latensi token pertama yang mampu mencapai 650 token per detik, dengan konsumsi daya sekitar 1,5 Watt.

Hal ini berarti model ini tidak akan membebani sumber daya utama dan membebaskan CPU serta GPU pada PC untuk menangani tugas komputasi lainnya.

Proses pembuatan token juga telah dioptimalkan dengan menggunakan kembali cache KV NPU, yang akan berjalan di CPU dan mampu menghasilkan sekitar 27 token per detik.

Dalam pernyataan kepada VentureBeat, seorang juru bicara Microsoft menyoroti keunikan Phi-3-Silica dengan mengatakan, “Apa yang membedakan Phi-Silica adalah perbedaannya sebagai model bahasa Windows yang pertama kali digunakan secara lokal. Model ini dioptimalkan untuk dijalankan pada NPU Copilot+ PC, menghadirkan inferensi lokal yang sangat cepat ke perangkat Anda. Pencapaian ini menandai momen penting dalam menghadirkan kecerdasan buatan tingkat lanjut langsung ke pengembang pihak ketiga yang dioptimalkan untuk Windows, yang pada musim gugur ini akan menjangkau pengguna akhir, meningkatkan produktivitas dan aksesibilitas dalam ekosistem Windows.”¹

Phi-3-Silica adalah variasi kelima dari keluarga model Phi-3 Microsoft, bergabung dengan model-model lainnya seperti Phi-3-mini yang memiliki 3,8 miliar parameter, Phi-3-small dengan 7 miliar parameter, Phi-3-medium dengan 14 miliar parameter, dan Phi-3-vision dengan 4,2 miliar parameter.

Setiap model dirancang untuk memenuhi kebutuhan spesifik dan memberikan solusi AI yang semakin canggih kepada pengembang dan pengguna.

Langkah ini menunjukkan komitmen Microsoft untuk terus mendorong batas inovasi dalam teknologi AI, menyediakan alat yang lebih kuat dan efisien untuk pengembang serta pengguna akhir.

Dengan hadirnya Phi-3-Silica, diharapkan bahwa pengalaman komputasi di perangkat Windows akan semakin optimal, memberikan efisiensi dan produktivitas yang lebih tinggi di berbagai aplikasi.

Sumber: