Saat ini, revolusi AI generatif fokus pada menjalankan model AI yang besar dan kompleks di pusat data server. Namun, Intel telah membuat kemajuan dalam mengoptimalkan lebih dari 500 model AI untuk prosesor Intel Core Ultra barunya. Beberapa model yang dioptimalkan termasuk Phi-2, Meta's Lllama model, Mistral, Bert, Whisper, dan Stable Diffusion 1.5.
Model-model ini membentuk tulang punggung fitur perangkat lunak yang ditingkatkan AI seperti penghapusan objek, resolusi super gambar, atau ringkasan teks. Dukungan untuk fitur perangkat keras terbaru dari Intel membuat menjalankan model AI pada PC menjadi lebih praktis dengan penyeimbangan beban di semua unit komputasi, kompresi model untuk efisiensi di PC AI, dan optimasi runtime untuk memanfaatkan bandwidth memori dan arsitektur inti dalam Intel Core Ultra.
Menjalankan model AI generatif secara lokal di PC memiliki beberapa kasus penggunaan menarik. Pengguna dapat menjalankan ChatGPT dan Microsoft Copilot sepenuhnya di PC, menghilangkan masalah privasi dan persyaratan konektivitas jaringan yang terkait dengan pengiriman data ke server eksternal. Meskipun masih eksperimental, Chatbot lokal ChatRTX NVIDIA adalah langkah ke arah itu, tetapi membutuhkan PC dengan kartu grafis seri RTX 30 atau 40 yang kuat.