MediaTek Manfaatkan Meta Llama 2, Tingkatkan AI Generatif Komputasi Edge – Tekno

Pahami.id – MediaTek memperkuat produknya dengan teknologi terkini. Yakni melalui kolaborasi dengan teknologi kecerdasan buatan (AI) milik Meta Platform Inc, Llama 2.

Teknologi ini adalah model bahasa besar sumber terbuka (LLM) generasi berikutnya.

Memanfaatkan Meta LLM, platform APU dan NeuroPilot AI terbaru dari MediaTek, MediaTek bertujuan untuk membangun ekosistem komputasi edge lengkap yang dirancang untuk mempercepat pengembangan aplikasi kecerdasan buatan (AI) pada ponsel pintar, IoT, kendaraan pintar, rumah pintar, dan komputasi edge lainnya. perangkat.

Saat ini, sebagian besar pemrosesan AI generatif dilakukan melalui komputasi edge, namun model Llama 2 dari MediaTek akan memungkinkan aplikasi AI generatif beroperasi langsung di perangkat.

Hal ini jelas memberikan beberapa keuntungan bagi pengembang dan pengguna, antara lain kinerja yang lancar, privasi yang kuat, keamanan dan keandalan yang lebih baik, latensi yang lebih rendah, dan kemampuan bekerja di area dengan konektivitas rendah, serta biaya pengoperasian yang lebih rendah.

Untuk benar-benar memanfaatkan teknologi AI generatif pada perangkat, produsen perangkat edge perlu menggunakan prosesor AI dengan komputasi tinggi dan berdaya rendah serta konektivitas yang lebih cepat dan andal untuk meningkatkan kemampuan komputasi mereka.

Setiap System on Chip (SoC) pada smartphone 5G yang ditenagai MediaTek dilengkapi dengan APU yang dirancang untuk menjalankan berbagai fitur AI generatif, seperti AI Noise Reduction, AI Super Resolusi, AI MEMC dan lainnya.

Selain itu, chipset andalan generasi berikutnya dari MediaTek, yang diluncurkan akhir tahun ini, akan menampilkan perangkat lunak yang dioptimalkan untuk menjalankan Llama 2, serta APU yang ditingkatkan dengan inti Transformer yang dipercepat, pengurangan area akses dan pemanfaatan bandwidth DRAM yang semakin meningkatkan LLM dan AIGC. Kemajuan ini untuk memfasilitasi penggunaan AI generatif yang dipercepat pada perangkat.

“Semakin populernya AI generatif merupakan tren penting dalam transformasi digital, dan visi kami adalah menyediakan alat yang dibutuhkan pengembang dan komunitas pengguna Llama 2 untuk berinovasi sepenuhnya di bidang AI.,” kata JC Hsu, Wakil Presiden Senior Korporat dan Manajer Umum Unit Bisnis Komunikasi Nirkabel di MediaTek.

“Melalui kemitraan kami dengan Meta, kami mampu menghadirkan perangkat keras dan perangkat lunak dengan kemampuan yang jauh lebih canggih dibandingkan sebelumnya..” lanjutnya lagi.

MediaTek bertujuan agar aplikasi AI berbasis Llama 2 tersedia untuk ponsel cerdas yang ditenagai oleh SoC andalan generasi berikutnya yang akan memasuki pasar pada akhir tahun ini.