MediaTek: AI Generatif Akan Mengubah Industri Smartphone

Hitekno.com - Perkemangan AI generatif telah menarik perhatian berbagai pihak. Termasuk perusahaan teknologi seperti MediaTek yang ikut menaruh perhatian kepada perkembagan dan integrasi AI generatif. Terlebih integrasi teknologi AI Generatif yang memicu transformasi besar di industri smartphone.

Berkaca pada setiap inovasi teknologi di masa silam, saat tahap-tahap awal eksplorasi, fungsi dan fitur baru akan diperkenalkan terlebih dulu pada produk-produk unggulan dan sub-unggulan yang memiliki sumber daya komputasi melimpah.

Selanjutnya, fitur ini dengan cepat menjadi nilai penting yang terdiferensiasi. Berjalannya waktu, kemampuan AI generatif bakal kian cepat untuk menurunkan kisaran harga dan memberikan manfaat bagi basis konsumen yang lebih luas di seluruh dunia.

Baca Juga: Bantu Pengembangan Aplikasi AI, MediaTek Integrasikan NVIDIA TAO ToolKit dengan NeuroPilot SDK

Smartphone dengan teknologi AI generatif menggunakan model AI generatif berskala besar dan telah dilatih sebelumnya guna mencapai pembuatan konten multimodal, kesadaran kontekstual (contextual awareness), dan menunjukkan peningkatan kemampuan mirip manusia dari waktu ke waktu.

Munculnya AI generatif juga menandai dimulainya era baru dalam pengembangan smartphone. Untuk jangka panjang, smartphone akan berkembang menjadi mobile intelligence. Untuk dianggap sebagai smartphone AI generatif, suatu perangkat harus memenuhi kriteria berikut:

• Pemrosesan model dasar pada perangkat atau hybrid, yang memungkinkan smartphone melakukan tugas AI generatif kompleks tanpa bergantung pada peladen berbasis cloud.
• Kemampuan multimodal, yang memungkinkan perangkat memproses teks, gambar, suara, dan bentuk masukan lainnya untuk menghasilkan berbagai output, seperti terjemahan atau pembuatan gambar dan video.
• Pengalaman pengguna yang lancar dan mulus, sehingga memungkinkan perangkat berinteraksi secara alami dan merespons intuitif terhadap input dan permintaan pengguna.
• Spesifikasi perangkat keras yang mampu mendukung kemampuan tersebut, tidak terbatas pada prosesor yang dibangun pada node proses terbaru yang dirancang untuk melakukan beban kerja AI yang memanfaatkan unit pemrosesan neural network terintegrasi atau mandiri (standalone) (seperti APU/NPU/TPU), kapasitas memori berukuran besar dengan bandwidth tinggi, pilihan konektivitas stabil dan berkecepatan tinggi, serta solusi keamanan tingkat perangkat keras dan perangkat lunak.

Selain itu, berkembangnya kognisi AI, agen AI akan memperoleh kemampuan yang lebih komprehensif. MediaTek meyakini agen AI masa depan juga memiliki kemampuan pengambilan keputusan secara otonom, bisa jadi mampu melakukan "Perencanaan", "Memori", dan "Tindakan”:

Baca Juga: COMPUTEX 2024: MediaTek Bergabung dengan Arm Total Design,

• Perencanaan – Memiliki kemampuan untuk menjelaskan tugas dan refleksi diri.
• Memori – Memiliki memori jangka pendek dan jangka panjang.
• Tindakan – Mengeksekusi atau menggunakan alat secara langsung untuk menyelesaikan tugas tertentu bagi pengguna.

Dalam pandangan MediaTek, agen AI juga diprediksi dapat mempelajari dan mengingat kebiasaan, minat, dan preferensi pengguna smartphone, lalu membantu pengguna dalam mengelola tugas-tugas kehidupan sehari-hari (makanan, pakaian, perumahan, dan transportasi) dan pekerjaan (perencanaan, pelaksanaan, pelaporan).

Oleh karenanya, kondisi ini memungkinkan manusia untuk lebih fokus dalam menetapkan target dan mengambil keputusan. Misal, terkait skenario jalan-jalan (travelling), agen AI dapat menyesuaikan rencana perjalanan untuk pengguna dan secara dinamis menyesuaikan rencana secara tepat waktu berdasarkan cuaca, lalu lintas, informasi lokasi wisata, bahkan kondisi tak terduga, sehingga perjalanan pengguna menjadi lebih mudah dan personal.

MediaTek telah bergerak maju dalam revolusi smartphone AI generatif. Perusahaan juga telah meluncurkan beberapa platform komputasi seluler yang mendukung penerapan model AI multimodal besar pada smartphone.

Baca Juga: COMPUTEX 2024: MediaTek Rilis Chipset Chromebook, Smart TV dan Layar dengan Kemampuan Pemrosesan AI

Chipset yang mencakup kemampuan itu ialah MediaTek Dimensity 9300 dan MediaTek Dimensity 8300. Chipset MediaTek Dimensity 9300 sebagai contoh, kecepatan inferensi untuk LLM pada perangkat dengan 7 miliar parameter dapat mencapai hingga 20 token per detik; ini sangat cocok dengan kecepatan baca rata-rata manusia.

MediaTek dengan pengalamannya dalam aplikasi AI untuk smartphone telah memberikan serangkaian peralatan lengkap untuk OEM dan pengembang dalam memfasilitasi pengembangan aplikasi. Ini diwakili lewat produk kami: MediaTek NeuroPilot SDK. NeuroPilot adalah inti MediaTek guna membangun ekosistem AI generatif.

Saat ini mencakup APU generasi ketujuh terbaru MediaTek, toolkit, pusat model pengembangan (GAI Model Hub), dan ekosistem pengembangan. GAI Model Hub untuk pengembang berisi serangkaian model AI untuk masalah tertentu yang memungkinkan pengembang menggunakan model AI dengan mudah dan cepat. Dengan ekosistem yang disediakan oleh Neuropilot, pengembang dapat dengan cepat dan efisien menerapkan AI generatif pada perangkat.

Baca Juga: MediaTek Dimensity 7300 Dorong Performa AI dan Mobile Gaming di Smartphone dan HP Lipat

Ada tiga aspek utama dari strategi AI generatif MediaTek – perangkat keras, perangkat lunak, dan ekosistem. Untuk perangkat keras, mesin APU baru dibangun berdasarkan arsitektur Transformer mainstream dan mendukung berbagai tipe data integer dan floating-point, termasuk INT4, INT8, INT16 dan FP16, memberikan hemat daya terdepan di industri.

Dalam hal perangkat lunak, MediaTek menyediakan perangkat pengembangan lengkap dan lingkungan pengembangan terintegrasi bagi pengembang untuk menerapkan model AI besar dan mengembangkan aplikasi AI pada perangkat yang didukung oleh platform Dimensity.

Adapun dalam kolaborasi ekosistem, MediaTek terus memperluas kerja sama dengan OEM smartphone, pengembang model AI besar, dan pengembang aplikasi untuk bersama-sama membangun ekosistem aplikasi seluler AI generatif.

MediaTek saat ini telah meningkatkan mekanisme keamanan tingkat perangkat keras seluler yang ada menjadi solusi keamanan tingkat AI generatif, yaitu memberikan proteksi komprehensif mulai parameter model hingga privasi pengguna, serta data operasional.

Mengingat besarnya kebutuhan penyimpanan data AI generatif, MediaTek meningkatkan arsitektur keamanan AI-nya dengan meningkatkan Secure Memoriy, Secure APU, dan Secure Decryption Machine yang telah meningkatkan batas atas kapasitas penyimpanan, efisiensi pengoperasian APU, dan deskripsi kecepatan.

AI Security 2.0 yang baru telah mewakili peningkatan signifikan dan membawa keamanan tingkat AI generatif ke tingkat yang lebih tinggi.

Smartphone AI generatif akan berkembang menjadi agen seluler pintar yang membuka imajinasi baru. Hal ini tentu bakal mendukung dan menjaga kejayaan industri smartphone dan ekosistem aplikasi seluler, serta membantu industri lebih siap menghadapi era 6G.

Untuk mengeksplorasi AI generatif lebih lanjut dalam industri smartphone, sebuah whitepaper telah dirilis bersama oleh Counterpoint Research dan MediaTek bersama dengan mitra lainnya, termasuk 01.AI, Alibaba Cloud Tongyi Qianwen, Baichuan-AI, Huya, Kugou, OPPO, Soul, Tencent AI Lab, Tencent Hunyuan dan vivo (dalam urutan abjad).