Menjalankan model bahasa besar (LLM) secara setempat pada telefon Android anda bermakna anda boleh mengakses model AI tersebut tanpa bergantung pada pelayan awan atau sambungan Internet . Persediaan setempat ini memastikan privasi dengan memastikan data anda selamat dan pada peranti. Dengan kemajuan dalam perkakasan mudah alih, menjalankan model AI secara tempatan telah menjadi kenyataan. Aplikasi MLC Chat memudahkan anda mengalami teknologi berkuasa ini terus pada telefon anda.
Artikel ini akan menerangkan kepentingan menjalankan LLM secara setempat pada telefon Android dan memberikan arahan langkah demi langkah untuk memasang dan menjalankannya menggunakan apl MLC Chat.
Mengapa menjalankan LLM pada telefon Android?
LLM biasanya dijalankan pada pelayan awan kerana ia memerlukan kuasa pengkomputeran yang ketara. Walaupun telefon Android mempunyai had tertentu semasa menjalankan LLM, ia juga membuka beberapa kemungkinan menarik.
Panduan Langkah demi Langkah untuk Memasang dan Menjalankan MLC Chat pada Android
Aplikasi MLC Chat direka untuk membolehkan pengguna menjalankan dan berinteraksi dengan model bahasa besar (LLM) secara tempatan pada pelbagai peranti, termasuk telefon mudah alih, tanpa bergantung pada perkhidmatan berasaskan awan. Ikuti langkah di bawah untuk menjalankan LLM secara setempat pada peranti Android anda.
Langkah 1: Pasang aplikasi MLC Chat
Mula-mula, anda perlu memuat turun APK untuk apl MLC Chat (112MB) daripada pautan di bawah.
Setelah APK dimuat turun, ketik pada fail untuk memulakan pemasangan.
Langkah 2: Muat turun LLM
Selepas berjaya memasang apl, buka apl tersebut dan anda akan melihat senarai LLM yang tersedia untuk dimuat turun. Model dengan saiz dan keupayaan yang berbeza, seperti LLama-3.2, Phi-3.5 dan Mistral, tersedia. Pilih model mengikut keperluan anda dan klik pada ikon muat turun di sebelahnya untuk mula memuat turun. Contohnya, jika anda menggunakan telefon jarak pertengahan seperti Redmi Note 10, pilih model ringan seperti Qwen-2.5 untuk prestasi yang lebih lancar.
Langkah 3: Jalankan LLM yang dipasang
Setelah model dimuat turun, ikon sembang akan muncul di sebelahnya. Klik pada ikon untuk memulakan pemodelan.
Setelah model sedia, anda boleh mula menaip gesaan dan berinteraksi dengan LLM tempatan.
Sebagai contoh, pada peranti seperti Redmi Note 10, menjalankan model yang lebih kecil seperti Qwen2.5 memberikan pengalaman yang cukup lancar, menjana sekitar 1.4 token sesaat. Walaupun prestasi ini lebih perlahan daripada peranti mewah seperti Galaxy S23 Ultra , ia masih berfungsi dengan baik untuk tugas asas seperti sembang pendek dan penciptaan kandungan mudah.
Menjalankan LLM secara setempat pada peranti Android melalui apl MLC Chat menyediakan cara yang boleh diakses dan dilindungi privasi untuk berinteraksi dengan model AI. Prestasi sangat bergantung pada perkakasan telefon. Penyelesaian ini sesuai untuk pengguna yang memerlukan akses luar talian kepada model AI, menguji LLM dalam masa nyata atau mengambil berat tentang privasi. Memandangkan perkakasan mudah alih terus bertambah baik, keupayaan LLM tempatan hanya akan berkembang, menjadikan ini sempadan yang menarik untuk teknologi AI.
Samsung Galaxy mahal anda tidak perlu kelihatan sama seperti telefon lain di pasaran. Dengan beberapa tweak, anda boleh menjadikannya lebih peribadi, bergaya dan unik.
Selepas bosan dengan iOS, mereka akhirnya beralih kepada telefon Samsung, dan tidak menyesal dengan keputusan itu.
Menukar DNS pada iPhone atau menukar DNS pada Android akan membantu anda mengekalkan sambungan yang stabil, meningkatkan kelajuan sambungan rangkaian dan mengakses tapak web yang disekat.
Ramai orang tidak pernah menjangkakan kamera paling lemah pada telefon mereka menjadi senjata rahsia untuk fotografi kreatif.
Dengan aplikasi klik automatik. Anda tidak perlu berbuat banyak apabila bermain permainan, menggunakan aplikasi atau tugasan yang tersedia pada peranti.
Bergantung pada keperluan anda, anda mungkin akan mendapat satu set ciri eksklusif Pixel yang dijalankan pada peranti Android anda yang sedia ada.
Pembetulan tidak semestinya melibatkan pemadaman foto atau apl kegemaran anda; Satu UI termasuk beberapa pilihan yang memudahkan untuk menuntut semula ruang.
Kebanyakan kita menganggap port pengecasan telefon pintar kita seolah-olah tugasnya adalah untuk memastikan bateri hidup. Tetapi pelabuhan kecil itu jauh lebih berkuasa daripada yang memberinya kredit.
Jika anda bosan dengan petua generik yang tidak pernah berkesan, berikut adalah beberapa yang telah mengubah cara anda mengambil gambar secara senyap-senyap.
Jika anda sedang memburu telefon pintar baharu, perkara pertama yang anda akan lihat secara semula jadi ialah helaian spesifikasi. Ia penuh dengan petunjuk tentang prestasi, hayat bateri dan kualiti paparan.
Aplikasi Emojimix akan mencipta emoji unik mengikut kehendak anda apabila kami akan menggabungkan 2 emoji bersama-sama untuk mencipta emoji yang anda tidak pernah lihat sebelum ini.
Lihat Kesejahteraan Digital pada telefon Samsung anda untuk melihat berapa banyak masa yang anda buang pada telefon anda pada siang hari!
Aplikasi panggilan palsu membantu anda membuat panggilan daripada telefon anda sendiri untuk mengelakkan situasi yang janggal dan tidak diingini.
Apl Locket Widget baharu mempunyai versi Android selepas pengguna iOS dapat menggunakan Widget Locket pada iPhone sebelum ini.
Walaupun ekosistem Apple yang ketat, sesetengah orang telah menukar telefon Android mereka menjadi alat kawalan jauh yang boleh dipercayai untuk Apple TV mereka.
Samsung Galaxy mahal anda tidak perlu kelihatan sama seperti telefon lain di pasaran. Dengan beberapa tweak, anda boleh menjadikannya lebih peribadi, bergaya dan unik.
Selepas bosan dengan iOS, mereka akhirnya beralih kepada telefon Samsung, dan tidak menyesal dengan keputusan itu.
Antara muka web akaun Apple dalam penyemak imbas anda membolehkan anda melihat maklumat peribadi anda, menukar tetapan, mengurus langganan dan banyak lagi. Tetapi kadangkala anda tidak boleh log masuk atas pelbagai sebab.
Menukar DNS pada iPhone atau menukar DNS pada Android akan membantu anda mengekalkan sambungan yang stabil, meningkatkan kelajuan sambungan rangkaian dan mengakses tapak web yang disekat.
Apabila Cari Saya menjadi tidak tepat atau tidak boleh dipercayai, gunakan beberapa tweak untuk menjadikannya lebih tepat apabila ia amat diperlukan.
Ramai orang tidak pernah menjangkakan kamera paling lemah pada telefon mereka menjadi senjata rahsia untuk fotografi kreatif.
Komunikasi Medan Dekat ialah teknologi wayarles yang membenarkan peranti bertukar-tukar data apabila ia berada berdekatan antara satu sama lain, biasanya dalam beberapa sentimeter.
Apple memperkenalkan Kuasa Adaptif, yang berfungsi bersama Mod Kuasa Rendah. Kedua-duanya memanjangkan hayat bateri iPhone, tetapi ia berfungsi dengan cara yang sangat berbeza.
Dengan aplikasi klik automatik. Anda tidak perlu berbuat banyak apabila bermain permainan, menggunakan aplikasi atau tugasan yang tersedia pada peranti.
Bergantung pada keperluan anda, anda mungkin akan mendapat satu set ciri eksklusif Pixel yang dijalankan pada peranti Android anda yang sedia ada.
Pembetulan tidak semestinya melibatkan pemadaman foto atau apl kegemaran anda; Satu UI termasuk beberapa pilihan yang memudahkan untuk menuntut semula ruang.
Kebanyakan kita menganggap port pengecasan telefon pintar kita seolah-olah tugasnya adalah untuk memastikan bateri hidup. Tetapi pelabuhan kecil itu jauh lebih berkuasa daripada yang memberinya kredit.
Jika anda bosan dengan petua generik yang tidak pernah berkesan, berikut adalah beberapa yang telah mengubah cara anda mengambil gambar secara senyap-senyap.
Jika anda sedang memburu telefon pintar baharu, perkara pertama yang anda akan lihat secara semula jadi ialah helaian spesifikasi. Ia penuh dengan petunjuk tentang prestasi, hayat bateri dan kualiti paparan.
Apabila anda memasang aplikasi pada iPhone anda daripada sumber lain, anda perlu mengesahkan secara manual bahawa aplikasi itu dipercayai. Kemudian aplikasi akan dipasang pada iPhone anda untuk digunakan.
