Foxconn Mengumumkan Model Bahasa Besar (LLM) Ditapis daripada Meta Llama 3.1

Foxconn, syarikat yang paling terkenal dalam pembuatan iPhone dan produk perkakasan Apple yang lain, baru sahaja mengejutkan semua orang dengan mengumumkan model bahasa besar (LLM) pertamanya, dipanggil FoxBrain, yang bertujuan untuk digunakan untuk meningkatkan pengurusan pembuatan dan rantaian bekalan.

Pengilang Taiwan berkata FoxBrain dilatih dengan hanya 120 GPU H100 Nvidia. LLM ini pada asasnya dibangunkan berdasarkan seni bina Meta Llama 3.1, dengan 70 bilion parameter melalui penyulingan. Konsep penghalusan LLM melibatkan penggunaan model "ibu bapa" dan melatih model "anak" berdasarkan responsnya. Foxconn juga mengakui bahawa LLM mereka tidak sebaik model halus DeepSeek (China), tetapi prestasi keseluruhannya sangat hampir dengan piawaian bertaraf dunia.

Bercakap mengenai pencapaian ini, Dr. Yung-Hui Li, Pengarah Pusat Penyelidikan Kepintaran Buatan di Institut Penyelidikan Hon Hai (Foxconn), berkata:

Dalam beberapa bulan kebelakangan ini, peningkatan keupayaan penaakulan dan penggunaan GPU yang cekap secara beransur-ansur menjadi trend utama dalam bidang AI. Model FoxBrain kami menggunakan strategi latihan yang sangat cekap, memfokuskan pada mengoptimumkan proses latihan dan bukannya membuta tuli mengumpul kuasa pengkomputeran.

Melalui kaedah latihan yang direka dengan teliti dan pengoptimuman sumber, kami telah berjaya membina model AI tempatan dengan keupayaan penaakulan yang kukuh."

Foxconn Mengumumkan Model Bahasa Besar (LLM) Ditapis daripada Meta Llama 3.1

Foxconn bukan sahaja memasang produk Apple, tetapi juga mengeluarkan pelayan AI Nvidia. Bersama-sama dengan 120 GPU H100, FoxBrain ditingkatkan menggunakan rangkaian InfiniBand Quantum-2 Nvidia, dan latihan mengambil masa hanya kira-kira 4 minggu (untuk jumlah kos pengiraan 2,688 hari GPU). Foxconn menjana 98 bilion token data pralatihan berkualiti tinggi dalam Bahasa Cina Tradisional dengan panjang tetingkap konteks sehingga 128,000 token.

Perkongsian antara Foxconn dan Nvidia bukanlah perkara baharu, dan kedua-dua syarikat itu juga sedang mengusahakan projek lain, termasuk membina kemudahan pembuatan GPU Blackwell terbesar di dunia.

Nvidia juga menyediakan Foxconn superkomputer Taipei-1 untuk melengkapkan proses pra-latihan model. Foxconn berkata FoxBrain akan menjadi "enjin utama" untuk menaik taraf tiga platform utama syarikat: Pembuatan Pintar, Kenderaan Elektrik Pintar dan Bandar Pintar.

Sign up and earn $1000 a day ⋙

Leave a Comment

7 Tweak Teknologi Mudah Yang Meningkatkan Kualiti Hidup Anda Secara Dramatik

7 Tweak Teknologi Mudah Yang Meningkatkan Kualiti Hidup Anda Secara Dramatik

Mewujudkan hubungan yang sihat dengan teknologi boleh kelihatan menakutkan, tetapi perubahan kecil sering membuat perbezaan yang besar.

8 Perkara Yang Anda Tidak Tahu Boleh Anda Lakukan dalam Apl Galeri Samsung

8 Perkara Yang Anda Tidak Tahu Boleh Anda Lakukan dalam Apl Galeri Samsung

Apl Galeri Samsung lebih berkebolehan daripada yang anda fikirkan, tetapi itu mungkin tidak jelas dengan serta-merta.

Telefon pintar boleh lipat Microsoft tidak akan mempunyai lipatan

Telefon pintar boleh lipat Microsoft tidak akan mempunyai lipatan

Microsoft dikatakan semakin hampir untuk melancarkan telefon pintar boleh lipat pertamanya apabila ia diberikan paten untuk telefon boleh lipat dengan keupayaan untuk melipat 360 darjah tetapi tanpa menimbulkan kedutan pada skrin pada 1 Oktober.

Google menguji tanda semak biru dalam carian

Google menguji tanda semak biru dalam carian

Google sedang menguji ciri pengesahan baharu melalui tanda semak biru dalam carian. Ciri ini akan membantu pengguna mengelak daripada mengklik pada pautan tapak web palsu atau penipuan.

Membezakan Microsoft 365 dan Office 2024

Membezakan Microsoft 365 dan Office 2024

Pada pandangan pertama, Microsoft 365 dan Office 2024 mungkin kelihatan sangat serupa, kerana kedua-duanya memberi anda akses kepada aplikasi Microsoft yang popular dan digunakan secara meluas.

Kod Elemental Dungeons Terkini dan Cara Memasukkan Kod

Kod Elemental Dungeons Terkini dan Cara Memasukkan Kod

Kod Elemental Dungeons ialah bentuk ganjaran yang diperlukan untuk pemain. Seperti mana-mana permainan dalam talian lain di Roblox, pemain boleh menerima bantuan ini sebagai pertukaran wang atau barangan lain.

Bagaimana untuk mengulangi bar tajuk jadual dalam Word

Bagaimana untuk mengulangi bar tajuk jadual dalam Word

Apabila anda mencetak dokumen Word, cipta jadual dalam Word, mengulangi tajuk dalam Word membantu kami menjejak tajuk dengan lebih mudah, membaca tajuk dokumen dengan lancar merentas halaman yang berbeza, terutamanya dengan tajuk yang panjang.

Cara membuat mesej animasi pada iMessage iOS 18

Cara membuat mesej animasi pada iMessage iOS 18

iOS 18 iMessage baharu dikemas kini dengan mesej animasi, kesan teks dengan banyak pilihan untuk digunakan untuk mesej yang anda hantar.

Mengapa babi adalah musuh ular?

Mengapa babi adalah musuh ular?

Terdapat fakta menarik tentang babi yang tidak semua orang tahu: babi dianggap musuh ular, kerana apabila kedua-dua haiwan ini bertemu, kebanyakan ular akan menjadi makanan untuk babi.

Berapakah jarak dari Bumi ke Musytari - planet terbesar dalam Sistem Suria?

Berapakah jarak dari Bumi ke Musytari - planet terbesar dalam Sistem Suria?

Berapakah jarak dari Bumi ke Musytari? Jika anda tidak tahu, artikel ini akan memberitahu anda sejauh mana Musytari dari Bumi.

Temui jeneral meta musim S1 2023 Lien Quan Mobile

Temui jeneral meta musim S1 2023 Lien Quan Mobile

Jeneral manakah yang keluar daripada meta Mobile Alliance? Jom explore sekarang

Graves DTCL musim 7.5: Item standard, skuad Graves Loi Long

Graves DTCL musim 7.5: Item standard, skuad Graves Loi Long

Graves DTCL dari musim 1, musim 3 dan musim 6 semuanya berharga 1 emas dan nampaknya cuma juara tambahan untuk merangsang klan, peranan utama dalam early game masih digunakan tetapi tidak banyak. Setakat DTCL musim 7.5, Graves telah melonjakkan harganya kepada 4 emas dan pastinya merupakan pembawa yang sangat diperlukan jika anda memutuskan untuk bermain Thunder Dragon atau Gunner.

Cara menggunakan bunyi aplikasi berasingan pada Samsung

Cara menggunakan bunyi aplikasi berasingan pada Samsung

Dengan telefon Samsung, anda harus menggunakan ciri bunyi apl yang berasingan. Contohnya, anda boleh memainkan Apple Music dan telefon anda akan menghalakan audio melalui pembesar suara kereta anda.

Petikan yang baik tentang kerja, status yang baik tentang kerja memberi inspirasi kepada anda untuk mencapai kejayaan

Petikan yang baik tentang kerja, status yang baik tentang kerja memberi inspirasi kepada anda untuk mencapai kejayaan

Terdapat banyak status yang baik tentang kerja di Internet. Artikel ini akan meringkaskan untuk anda status pekerjaan yang baik dan bermakna.

Kapsyen ulang tahun perkahwinan, status ulang tahun perkahwinan yang bermakna dan manis

Kapsyen ulang tahun perkahwinan, status ulang tahun perkahwinan yang bermakna dan manis

Apakah kapsyen ulang tahun perkahwinan yang baik dan bermakna? Artikel itu akan meringkaskan untuk anda kapsyen ulang tahun yang ringkas dan padat yang boleh membuatkan pasangan anda ingat selama-lamanya.