Cerebras Melancarkan Teknologi Inferens AI Terpantas di Dunia, Prestasi 20x ganda Daripada NVIDIA

Sistem Cerebras baru sahaja mengumumkan Inferens Cerebras secara rasmi, yang dianggap sebagai penyelesaian inferens AI terpantas di dunia. Inferens Cerebras ini menyampaikan prestasi sehingga 1,800 token sesaat untuk model Llama 3.1 8B (8 bilion parameter) dan 450 token sesaat untuk Llama 3.1 70B, yang sehingga hampir 20 kali lebih pantas daripada penyelesaian inferens AI berasaskan GPU NVIDIA yang tersedia dalam awan Azure berskala besar di seluruh dunia hari ini.

Selain prestasinya yang luar biasa, harga perkhidmatan penyelesaian inferens baharu ini juga sangat murah, pada sebahagian kecil daripada harga platform awan GPU yang popular. Sebagai contoh, pelanggan boleh mendapatkan satu juta token dengan hanya 10 sen, sekali gus memberikan prestasi harga 100x lebih tinggi untuk beban kerja AI.

Ketepatan 16-bit Cerebras dan kelajuan inferens 20x lebih pantas akan membolehkan pembangun membina aplikasi AI berprestasi tinggi generasi seterusnya tanpa menjejaskan kelajuan atau kos. Nisbah harga/prestasi terobosan ini dimungkinkan oleh sistem Cerebras CS-3 dan pemproses AI Wafer Scale Engine 3 (WSE-3). CS-3 menawarkan 7,000 kali lebih lebar jalur memori daripada Nvidia H100, menyelesaikan cabaran teknikal jalur lebar memori untuk AI generatif.

Cerebras Melancarkan Teknologi Inferens AI Terpantas di Dunia, Prestasi 20x ganda Daripada NVIDIA

Inferens Cerebras kini tersedia pada tiga peringkat berikut:

  • Peringkat Percuma menawarkan akses API percuma dan had penggunaan yang besar kepada sesiapa sahaja yang mendaftar.
  • Peringkat Pembangun direka bentuk untuk penggunaan fleksibel tanpa pelayan, menyediakan pengguna dengan titik akhir API pada sebahagian kecil daripada kos alternatif sedia ada di pasaran, dengan model Llama 3.1 8B dan 70B masing-masing berharga 10 sen dan 60 sen bagi setiap juta token.
  • Pelan Peringkat Perusahaan menawarkan model yang diperhalusi, perjanjian tahap perkhidmatan tersuai dan sokongan khusus. Sesuai untuk beban kerja yang berterusan, perniagaan boleh mengakses Inferens Cerebras melalui awan peribadi yang diuruskan oleh Cerebras atau di premis.

Dengan prestasi rekod, harga kompetitif dan akses API terbuka, Cerebras Inference menetapkan standard baharu untuk pembangunan dan penggunaan LLM terbuka. Sebagai satu-satunya penyelesaian yang mampu menyampaikan latihan dan inferens berkelajuan tinggi, Cerebras membuka kemungkinan baharu sepenuhnya untuk AI.

Dengan trend AI berkembang pesat, dan NVIDIA kini memegang kedudukan dominan dalam pasaran, kemunculan syarikat seperti Cerebras dan Groq menandakan potensi peralihan dalam dinamik keseluruhan industri. Memandangkan permintaan untuk penyelesaian inferens AI yang lebih pantas dan lebih kos efektif meningkat, penyelesaian seperti Cerebras Inference berada pada kedudukan yang baik untuk mengambil peluang terhadap penguasaan NVIDIA, terutamanya dalam ruang inferens.

Tinggalkan Komen

Cara Membuang Sisa Pelekat daripada Pakaian: Bertindak dengan Lembut Sebelum Kotoran Kekal Selamanya

Cara Membuang Sisa Pelekat daripada Pakaian: Bertindak dengan Lembut Sebelum Kotoran Kekal Selamanya

Cara membuang sisa pelekat daripada pakaian: daripada menanggalkannya dengan berhati-hati, menggunakan sejuk, air sabun dan pencuci kotoran sehingga ke proses membasuh. Dengan tip untuk gam super, sisa label dan fabrik sensitif.

Membersihkan penapis mesin basuh pinggan mangkuk: panduan mudah untuk mengelakkan sisa dan bau busuk

Membersihkan penapis mesin basuh pinggan mangkuk: panduan mudah untuk mengelakkan sisa dan bau busuk

Pelajari cara membersihkan penapis mesin basuh pinggan mangkuk langkah demi langkah: tanggalkan, bilas, berus, pasang semula, kekerapan dan tanda bahawa pembersihan mudah tidak lagi mencukupi.

Bolehkah Asid Sitrik Digunakan untuk Membersihkan Pelembap Udara? Panduan Langkah Keselamatan dan Amaran Mengikut Jenis

Bolehkah Asid Sitrik Digunakan untuk Membersihkan Pelembap Udara? Panduan Langkah Keselamatan dan Amaran Mengikut Jenis

Panduan membersihkan pelembap udara dengan asid sitrik: kepekatan, perendaman, pembilasan, dan amaran mengikut jenis berdasarkan maklumat rasmi pengeluar. Contoh senario hipotetikal disediakan untuk memudahkan pemahaman prosedur praktikal.

Apa yang Berlaku Jika Penapis Penyaman Udara Tidak Dibersihkan? Risiko Kos Elektrik, Kecekapan dan Kulat serta Cara Memilih Kekerapan Pembersihan

Apa yang Berlaku Jika Penapis Penyaman Udara Tidak Dibersihkan? Risiko Kos Elektrik, Kecekapan dan Kulat serta Cara Memilih Kekerapan Pembersihan

Jika penapis penyaman udara tidak dibersihkan, ia boleh menyebabkan peningkatan kos elektrik, penurunan kecekapan pemanasan dan penyejukan, serta menjadi punca bau dan kulat. Berdasarkan maklumat rasmi pengeluar dan penjimatan tenaga, artikel ini menerangkan kekerapan pembersihan, fungsi pembersihan automatik, dan cara memilih antara pembersihan sendiri atau profesional.

Mencuci beg galas dalam mesin basuh: Bila boleh dan bila lebih baik dielakkan

Mencuci beg galas dalam mesin basuh: Bila boleh dan bila lebih baik dielakkan

Ketahui bila boleh mencuci beg galas dalam mesin basuh, cara membaca label, memilih kitaran dan detergen, melindungi tali dan zip, serta bila lebih baik mencuci tangan.

Cara Membaiki Microsoft Teams Di Mana Boleh Cari Ralat Team

Cara Membaiki Microsoft Teams Di Mana Boleh Cari Ralat Team

Bosan dengan ralat Microsoft Teams Where to Find Team yang mengecewakan? Dapatkan pembetulan langkah demi langkah untuk desktop, web dan mudah alih. Selesaikannya dengan cepat dengan panduan pakar kami—tiada kemahiran teknikal diperlukan!

Cara Membaiki Ralat Bantuan Cara Menggunakan Microsoft Teams

Cara Membaiki Ralat Bantuan Cara Menggunakan Microsoft Teams

Bosan dengan Ralat Bantuan Microsoft Teams yang mengecewakan yang menyekat aliran kerja anda? Dapatkan pembetulan langkah demi langkah yang berfungsi pada versi terkini. Kosongkan cache, kemas kini dan banyak lagi—tiada kemahiran teknikal diperlukan!

Cara Membaiki Ralat Log Masuk Microsoft Teams pada Chromebook

Cara Membaiki Ralat Log Masuk Microsoft Teams pada Chromebook

Menghadapi ralat log masuk Microsoft Teams pada Chromebook? Temui penyelesaian langkah demi langkah untuk menyelesaikan masalah log masuk dengan cepat. Kosongkan cache, kemas kini aplikasi dan banyak lagi untuk kerja berpasukan yang lancar. Berfungsi pada OS Chrome terkini!

Menyelesaikan Masalah Kelewatan Persidangan Video Microsoft Teams pada Wi-Fi

Menyelesaikan Masalah Kelewatan Persidangan Video Microsoft Teams pada Wi-Fi

Bergelut dengan kelewatan persidangan video Microsoft Teams semasa menggunakan Wi-Fi? Panduan penyelesaian masalah muktamad ini memberikan penyelesaian pantas, petua lanjutan dan pengoptimuman Wi-Fi untuk memulihkan panggilan video yang jelas serta-merta.

Di Mana Boleh Cari Kod QR Microsoft Teams untuk Log Masuk Mudah Alih Pantas

Di Mana Boleh Cari Kod QR Microsoft Teams untuk Log Masuk Mudah Alih Pantas

Ketahui dengan tepat di mana untuk mencari Kod QR Microsoft Teams untuk log masuk mudah alih yang sangat pantas. Panduan langkah demi langkah dengan visual untuk memudahkan anda berhubung dalam beberapa saat—tiada kata laluan diperlukan!