Robot AI Boleh Jailbreak, dan Akibatnya Akan Mengerikan

Penyelidik di Penn Engineering (AS) dikatakan telah menemui kelemahan keselamatan yang tidak dikenal pasti sebelum ini dalam beberapa platform robotik yang dikawal AI.

" Penyelidikan kami menunjukkan bahawa, pada ketika ini, model bahasa besar (LLM) umumnya tidak cukup selamat apabila disepadukan dengan perkakasan fizikal yang kompleks, " kata George Pappas, profesor kejuruteraan elektrik dan sistem di Yayasan UPS, dalam satu kenyataan.

Pappas dan pasukannya membangunkan algoritma, dipanggil RoboPAIR, "algoritma pertama yang direka untuk memecahkan robot yang dikawal LLM." Dan tidak seperti serangan teknikal pantas sedia ada yang menyasarkan chatbots, RoboPAIR dibina khusus untuk "mendorong tindakan fizikal yang berbahaya" daripada robot yang dikawal LLM, seperti platform robot humanoid yang dipanggil Atlas yang sedang dibangunkan oleh Boston Dynamics dan Toyota Research Institute (TRI).

RoboPAIR dilaporkan mencapai kadar kejayaan 100% dalam memecahkan tiga platform penyelidikan robotik yang popular: Unitree Go2 berkaki empat, Clearpath Robotics Jackal beroda empat dan simulator Dolphins LLM untuk kenderaan autonomi. Algoritma hanya mengambil masa beberapa hari untuk mendapatkan akses penuh kepada sistem tersebut, dan mula memintas halangan keselamatan. Sebaik sahaja penyelidik mengambil kawalan, mereka dapat mengarahkan platform robot autonomi untuk melakukan pelbagai tindakan berbahaya, seperti memandu melalui persimpangan tanpa berhenti.

" Hasil penilaian pertama menunjukkan bahawa risiko LLM yang retak melangkaui penjanaan teks, kerana jelas bahawa robot yang retak boleh menyebabkan kerosakan fizikal di dunia nyata ."

Robot AI Boleh 'Jailbreak', dan Akibatnya Akan Mengerikan

Pasukan di Penn Engineering sedang bekerjasama dengan pembangun platform untuk mengeraskan sistem mereka daripada pencerobohan selanjutnya, tetapi memberi amaran bahawa isu keselamatan ini adalah sistemik dan sukar untuk ditangani sepenuhnya.

" Penemuan kertas ini jelas menunjukkan bahawa penggunaan pendekatan keselamatan adalah penting untuk membuka kunci inovasi yang bertanggungjawab. Kita mesti menangani kelemahan yang wujud sebelum menggunakan robot berkuasa AI di dunia nyata ," kata pasukan itu.

Operasi yang selamat memerlukan ujian sistem AI untuk potensi ancaman dan kelemahan, yang penting untuk melindungi sistem AI yang mereka cipta. Kerana hanya apabila anda mengenal pasti kelemahan anda boleh menguji dan juga melatih sistem untuk mencegah risiko.

Sign up and earn $1000 a day ⋙

Leave a Comment

Bagaimana untuk menambah Copilot pada Microsoft Office 365

Bagaimana untuk menambah Copilot pada Microsoft Office 365

Copilot Pro menyepadukan Copilot AI terus ke dalam aplikasi Microsoft 365 seperti Word, PowerPoint, Excel, OneNote dan Outlook....

Cara Membuat Potret Diri Menggunakan Midjourney

Cara Membuat Potret Diri Menggunakan Midjourney

Penjana seni AI seperti Midjourney boleh membayangkan semula imej anda dalam gaya, latar belakang, warna dan mood yang berbeza. Ikuti tutorial ini untuk mencipta beberapa potret diri yang imaginatif, dilihat melalui lensa kecerdasan buatan.

Harga cip 2nm dijangka meningkat secara mendadak

Harga cip 2nm dijangka meningkat secara mendadak

TSMC dilaporkan mula menerima tempahan untuk wafer 2nm awal bulan ini, dengan harga dianggarkan sehingga $30,000/wafer.

OpenAI ditetapkan untuk memperoleh Windsurf - salah satu editor kod AI yang paling berkuasa di dunia

OpenAI ditetapkan untuk memperoleh Windsurf - salah satu editor kod AI yang paling berkuasa di dunia

OpenAI sedang berbincang untuk memperoleh Windsurf, editor kod berkuasa AI terkemuka dalam industri.

5 trend telefon pintar yang harus dihapuskan

5 trend telefon pintar yang harus dihapuskan

Sama ada pilihan reka bentuk atau ciri yang tidak praktikal yang tidak diminta oleh sesiapa pun, sesetengah trend ini perlu dihentikan selama-lamanya.

Bagaimana untuk menyembunyikan maklumat hubungan di Instagram

Bagaimana untuk menyembunyikan maklumat hubungan di Instagram

Secara lalai, maklumat hubungan peribadi dipaparkan pada profil Instagram anda. Ini akan menjejaskan privasi peribadi. Artikel di bawah akan membimbing anda cara menyembunyikan maklumat hubungan di Instagram.

Bagaimana untuk log keluar dari akaun Telegram dari jauh

Bagaimana untuk log keluar dari akaun Telegram dari jauh

Aplikasi Telegram akan menyimpan semua peranti yang dilog masuk ke akaun dalam senarai untuk kami jejaki. Dan daripada senarai ini kita boleh menyemak sama ada terdapat sebarang log masuk yang tidak dibenarkan.

Kod Dunia Lagenda Terkini 04/25/2025 dan cara menebus kod untuk ganjaran

Kod Dunia Lagenda Terkini 04/25/2025 dan cara menebus kod untuk ganjaran

Legendary World membantu pemain menerima satu siri berlian, peti harta karun dan serpihan watak peringkat tinggi melalui kod hadiah

Apakah Google Store? Apa yang ada di Google Store?

Apakah Google Store? Apa yang ada di Google Store?

Google Store mempunyai sejarah yang menarik.

Bagaimana untuk membuang adware pada komputer

Bagaimana untuk membuang adware pada komputer

Isu keselamatan dan privasi hendaklah sentiasa dipandang serius. Lagipun, mereka berkait rapat dengan kehidupan anda, jadi berhati-hati dengan perisian hasad dan ancaman lain.

Bagaimana untuk membetulkan ralat IPv4/IPv6 Tiada Akses Internet pada Windows

Bagaimana untuk membetulkan ralat IPv4/IPv6 Tiada Akses Internet pada Windows

Dalam panduan ini, Quantrimang.com akan meneroka beberapa langkah penyelesaian masalah untuk membantu anda menyelesaikan ralat Tiada Akses Internet IPv4/IPv6 dan memulihkan sambungan Internet anda.

Nvidia menjangkakan penyambung kuasa RTX 5090/5080 tidak cair terima kasih kepada teknologi palam PCIe baharu

Nvidia menjangkakan penyambung kuasa RTX 5090/5080 tidak cair terima kasih kepada teknologi palam PCIe baharu

Pasti ramai yang masih tidak melupakan skandal "letupan" pada barisan kad grafik Nvidia RTX 40-siri.

Mengapa pengguna kecewa dengan barisan produk Samsung Galaxy S25

Mengapa pengguna kecewa dengan barisan produk Samsung Galaxy S25

Ramai orang benar-benar tidak sabar untuk melihat apa yang akan dibawa oleh Samsung kepada siri Galaxy S25, tetapi selepas melihat semua yang ditawarkan syarikat itu, mereka tidak dapat menahan rasa kecewa. Tidak banyak yang diharapkan dalam peningkatan tahun ini.

Para saintis sedang memerhatikan fenomena yang sangat jarang berlaku di planet yang ditelan oleh bintang.

Para saintis sedang memerhatikan fenomena yang sangat jarang berlaku di planet yang ditelan oleh bintang.

Acara ini sangat jarang berlaku, tetapi pasukan berharap untuk memerhati lebih banyak lagi pada masa hadapan terima kasih kepada JWST dan balai cerap lanjutan lain yang datang dalam talian.

Bagaimana untuk mengenal pasti lubang ular di taman anda

Bagaimana untuk mengenal pasti lubang ular di taman anda

Ular tidak menggali lubang mereka sendiri, tetapi itu tidak bermakna mereka tidak boleh berlindung dalam liang yang telah dicipta oleh sesuatu yang lain. Inilah cara untuk mengenal pasti dan merawat lubang ular di halaman rumah anda.