Robot AI Boleh Jailbreak, dan Akibatnya Akan Mengerikan

Penyelidik di Penn Engineering (AS) dikatakan telah menemui kelemahan keselamatan yang tidak dikenal pasti sebelum ini dalam beberapa platform robotik yang dikawal AI.

" Penyelidikan kami menunjukkan bahawa, pada ketika ini, model bahasa besar (LLM) umumnya tidak cukup selamat apabila disepadukan dengan perkakasan fizikal yang kompleks, " kata George Pappas, profesor kejuruteraan elektrik dan sistem di Yayasan UPS, dalam satu kenyataan.

Pappas dan pasukannya membangunkan algoritma, dipanggil RoboPAIR, "algoritma pertama yang direka untuk memecahkan robot yang dikawal LLM." Dan tidak seperti serangan teknikal pantas sedia ada yang menyasarkan chatbots, RoboPAIR dibina khusus untuk "mendorong tindakan fizikal yang berbahaya" daripada robot yang dikawal LLM, seperti platform robot humanoid yang dipanggil Atlas yang sedang dibangunkan oleh Boston Dynamics dan Toyota Research Institute (TRI).

RoboPAIR dilaporkan mencapai kadar kejayaan 100% dalam memecahkan tiga platform penyelidikan robotik yang popular: Unitree Go2 berkaki empat, Clearpath Robotics Jackal beroda empat dan simulator Dolphins LLM untuk kenderaan autonomi. Algoritma hanya mengambil masa beberapa hari untuk mendapatkan akses penuh kepada sistem tersebut, dan mula memintas halangan keselamatan. Sebaik sahaja penyelidik mengambil kawalan, mereka dapat mengarahkan platform robot autonomi untuk melakukan pelbagai tindakan berbahaya, seperti memandu melalui persimpangan tanpa berhenti.

" Hasil penilaian pertama menunjukkan bahawa risiko LLM yang retak melangkaui penjanaan teks, kerana jelas bahawa robot yang retak boleh menyebabkan kerosakan fizikal di dunia nyata ."

Robot AI Boleh 'Jailbreak', dan Akibatnya Akan Mengerikan

Pasukan di Penn Engineering sedang bekerjasama dengan pembangun platform untuk mengeraskan sistem mereka daripada pencerobohan selanjutnya, tetapi memberi amaran bahawa isu keselamatan ini adalah sistemik dan sukar untuk ditangani sepenuhnya.

" Penemuan kertas ini jelas menunjukkan bahawa penggunaan pendekatan keselamatan adalah penting untuk membuka kunci inovasi yang bertanggungjawab. Kita mesti menangani kelemahan yang wujud sebelum menggunakan robot berkuasa AI di dunia nyata ," kata pasukan itu.

Operasi yang selamat memerlukan ujian sistem AI untuk potensi ancaman dan kelemahan, yang penting untuk melindungi sistem AI yang mereka cipta. Kerana hanya apabila anda mengenal pasti kelemahan anda boleh menguji dan juga melatih sistem untuk mencegah risiko.

Sign up and earn $1000 a day ⋙

Leave a Comment

ChatGPT Akan Membunuh 4 Jenis Laman Web Ini

ChatGPT Akan Membunuh 4 Jenis Laman Web Ini

AI chatbots membentuk semula sepenuhnya cara pengguna berinteraksi dengan tapak web dan menjadikan beberapa jenis tapak web usang dalam proses itu.

6 Masalah Terbesar Menggunakan Alat Peningkatan Foto AI Sekali Klik

6 Masalah Terbesar Menggunakan Alat Peningkatan Foto AI Sekali Klik

Alat peningkatan foto AI berjanji untuk menambah baik imej anda dengan hanya satu klik. Walau bagaimanapun, walaupun alat ini sangat mudah, masih terdapat beberapa masalah semasa menggunakannya.

Jax DTCL musim 8: Bina, pasukan Fighter Jax

Jax DTCL musim 8: Bina, pasukan Fighter Jax

Jax DTCL musim 8 adalah pembawa walaupun dia seorang Fighter, kemahirannya meningkatkan kerosakan dari semasa ke semasa dan itulah sebab utama dia bertukar menjadi carry dengan mudah.

When Life Memberi Anda Tangerine: Kisah Kehidupan, Cinta dan Empat Musim di Pulau Jeju

When Life Memberi Anda Tangerine: Kisah Kehidupan, Cinta dan Empat Musim di Pulau Jeju

Filem When Life Gives You Tangerines baru sahaja ditayangkan di Netflix dan telah menarik perhatian peminat dengan kisah-kisah yang menyentuh hati.

Status, petikan yang baik tentang masa depan, mengorientasikan jalan ke hadapan

Status, petikan yang baik tentang masa depan, mengorientasikan jalan ke hadapan

Status tentang masa depan dan petikan yang baik tentang masa depan di bawah akan menjadi sumber inspirasi yang kuat untuk membantu setiap orang mempunyai lebih banyak motivasi untuk berusaha.

5 telefon skrin lipat terbaik hari ini

5 telefon skrin lipat terbaik hari ini

Telefon flat telah menjadi satu-satunya pilihan sejak sekian lama, sejak penciptaan telefon pintar. Walau bagaimanapun, jika anda bosan dengan mereka dan ingin mencuba sesuatu yang berbeza, anda boleh membeli telefon boleh lipat.

Cara menyediakan mod Jangan Ganggu pada telefon Google Pixel

Cara menyediakan mod Jangan Ganggu pada telefon Google Pixel

Begini cara untuk menyediakan mod jangan ganggu pada telefon Google Pixel.

10 Ciri MIUI 12 pada Xiaomi Yang Perlu Anda Cuba

10 Ciri MIUI 12 pada Xiaomi Yang Perlu Anda Cuba

Sekiranya anda mempunyai telefon Xiaomi yang menjalankan MIUI 12 atau hanya ingin tahu tentang apa yang ditawarkan oleh perisian ini, berikut adalah 10 ciri yang anda mesti ketahui.

Cara Membuka dan Menggunakan MSConfig pada Windows 10

Cara Membuka dan Menggunakan MSConfig pada Windows 10

MSConfig ialah alat yang fleksibel dan baik untuk mengurus proses permulaan pada komputer anda. Selain itu, ia boleh digunakan lebih banyak jika anda ingin menyelesaikan masalah prestasi dan kestabilan.

Bagaimana untuk mencipta kepingan teka-teki dalam PowerPoint

Bagaimana untuk mencipta kepingan teka-teki dalam PowerPoint

Potongan teka-teki dalam PowerPoint boleh dibuat secara manual melalui Shapes atau anda boleh memuat turun templat kepingan teka-teki yang tersedia untuk digunakan untuk slaid pembentangan.

5 alat pembuat kopi automatik terbaik di rumah

5 alat pembuat kopi automatik terbaik di rumah

Pembuat kopi rumah automatik ialah produk moden dan profesional, membawakan anda dan keluarga anda secawan kopi "sedap" dengan hanya beberapa langkah pantas.

Fakta menarik tentang filem Wicked yang menyebabkan demam global

Fakta menarik tentang filem Wicked yang menyebabkan demam global

Wicked, versi skrin besar muzikal Broadway yang digemari, telah mencapai kejayaan besar. Di sebalik itu terdapat kisah-kisah menarik di sebalik tabir yang kedengaran sukar dipercayai tetapi 100% benar.

Kagumi hotel terbang yang tidak pernah mendarat dan dikuasakan oleh tenaga nuklear

Kagumi hotel terbang yang tidak pernah mendarat dan dikuasakan oleh tenaga nuklear

Pada 24 Jun, akaun YouTube pereka grafik Hashem Al-Ghaili menyiarkan video mempromosikan idea sebuah hotel terapung berkuasa nuklear bernama Sky Cruise.

Penemuan pelik: Bintang terkenal yang telah banyak diperhatikan sehingga kini ternyata sepasang kembar

Penemuan pelik: Bintang terkenal yang telah banyak diperhatikan sehingga kini ternyata sepasang kembar

Kadang-kadang, walaupun objek terkenal, diperhatikan dan dipelajari untuk masa yang sangat lama, mengandungi banyak kejutan.

Bukan AI, Tindakan ialah ciri Photoshop yang disukai pengguna

Bukan AI, Tindakan ialah ciri Photoshop yang disukai pengguna

Tersembunyi dalam apl, Photoshop Actions ialah ciri kegemaran alat penyunting foto yang popular, bertujuan untuk mempercepatkan aliran kerja tanpa memerlukan AI.