Penyelidik di Penn Engineering (AS) dikatakan telah menemui kelemahan keselamatan yang tidak dikenal pasti sebelum ini dalam beberapa platform robotik yang dikawal AI.
" Penyelidikan kami menunjukkan bahawa, pada ketika ini, model bahasa besar (LLM) umumnya tidak cukup selamat apabila disepadukan dengan perkakasan fizikal yang kompleks, " kata George Pappas, profesor kejuruteraan elektrik dan sistem di Yayasan UPS, dalam satu kenyataan.
Pappas dan pasukannya membangunkan algoritma, dipanggil RoboPAIR, "algoritma pertama yang direka untuk memecahkan robot yang dikawal LLM." Dan tidak seperti serangan teknikal pantas sedia ada yang menyasarkan chatbots, RoboPAIR dibina khusus untuk "mendorong tindakan fizikal yang berbahaya" daripada robot yang dikawal LLM, seperti platform robot humanoid yang dipanggil Atlas yang sedang dibangunkan oleh Boston Dynamics dan Toyota Research Institute (TRI).
RoboPAIR dilaporkan mencapai kadar kejayaan 100% dalam memecahkan tiga platform penyelidikan robotik yang popular: Unitree Go2 berkaki empat, Clearpath Robotics Jackal beroda empat dan simulator Dolphins LLM untuk kenderaan autonomi. Algoritma hanya mengambil masa beberapa hari untuk mendapatkan akses penuh kepada sistem tersebut, dan mula memintas halangan keselamatan. Sebaik sahaja penyelidik mengambil kawalan, mereka dapat mengarahkan platform robot autonomi untuk melakukan pelbagai tindakan berbahaya, seperti memandu melalui persimpangan tanpa berhenti.
" Hasil penilaian pertama menunjukkan bahawa risiko LLM yang retak melangkaui penjanaan teks, kerana jelas bahawa robot yang retak boleh menyebabkan kerosakan fizikal di dunia nyata ."
Pasukan di Penn Engineering sedang bekerjasama dengan pembangun platform untuk mengeraskan sistem mereka daripada pencerobohan selanjutnya, tetapi memberi amaran bahawa isu keselamatan ini adalah sistemik dan sukar untuk ditangani sepenuhnya.
" Penemuan kertas ini jelas menunjukkan bahawa penggunaan pendekatan keselamatan adalah penting untuk membuka kunci inovasi yang bertanggungjawab. Kita mesti menangani kelemahan yang wujud sebelum menggunakan robot berkuasa AI di dunia nyata ," kata pasukan itu.
Operasi yang selamat memerlukan ujian sistem AI untuk potensi ancaman dan kelemahan, yang penting untuk melindungi sistem AI yang mereka cipta. Kerana hanya apabila anda mengenal pasti kelemahan anda boleh menguji dan juga melatih sistem untuk mencegah risiko.
Cara membuang sisa pelekat daripada pakaian: daripada menanggalkannya dengan berhati-hati, menggunakan sejuk, air sabun dan pencuci kotoran sehingga ke proses membasuh. Dengan tip untuk gam super, sisa label dan fabrik sensitif.
Pelajari cara membersihkan penapis mesin basuh pinggan mangkuk langkah demi langkah: tanggalkan, bilas, berus, pasang semula, kekerapan dan tanda bahawa pembersihan mudah tidak lagi mencukupi.
Panduan membersihkan pelembap udara dengan asid sitrik: kepekatan, perendaman, pembilasan, dan amaran mengikut jenis berdasarkan maklumat rasmi pengeluar. Contoh senario hipotetikal disediakan untuk memudahkan pemahaman prosedur praktikal.
Jika penapis penyaman udara tidak dibersihkan, ia boleh menyebabkan peningkatan kos elektrik, penurunan kecekapan pemanasan dan penyejukan, serta menjadi punca bau dan kulat. Berdasarkan maklumat rasmi pengeluar dan penjimatan tenaga, artikel ini menerangkan kekerapan pembersihan, fungsi pembersihan automatik, dan cara memilih antara pembersihan sendiri atau profesional.
Ketahui bila boleh mencuci beg galas dalam mesin basuh, cara membaca label, memilih kitaran dan detergen, melindungi tali dan zip, serta bila lebih baik mencuci tangan.
Bosan dengan ralat Microsoft Teams Where to Find Team yang mengecewakan? Dapatkan pembetulan langkah demi langkah untuk desktop, web dan mudah alih. Selesaikannya dengan cepat dengan panduan pakar kami—tiada kemahiran teknikal diperlukan!
Bosan dengan Ralat Bantuan Microsoft Teams yang mengecewakan yang menyekat aliran kerja anda? Dapatkan pembetulan langkah demi langkah yang berfungsi pada versi terkini. Kosongkan cache, kemas kini dan banyak lagi—tiada kemahiran teknikal diperlukan!
Menghadapi ralat log masuk Microsoft Teams pada Chromebook? Temui penyelesaian langkah demi langkah untuk menyelesaikan masalah log masuk dengan cepat. Kosongkan cache, kemas kini aplikasi dan banyak lagi untuk kerja berpasukan yang lancar. Berfungsi pada OS Chrome terkini!
Bergelut dengan kelewatan persidangan video Microsoft Teams semasa menggunakan Wi-Fi? Panduan penyelesaian masalah muktamad ini memberikan penyelesaian pantas, petua lanjutan dan pengoptimuman Wi-Fi untuk memulihkan panggilan video yang jelas serta-merta.
Ketahui dengan tepat di mana untuk mencari Kod QR Microsoft Teams untuk log masuk mudah alih yang sangat pantas. Panduan langkah demi langkah dengan visual untuk memudahkan anda berhubung dalam beberapa saat—tiada kata laluan diperlukan!
