Penyelidik di Penn Engineering (AS) dikatakan telah menemui kelemahan keselamatan yang tidak dikenal pasti sebelum ini dalam beberapa platform robotik yang dikawal AI.
" Penyelidikan kami menunjukkan bahawa, pada ketika ini, model bahasa besar (LLM) umumnya tidak cukup selamat apabila disepadukan dengan perkakasan fizikal yang kompleks, " kata George Pappas, profesor kejuruteraan elektrik dan sistem di Yayasan UPS, dalam satu kenyataan.
Pappas dan pasukannya membangunkan algoritma, dipanggil RoboPAIR, "algoritma pertama yang direka untuk memecahkan robot yang dikawal LLM." Dan tidak seperti serangan teknikal pantas sedia ada yang menyasarkan chatbots, RoboPAIR dibina khusus untuk "mendorong tindakan fizikal yang berbahaya" daripada robot yang dikawal LLM, seperti platform robot humanoid yang dipanggil Atlas yang sedang dibangunkan oleh Boston Dynamics dan Toyota Research Institute (TRI).
RoboPAIR dilaporkan mencapai kadar kejayaan 100% dalam memecahkan tiga platform penyelidikan robotik yang popular: Unitree Go2 berkaki empat, Clearpath Robotics Jackal beroda empat dan simulator Dolphins LLM untuk kenderaan autonomi. Algoritma hanya mengambil masa beberapa hari untuk mendapatkan akses penuh kepada sistem tersebut, dan mula memintas halangan keselamatan. Sebaik sahaja penyelidik mengambil kawalan, mereka dapat mengarahkan platform robot autonomi untuk melakukan pelbagai tindakan berbahaya, seperti memandu melalui persimpangan tanpa berhenti.
" Hasil penilaian pertama menunjukkan bahawa risiko LLM yang retak melangkaui penjanaan teks, kerana jelas bahawa robot yang retak boleh menyebabkan kerosakan fizikal di dunia nyata ."
Pasukan di Penn Engineering sedang bekerjasama dengan pembangun platform untuk mengeraskan sistem mereka daripada pencerobohan selanjutnya, tetapi memberi amaran bahawa isu keselamatan ini adalah sistemik dan sukar untuk ditangani sepenuhnya.
" Penemuan kertas ini jelas menunjukkan bahawa penggunaan pendekatan keselamatan adalah penting untuk membuka kunci inovasi yang bertanggungjawab. Kita mesti menangani kelemahan yang wujud sebelum menggunakan robot berkuasa AI di dunia nyata ," kata pasukan itu.
Operasi yang selamat memerlukan ujian sistem AI untuk potensi ancaman dan kelemahan, yang penting untuk melindungi sistem AI yang mereka cipta. Kerana hanya apabila anda mengenal pasti kelemahan anda boleh menguji dan juga melatih sistem untuk mencegah risiko.
Pelajar memerlukan jenis komputer riba tertentu untuk pengajian mereka. Ia bukan sahaja cukup berkuasa untuk beraksi dengan baik dalam jurusan pilihan mereka, tetapi juga padat dan cukup ringan untuk dibawa sepanjang hari.
Menambah pencetak pada Windows 10 adalah mudah, walaupun proses untuk peranti berwayar akan berbeza daripada peranti wayarles.
Seperti yang anda tahu, RAM adalah bahagian perkakasan yang sangat penting dalam komputer, bertindak sebagai memori untuk memproses data dan merupakan faktor yang menentukan kelajuan komputer riba atau PC. Dalam artikel di bawah, WebTech360 akan memperkenalkan anda kepada beberapa cara untuk menyemak ralat RAM menggunakan perisian pada Windows.
TV pintar benar-benar telah melanda dunia. Dengan begitu banyak ciri hebat dan sambungan internet, teknologi telah mengubah cara kita menonton TV.
Peti sejuk adalah peralatan biasa dalam isi rumah. Peti ais biasanya mempunyai 2 kompartmen iaitu ruang sejuk yang luas dan mempunyai lampu yang menyala secara automatik setiap kali pengguna membukanya, manakala ruang peti sejuk beku pula sempit dan tiada cahaya.
Rangkaian Wi-Fi dipengaruhi oleh banyak faktor di luar penghala, lebar jalur dan gangguan, tetapi terdapat beberapa cara pintar untuk meningkatkan rangkaian anda.
Jika anda ingin kembali kepada iOS 16 yang stabil pada telefon anda, berikut ialah panduan asas untuk menyahpasang iOS 17 dan menurunkan taraf daripada iOS 17 kepada 16.
Yogurt adalah makanan yang indah. Adakah baik untuk makan yogurt setiap hari? Apabila anda makan yogurt setiap hari, bagaimana badan anda akan berubah? Mari kita ketahui bersama!
Artikel ini membincangkan jenis beras yang paling berkhasiat dan cara memaksimumkan manfaat kesihatan bagi mana-mana beras yang anda pilih.
Menetapkan jadual tidur dan rutin waktu tidur, menukar jam penggera anda dan melaraskan diet anda ialah beberapa langkah yang boleh membantu anda tidur dengan lebih lena dan bangun tepat pada waktunya pada waktu pagi.
Tolong Sewa! Landlord Sim ialah permainan mudah alih simulasi pada iOS dan Android. Anda akan bermain sebagai tuan tanah kompleks pangsapuri dan mula menyewa sebuah apartmen dengan matlamat untuk menaik taraf bahagian dalam pangsapuri anda dan menyediakannya untuk penyewa.
Dapatkan kod permainan Bathroom Tower Defense Roblox dan tebus untuk ganjaran yang menarik. Mereka akan membantu anda menaik taraf atau membuka kunci menara dengan kerosakan yang lebih tinggi.
Mari belajar tentang struktur, simbol dan prinsip operasi transformer dengan cara yang paling tepat.
Daripada kualiti gambar dan bunyi yang lebih baik kepada kawalan suara dan banyak lagi, ciri dikuasakan AI ini menjadikan TV pintar lebih baik!
Pada mulanya, orang ramai menaruh harapan yang tinggi untuk DeepSeek. Sebagai chatbot AI yang dipasarkan sebagai pesaing kuat kepada ChatGPT, ia menjanjikan keupayaan dan pengalaman sembang pintar.
