Penyelidik di Penn Engineering (AS) dikatakan telah menemui kelemahan keselamatan yang tidak dikenal pasti sebelum ini dalam beberapa platform robotik yang dikawal AI.
" Penyelidikan kami menunjukkan bahawa, pada ketika ini, model bahasa besar (LLM) umumnya tidak cukup selamat apabila disepadukan dengan perkakasan fizikal yang kompleks, " kata George Pappas, profesor kejuruteraan elektrik dan sistem di Yayasan UPS, dalam satu kenyataan.
Pappas dan pasukannya membangunkan algoritma, dipanggil RoboPAIR, "algoritma pertama yang direka untuk memecahkan robot yang dikawal LLM." Dan tidak seperti serangan teknikal pantas sedia ada yang menyasarkan chatbots, RoboPAIR dibina khusus untuk "mendorong tindakan fizikal yang berbahaya" daripada robot yang dikawal LLM, seperti platform robot humanoid yang dipanggil Atlas yang sedang dibangunkan oleh Boston Dynamics dan Toyota Research Institute (TRI).
RoboPAIR dilaporkan mencapai kadar kejayaan 100% dalam memecahkan tiga platform penyelidikan robotik yang popular: Unitree Go2 berkaki empat, Clearpath Robotics Jackal beroda empat dan simulator Dolphins LLM untuk kenderaan autonomi. Algoritma hanya mengambil masa beberapa hari untuk mendapatkan akses penuh kepada sistem tersebut, dan mula memintas halangan keselamatan. Sebaik sahaja penyelidik mengambil kawalan, mereka dapat mengarahkan platform robot autonomi untuk melakukan pelbagai tindakan berbahaya, seperti memandu melalui persimpangan tanpa berhenti.
" Hasil penilaian pertama menunjukkan bahawa risiko LLM yang retak melangkaui penjanaan teks, kerana jelas bahawa robot yang retak boleh menyebabkan kerosakan fizikal di dunia nyata ."
Pasukan di Penn Engineering sedang bekerjasama dengan pembangun platform untuk mengeraskan sistem mereka daripada pencerobohan selanjutnya, tetapi memberi amaran bahawa isu keselamatan ini adalah sistemik dan sukar untuk ditangani sepenuhnya.
" Penemuan kertas ini jelas menunjukkan bahawa penggunaan pendekatan keselamatan adalah penting untuk membuka kunci inovasi yang bertanggungjawab. Kita mesti menangani kelemahan yang wujud sebelum menggunakan robot berkuasa AI di dunia nyata ," kata pasukan itu.
Operasi yang selamat memerlukan ujian sistem AI untuk potensi ancaman dan kelemahan, yang penting untuk melindungi sistem AI yang mereka cipta. Kerana hanya apabila anda mengenal pasti kelemahan anda boleh menguji dan juga melatih sistem untuk mencegah risiko.
Mewujudkan hubungan yang sihat dengan teknologi boleh kelihatan menakutkan, tetapi perubahan kecil sering membuat perbezaan yang besar.
Apl Galeri Samsung lebih berkebolehan daripada yang anda fikirkan, tetapi itu mungkin tidak jelas dengan serta-merta.
Microsoft dikatakan semakin hampir untuk melancarkan telefon pintar boleh lipat pertamanya apabila ia diberikan paten untuk telefon boleh lipat dengan keupayaan untuk melipat 360 darjah tetapi tanpa menimbulkan kedutan pada skrin pada 1 Oktober.
Google sedang menguji ciri pengesahan baharu melalui tanda semak biru dalam carian. Ciri ini akan membantu pengguna mengelak daripada mengklik pada pautan tapak web palsu atau penipuan.
Pada pandangan pertama, Microsoft 365 dan Office 2024 mungkin kelihatan sangat serupa, kerana kedua-duanya memberi anda akses kepada aplikasi Microsoft yang popular dan digunakan secara meluas.
Kod Elemental Dungeons ialah bentuk ganjaran yang diperlukan untuk pemain. Seperti mana-mana permainan dalam talian lain di Roblox, pemain boleh menerima bantuan ini sebagai pertukaran wang atau barangan lain.
Apabila anda mencetak dokumen Word, cipta jadual dalam Word, mengulangi tajuk dalam Word membantu kami menjejak tajuk dengan lebih mudah, membaca tajuk dokumen dengan lancar merentas halaman yang berbeza, terutamanya dengan tajuk yang panjang.
iOS 18 iMessage baharu dikemas kini dengan mesej animasi, kesan teks dengan banyak pilihan untuk digunakan untuk mesej yang anda hantar.
Terdapat fakta menarik tentang babi yang tidak semua orang tahu: babi dianggap musuh ular, kerana apabila kedua-dua haiwan ini bertemu, kebanyakan ular akan menjadi makanan untuk babi.
Berapakah jarak dari Bumi ke Musytari? Jika anda tidak tahu, artikel ini akan memberitahu anda sejauh mana Musytari dari Bumi.
Jeneral manakah yang keluar daripada meta Mobile Alliance? Jom explore sekarang
Graves DTCL dari musim 1, musim 3 dan musim 6 semuanya berharga 1 emas dan nampaknya cuma juara tambahan untuk merangsang klan, peranan utama dalam early game masih digunakan tetapi tidak banyak. Setakat DTCL musim 7.5, Graves telah melonjakkan harganya kepada 4 emas dan pastinya merupakan pembawa yang sangat diperlukan jika anda memutuskan untuk bermain Thunder Dragon atau Gunner.
Dengan telefon Samsung, anda harus menggunakan ciri bunyi apl yang berasingan. Contohnya, anda boleh memainkan Apple Music dan telefon anda akan menghalakan audio melalui pembesar suara kereta anda.
Terdapat banyak status yang baik tentang kerja di Internet. Artikel ini akan meringkaskan untuk anda status pekerjaan yang baik dan bermakna.
Apakah kapsyen ulang tahun perkahwinan yang baik dan bermakna? Artikel itu akan meringkaskan untuk anda kapsyen ulang tahun yang ringkas dan padat yang boleh membuatkan pasangan anda ingat selama-lamanya.
