Banyak AI teratas, walaupun dilatih untuk bersikap jujur, belajar menipu melalui latihan dan "secara sistematik mendorong pengguna ke dalam kepercayaan palsu," satu kajian baru mendapati.
Pasukan penyelidik diketuai oleh Dr. Peter S. Park, seorang pelajar siswazah di Massachusetts Institute of Technology (MIT) dalam survival dan keselamatan AI, dan empat ahli lain. Semasa penyelidikan, pasukan itu juga menerima nasihat daripada ramai pakar, salah seorang daripada mereka ialah Geoffrey Hinton, salah seorang pengasas pembangunan bidang kecerdasan buatan.
Penyelidikan memfokuskan pada dua sistem AI, sistem tujuan umum yang dilatih untuk melaksanakan pelbagai tugas seperti GPT-4 OpenAI ; dan sistem yang direka khusus untuk menyelesaikan tugas tertentu, seperti Cicero Meta.
Sistem AI ini dilatih untuk bersikap jujur, tetapi semasa latihan mereka sering mempelajari helah menipu untuk menyelesaikan tugas, kata Encik Park.
Sistem AI yang dilatih untuk "memenangi permainan dengan elemen sosial" berkemungkinan besar untuk menipu, kajian itu mendapati.
Sebagai contoh, pasukan itu cuba menggunakan Cicero terlatih Meta untuk bermain Diplomasi, permainan strategi klasik yang memerlukan pemain membina pakatan untuk diri mereka sendiri dan memecahkan pakatan saingan. Akibatnya, AI ini sering mengkhianati sekutu dan berbohong secara terang-terangan.
Eksperimen dengan GPT-4 menunjukkan bahawa alat OpenAI berjaya "memanipulasi secara psikologi" seorang pekerja TaskRabbit, sebuah syarikat yang menyediakan perkhidmatan pembersihan rumah dan pemasangan perabot, dengan mengatakan bahawa ia sebenarnya adalah manusia dan memerlukan bantuan menghantar kod Captcha, memetik masalah penglihatan yang teruk. Pekerja ini membantu AI OpenAI "melintasi garisan" walaupun terdapat keraguan sebelumnya.
Pasukan Park memetik penyelidikan daripada Anthropic, syarikat di belakang Claude AI, yang mendapati bahawa apabila model bahasa besar (LLM) belajar menipu, kaedah latihan yang selamat menjadi tidak berguna dan "sukar untuk diterbalikkan." Kumpulan itu percaya bahawa ini adalah masalah yang membimbangkan dalam AI.
Hasil penyelidikan pasukan telah diterbitkan dalam Cell Press - koleksi laporan saintifik pelbagai disiplin terkemuka.
Meta dan OpenAI tidak mengulas mengenai hasil penyelidikan ini.
Khuatir sistem kecerdasan buatan boleh menimbulkan risiko yang ketara, pasukan itu turut menyeru penggubal dasar untuk memperkenalkan peraturan AI yang lebih kukuh.
Menurut pasukan penyelidik, terdapat keperluan untuk peraturan AI, model dengan tingkah laku penipuan terpaksa mematuhi keperluan penilaian risiko, dan kawalan ketat sistem AI dan outputnya. Jika perlu, mungkin perlu memadam semua data dan melatih semula dari awal.
Cara membuang sisa pelekat daripada pakaian: daripada menanggalkannya dengan berhati-hati, menggunakan sejuk, air sabun dan pencuci kotoran sehingga ke proses membasuh. Dengan tip untuk gam super, sisa label dan fabrik sensitif.
Pelajari cara membersihkan penapis mesin basuh pinggan mangkuk langkah demi langkah: tanggalkan, bilas, berus, pasang semula, kekerapan dan tanda bahawa pembersihan mudah tidak lagi mencukupi.
Panduan membersihkan pelembap udara dengan asid sitrik: kepekatan, perendaman, pembilasan, dan amaran mengikut jenis berdasarkan maklumat rasmi pengeluar. Contoh senario hipotetikal disediakan untuk memudahkan pemahaman prosedur praktikal.
Jika penapis penyaman udara tidak dibersihkan, ia boleh menyebabkan peningkatan kos elektrik, penurunan kecekapan pemanasan dan penyejukan, serta menjadi punca bau dan kulat. Berdasarkan maklumat rasmi pengeluar dan penjimatan tenaga, artikel ini menerangkan kekerapan pembersihan, fungsi pembersihan automatik, dan cara memilih antara pembersihan sendiri atau profesional.
Ketahui bila boleh mencuci beg galas dalam mesin basuh, cara membaca label, memilih kitaran dan detergen, melindungi tali dan zip, serta bila lebih baik mencuci tangan.
Bosan dengan ralat Microsoft Teams Where to Find Team yang mengecewakan? Dapatkan pembetulan langkah demi langkah untuk desktop, web dan mudah alih. Selesaikannya dengan cepat dengan panduan pakar kami—tiada kemahiran teknikal diperlukan!
Bosan dengan Ralat Bantuan Microsoft Teams yang mengecewakan yang menyekat aliran kerja anda? Dapatkan pembetulan langkah demi langkah yang berfungsi pada versi terkini. Kosongkan cache, kemas kini dan banyak lagi—tiada kemahiran teknikal diperlukan!
Menghadapi ralat log masuk Microsoft Teams pada Chromebook? Temui penyelesaian langkah demi langkah untuk menyelesaikan masalah log masuk dengan cepat. Kosongkan cache, kemas kini aplikasi dan banyak lagi untuk kerja berpasukan yang lancar. Berfungsi pada OS Chrome terkini!
Bergelut dengan kelewatan persidangan video Microsoft Teams semasa menggunakan Wi-Fi? Panduan penyelesaian masalah muktamad ini memberikan penyelesaian pantas, petua lanjutan dan pengoptimuman Wi-Fi untuk memulihkan panggilan video yang jelas serta-merta.
Ketahui dengan tepat di mana untuk mencari Kod QR Microsoft Teams untuk log masuk mudah alih yang sangat pantas. Panduan langkah demi langkah dengan visual untuk memudahkan anda berhubung dalam beberapa saat—tiada kata laluan diperlukan!
