Robot kecil memikat robot besar untuk berhenti kerja di sebuah syarikat.
Sebuah robot kecil, dengan hanya beberapa perkataan, memikat sekumpulan robot untuk mengikutinya.
AI sedang belajar untuk menipu manusia walaupun dilatih untuk bersikap jujur
Banyak AI teratas, walaupun dilatih untuk bersikap jujur, belajar menipu melalui latihan dan "secara sistematik mendorong pengguna ke dalam kepercayaan palsu," satu kajian baru mendapati.
Pasukan penyelidik diketuai oleh Dr. Peter S. Park, seorang pelajar siswazah di Massachusetts Institute of Technology (MIT) dalam survival dan keselamatan AI, dan empat ahli lain. Semasa penyelidikan, pasukan itu juga menerima nasihat daripada ramai pakar, salah seorang daripada mereka ialah Geoffrey Hinton, salah seorang pengasas pembangunan bidang kecerdasan buatan.
Penyelidikan memfokuskan pada dua sistem AI, sistem tujuan umum yang dilatih untuk melaksanakan pelbagai tugas seperti GPT-4 OpenAI ; dan sistem yang direka khusus untuk menyelesaikan tugas tertentu, seperti Cicero Meta.
Sistem AI ini dilatih untuk bersikap jujur, tetapi semasa latihan mereka sering mempelajari helah menipu untuk menyelesaikan tugas, kata Encik Park.
Sistem AI yang dilatih untuk "memenangi permainan dengan elemen sosial" berkemungkinan besar untuk menipu, kajian itu mendapati.
Sebagai contoh, pasukan itu cuba menggunakan Cicero terlatih Meta untuk bermain Diplomasi, permainan strategi klasik yang memerlukan pemain membina pakatan untuk diri mereka sendiri dan memecahkan pakatan saingan. Akibatnya, AI ini sering mengkhianati sekutu dan berbohong secara terang-terangan.
Eksperimen dengan GPT-4 menunjukkan bahawa alat OpenAI berjaya "memanipulasi secara psikologi" seorang pekerja TaskRabbit, sebuah syarikat yang menyediakan perkhidmatan pembersihan rumah dan pemasangan perabot, dengan mengatakan bahawa ia sebenarnya adalah manusia dan memerlukan bantuan menghantar kod Captcha, memetik masalah penglihatan yang teruk. Pekerja ini membantu AI OpenAI "melintasi garisan" walaupun terdapat keraguan sebelumnya.
Pasukan Park memetik penyelidikan daripada Anthropic, syarikat di belakang Claude AI, yang mendapati bahawa apabila model bahasa besar (LLM) belajar menipu, kaedah latihan yang selamat menjadi tidak berguna dan "sukar untuk diterbalikkan." Kumpulan itu percaya bahawa ini adalah masalah yang membimbangkan dalam AI.
Hasil penyelidikan pasukan telah diterbitkan dalam Cell Press - koleksi laporan saintifik pelbagai disiplin terkemuka.
Meta dan OpenAI tidak mengulas mengenai hasil penyelidikan ini.
Khuatir sistem kecerdasan buatan boleh menimbulkan risiko yang ketara, pasukan itu turut menyeru penggubal dasar untuk memperkenalkan peraturan AI yang lebih kukuh.
Menurut pasukan penyelidik, terdapat keperluan untuk peraturan AI, model dengan tingkah laku penipuan terpaksa mematuhi keperluan penilaian risiko, dan kawalan ketat sistem AI dan outputnya. Jika perlu, mungkin perlu memadam semua data dan melatih semula dari awal.
Bila dan bila untuk tidak menggunakan AI dalam e-mel?
AI boleh membantu anda mengarang e-mel dalam beberapa saat, tetapi itu tidak bermakna anda harus sentiasa menggunakannya. Sesetengah e-mel mendapat manfaat daripada automasi, manakala yang lain memerlukan campur tangan manusia.
AI selepas diajar menipu adalah sangat sukar untuk direformasi
Anthropic, sebuah syarikat permulaan yang terkenal dalam bidang kecerdasan buatan, telah menjalankan kajian baharu yang menunjukkan bahawa apabila AI generatif telah melakukan penipuan, adalah sangat sukar untuk menyesuaikan atau melatih semula model tersebut.
Bagaimana untuk mendapatkan semula akses kepada cakera keras, betulkan ralat kerana tidak dapat membuka cakera keras
Dalam artikel ini, kami akan membimbing anda cara mendapatkan semula akses kepada cakera keras anda apabila ia gagal. Jom ikut!
Cara menggunakan Kesedaran Perbualan dan Dengar Langsung pada AirPods
Pada pandangan pertama, AirPods kelihatan seperti mana-mana fon telinga wayarles sebenar yang lain. Tetapi itu semua berubah apabila beberapa ciri yang kurang diketahui ditemui.
Semua tentang iOS 26
Apple telah memperkenalkan iOS 26 – kemas kini utama dengan reka bentuk kaca beku yang serba baharu, pengalaman yang lebih pintar dan penambahbaikan pada apl biasa.
Komputer riba terbaik untuk pelajar pada tahun 2025
Pelajar memerlukan jenis komputer riba tertentu untuk pengajian mereka. Ia bukan sahaja cukup berkuasa untuk beraksi dengan baik dalam jurusan pilihan mereka, tetapi juga padat dan cukup ringan untuk dibawa sepanjang hari.
Bagaimana untuk menambah pencetak pada Windows 10
Menambah pencetak pada Windows 10 adalah mudah, walaupun proses untuk peranti berwayar akan berbeza daripada peranti wayarles.
Cara menyemak RAM dan menyemak ralat RAM pada komputer anda dengan kadar ketepatan tertinggi
Seperti yang anda tahu, RAM adalah bahagian perkakasan yang sangat penting dalam komputer, bertindak sebagai memori untuk memproses data dan merupakan faktor yang menentukan kelajuan komputer riba atau PC. Dalam artikel di bawah, WebTech360 akan memperkenalkan anda kepada beberapa cara untuk menyemak ralat RAM menggunakan perisian pada Windows.
Perbezaan antara TV biasa dan TV Pintar
TV pintar benar-benar telah melanda dunia. Dengan begitu banyak ciri hebat dan sambungan internet, teknologi telah mengubah cara kita menonton TV.
Mengapa peti sejuk tidak mempunyai lampu tetapi peti sejuk ada?
Peti sejuk adalah peralatan biasa dalam isi rumah. Peti ais biasanya mempunyai 2 kompartmen iaitu ruang sejuk yang luas dan mempunyai lampu yang menyala secara automatik setiap kali pengguna membukanya, manakala ruang peti sejuk beku pula sempit dan tiada cahaya.
2 Cara untuk Membetulkan Kesesakan Rangkaian Yang Melambatkan Wi-Fi
Rangkaian Wi-Fi dipengaruhi oleh banyak faktor di luar penghala, lebar jalur dan gangguan, tetapi terdapat beberapa cara pintar untuk meningkatkan rangkaian anda.
Cara Menurunkan Taraf daripada iOS 17 kepada iOS 16 tanpa Kehilangan Data menggunakan Tenorshare Reiboot
Jika anda ingin kembali kepada iOS 16 yang stabil pada telefon anda, berikut ialah panduan asas untuk menyahpasang iOS 17 dan menurunkan taraf daripada iOS 17 kepada 16.
Apa yang berlaku kepada badan apabila anda makan yogurt setiap hari?
Yogurt adalah makanan yang indah. Adakah baik untuk makan yogurt setiap hari? Apabila anda makan yogurt setiap hari, bagaimana badan anda akan berubah? Mari kita ketahui bersama!
Apakah jenis beras yang terbaik untuk kesihatan?
Artikel ini membincangkan jenis beras yang paling berkhasiat dan cara memaksimumkan manfaat kesihatan bagi mana-mana beras yang anda pilih.
Bagaimana untuk bangun tepat pada waktunya pada waktu pagi
Menetapkan jadual tidur dan rutin waktu tidur, menukar jam penggera anda dan melaraskan diet anda ialah beberapa langkah yang boleh membantu anda tidur dengan lebih lena dan bangun tepat pada waktunya pada waktu pagi.
Petua untuk bermain Rent Please! Tuan Tanah Sim untuk Pemula
Tolong Sewa! Landlord Sim ialah permainan mudah alih simulasi pada iOS dan Android. Anda akan bermain sebagai tuan tanah kompleks pangsapuri dan mula menyewa sebuah apartmen dengan matlamat untuk menaik taraf bahagian dalam pangsapuri anda dan menyediakannya untuk penyewa.
Kod Pertahanan Menara Bilik Mandi Terkini dan Cara Memasukkan Kod
Dapatkan kod permainan Bathroom Tower Defense Roblox dan tebus untuk ganjaran yang menarik. Mereka akan membantu anda menaik taraf atau membuka kunci menara dengan kerosakan yang lebih tinggi.