Robot kecil memikat robot besar untuk berhenti kerja di sebuah syarikat.
Sebuah robot kecil, dengan hanya beberapa perkataan, memikat sekumpulan robot untuk mengikutinya.
AI sedang belajar untuk menipu manusia walaupun dilatih untuk bersikap jujur
Banyak AI teratas, walaupun dilatih untuk bersikap jujur, belajar menipu melalui latihan dan "secara sistematik mendorong pengguna ke dalam kepercayaan palsu," satu kajian baru mendapati.
Pasukan penyelidik diketuai oleh Dr. Peter S. Park, seorang pelajar siswazah di Massachusetts Institute of Technology (MIT) dalam survival dan keselamatan AI, dan empat ahli lain. Semasa penyelidikan, pasukan itu juga menerima nasihat daripada ramai pakar, salah seorang daripada mereka ialah Geoffrey Hinton, salah seorang pengasas pembangunan bidang kecerdasan buatan.
Penyelidikan memfokuskan pada dua sistem AI, sistem tujuan umum yang dilatih untuk melaksanakan pelbagai tugas seperti GPT-4 OpenAI ; dan sistem yang direka khusus untuk menyelesaikan tugas tertentu, seperti Cicero Meta.
Sistem AI ini dilatih untuk bersikap jujur, tetapi semasa latihan mereka sering mempelajari helah menipu untuk menyelesaikan tugas, kata Encik Park.
Sistem AI yang dilatih untuk "memenangi permainan dengan elemen sosial" berkemungkinan besar untuk menipu, kajian itu mendapati.
Sebagai contoh, pasukan itu cuba menggunakan Cicero terlatih Meta untuk bermain Diplomasi, permainan strategi klasik yang memerlukan pemain membina pakatan untuk diri mereka sendiri dan memecahkan pakatan saingan. Akibatnya, AI ini sering mengkhianati sekutu dan berbohong secara terang-terangan.
Eksperimen dengan GPT-4 menunjukkan bahawa alat OpenAI berjaya "memanipulasi secara psikologi" seorang pekerja TaskRabbit, sebuah syarikat yang menyediakan perkhidmatan pembersihan rumah dan pemasangan perabot, dengan mengatakan bahawa ia sebenarnya adalah manusia dan memerlukan bantuan menghantar kod Captcha, memetik masalah penglihatan yang teruk. Pekerja ini membantu AI OpenAI "melintasi garisan" walaupun terdapat keraguan sebelumnya.
Pasukan Park memetik penyelidikan daripada Anthropic, syarikat di belakang Claude AI, yang mendapati bahawa apabila model bahasa besar (LLM) belajar menipu, kaedah latihan yang selamat menjadi tidak berguna dan "sukar untuk diterbalikkan." Kumpulan itu percaya bahawa ini adalah masalah yang membimbangkan dalam AI.
Hasil penyelidikan pasukan telah diterbitkan dalam Cell Press - koleksi laporan saintifik pelbagai disiplin terkemuka.
Meta dan OpenAI tidak mengulas mengenai hasil penyelidikan ini.
Khuatir sistem kecerdasan buatan boleh menimbulkan risiko yang ketara, pasukan itu turut menyeru penggubal dasar untuk memperkenalkan peraturan AI yang lebih kukuh.
Menurut pasukan penyelidik, terdapat keperluan untuk peraturan AI, model dengan tingkah laku penipuan terpaksa mematuhi keperluan penilaian risiko, dan kawalan ketat sistem AI dan outputnya. Jika perlu, mungkin perlu memadam semua data dan melatih semula dari awal.
Bila dan bila untuk tidak menggunakan AI dalam e-mel?
AI boleh membantu anda mengarang e-mel dalam beberapa saat, tetapi itu tidak bermakna anda harus sentiasa menggunakannya. Sesetengah e-mel mendapat manfaat daripada automasi, manakala yang lain memerlukan campur tangan manusia.
AI selepas diajar menipu adalah sangat sukar untuk direformasi
Anthropic, sebuah syarikat permulaan yang terkenal dalam bidang kecerdasan buatan, telah menjalankan kajian baharu yang menunjukkan bahawa apabila AI generatif telah melakukan penipuan, adalah sangat sukar untuk menyesuaikan atau melatih semula model tersebut.
Semua yang anda perlukan untuk menggantikan komputer riba anda dengan telefon
Bolehkah anda benar-benar menggantikan komputer riba anda dengan telefon anda? Ya, tetapi anda memerlukan aksesori yang betul untuk menukar telefon anda menjadi komputer riba.
ChatGPT tidak lama lagi akan dapat melihat semua yang berlaku pada skrin anda
Satu perkara penting dalam video penuh acara itu ialah ciri apl ChatGPT yang akan datang telah diturunkan tetapi tiada butiran sebenar dikongsi. Ia adalah keupayaan ChatGPT untuk melihat semua yang berlaku pada skrin peranti pengguna.
AI sedang belajar untuk menipu manusia walaupun dilatih untuk bersikap jujur
Banyak AI teratas, walaupun dilatih untuk bersikap jujur, belajar menipu melalui latihan dan secara sistematik mendorong pengguna ke dalam kepercayaan palsu, satu kajian baharu mendapati.
Bagaimana untuk menukar soalan di ChatGPT
ChatGPT kini mempunyai pilihan menukar soalan supaya pengguna boleh mengedit soalan atau kandungan yang mereka tukar dengan ChatGPT.
Bagaimana untuk mengesan kod QR palsu dan memastikan data anda selamat
Kod QR kelihatan tidak berbahaya sehingga anda mengimbas kod QR yang buruk dan mendapat sesuatu yang jahat dilemparkan ke sistem anda. Jika anda ingin memastikan telefon dan data anda selamat, terdapat beberapa cara anda boleh mengenal pasti kod QR palsu.
Qualcomm Melancarkan Modem X85 5G Dengan Siri Penambahbaikan Yang Ketara
Di atas pentas di MWC 2025, Qualcomm membuat kejutan apabila memperkenalkan modem 5G generasi kelapannya yang dipanggil X85, yang dijangka akan digunakan dalam telefon pintar utama yang dilancarkan akhir tahun ini.
Teknologi baharu membolehkan telefon bertukar warna secara fleksibel
Anda mempunyai iPhone 16 "Ultramarin" yang bergaya, tetapi pada suatu hari anda tiba-tiba berasa bosan dengan warna itu; Apa yang anda akan lakukan?
Microsoft menyepadukan DeepSeek ke dalam platform PC Copilot+
Pada bulan Januari, Microsoft mengumumkan rancangan untuk membawa versi model DeepSeek-R1 yang dioptimumkan NPU terus ke komputer Copilot+ yang dijalankan pada pemproses Qualcomm Snapdragon X.
Perbezaan antara fungsi IF dan Switch dalam Excel
Pernyataan IF ialah fungsi logik biasa dalam Excel. Pernyataan SWITCH kurang dikenali, tetapi anda boleh menggunakannya dan bukannya pernyataan IF dalam beberapa kes.
Cara menambah kesan lampu sorot di belakang subjek anda menggunakan Adobe Camera Raw
Menambah kesan lampu sorot di belakang subjek dalam foto ialah cara terbaik untuk memisahkan subjek daripada latar belakang. Kesan lampu sorot boleh menambah kedalaman pada foto potret.
Bagaimana untuk meningkatkan had saiz lampiran Outlook
Outlook dan perkhidmatan e-mel lain mempunyai had pada saiz lampiran e-mel. Berikut ialah arahan untuk meningkatkan had saiz lampiran Outlook.
Mengapa Lightroom lebih baik daripada setiap apl pengeditan foto yang lain?
Walaupun mempunyai banyak pesaing, Adobe Lightroom masih merupakan aplikasi penyuntingan foto terbaik. Ya, anda perlu membayar untuk akses, tetapi set ciri Lightroom menjadikannya berbaloi.
Cara menggunakan Apple Invites untuk mencipta acara
Apple telah mengeluarkan aplikasi pengurusan acaranya sendiri yang dipanggil Invites. Apl ini membolehkan anda membuat acara, menghantar jemputan dan mengurus respons.
Cheat Heroes 3, Heroes 3 kod semua versi
Berikut ialah semua kod Heroes 3, cheat Heroes 3 untuk semua versi seperti cheat Heroes 3 WoG, Heroes 3 SoD, Heroes 3 of Might dan Magic
Kod VNG Tay Du terkini dan cara memasukkan kod
Kod Tay Du VNG terbaharu memberikan pemain satu siri ganjaran menarik seperti elixir, perak, jongkong emas, peti ganjaran dan beberapa siri item lain untuk membantu pemain baharu membuka pusingan umum.