Home
» Wiki
»
OpenAI Pertimbangkan Menambah Tera Air pada Teks Dijana ChatGPT
OpenAI Pertimbangkan Menambah Tera Air pada Teks Dijana ChatGPT
Menurut The Wall Street Journal, OpenAI mempunyai sistem untuk teks penanda air yang dijana oleh ChatGPT dan alat untuk mengesan tera air sedia selama kira-kira setahun. Tetapi syarikat itu secara dalaman membahaskan sama ada untuk mengeluarkannya. Di satu pihak, ia kelihatan seperti perkara yang bertanggungjawab untuk dilakukan; Sebaliknya, ia boleh menjejaskan keuntungan syarikat.
Penanda air OpenAI digambarkan sebagai melaraskan cara model meramalkan perkataan dan frasa yang paling mungkin selepas perkataan dan frasa sebelumnya, mewujudkan corak yang boleh dikesan.
Menyediakan apa-apa cara untuk mengesan bahan bertulis AI adalah potensi untuk guru yang cuba menghalang pelajar daripada menggunakan AI untuk membuat kerja rumah mereka. The Journal melaporkan bahawa syarikat mendapati tera air tidak menjejaskan kualiti output teks chatbot. Dalam tinjauan yang ditugaskan oleh syarikat itu, "orang di seluruh dunia menyokong idea alat pengesan AI dengan margin 4:1," tulis Journal.
Selepas Jurnal menerbitkan ceritanya, OpenAI mengesahkan bahawa ia telah menolak penambahan tera air teks dalam kemas kini catatan blog hari ini yang dilihat oleh TechCrunch. Di dalamnya, syarikat itu mengatakan kaedahnya sangat tepat ("99.9 peratus berkesan," menurut dokumen yang dilihat oleh Jurnal) dan tahan terhadap "penipuan, seperti parafrasa." Syarikat itu juga berkata ia bimbang tentang stigma mengenai kegunaan alat AI untuk penutur bukan asli.
Tetapi nampaknya OpenAI juga bimbang menggunakan tera air boleh mengasingkan pengguna ChatGPT. Menurut tinjauan itu, hampir 30% daripada mereka memberitahu syarikat bahawa mereka akan menggunakan perisian kurang jika ciri tera air dilaksanakan.
Namun, sesetengah pekerja merasakan bahawa ciri tera air akan berkesan. Bagaimanapun, sebagai tindak balas kepada kekecewaan pengguna, Jurnal berkata beberapa kaedah ujian yang dicadangkan "mungkin kurang kontroversi di kalangan pengguna tetapi tidak terbukti." Dalam kemas kini catatan blog hari ini, syarikat itu berkata ia "di peringkat awal" meneroka pembenaman metadata, dan masih "terlalu awal" untuk mengetahui sejauh mana ciri baharu itu akan berfungsi, tetapi memandangkan ia ditandatangani secara kriptografi, seharusnya tidak ada sebarang positif palsu.