Microsoft Mengumumkan Alat Baharu untuk Mengesan dan Membetulkan Kandungan Halusinasi dalam Output AI

Azure AI Content Safety ialah perkhidmatan AI Microsoft yang membantu mengesan kandungan berbahaya yang dijana AI merentas apl, perkhidmatan dan platform. Utiliti ini menyediakan API teks dan imej, membolehkan pembangun mengenal pasti kandungan yang tidak diingini.

Groundedness API dalam Azure AI Content Safety dapat mengenal pasti sama ada respons daripada model bahasa yang besar adalah berdasarkan dokumen sumber yang dipilih pengguna. Memandangkan model bahasa besar semasa boleh menghasilkan maklumat yang tidak tepat atau palsu (maklumat ilusi), API ini membantu pembangun mengenal pasti kandungan tersebut dalam data output AI.

Microsoft Mengumumkan Alat Baharu untuk Mengesan dan Membetulkan Kandungan Halusinasi dalam Output AI

Hari ini, Microsoft mengumumkan pratonton pembetulan. Hasilnya, pembangun kini boleh mengesan dan membetulkan kandungan "ilusi" dalam data keluaran AI dalam masa nyata, memastikan pengguna akhir sentiasa menerima kandungan janaan AI yang tepat fakta. Ciri ini berfungsi seperti berikut:

  • Pembangun aplikasi membolehkan keupayaan mengedit.
  • Apabila data tidak berasas dikesan, permintaan baharu dihantar kepada model AI untuk membetulkan ralat.
  • Algoritma LLM akan menilai skor keseluruhan berdasarkan dokumen yang berwibawa.
  • Ayat yang tidak berkaitan dengan asas, dokumen yang disahkan boleh ditapis sepenuhnya.
  • Jika kandungan diperoleh daripada dokumen asas, model asas akan menulis semula ayat yang tidak berasas untuk dipadankan dengan dokumen tersebut.

Di samping ciri penyuntingan, Microsoft turut mengumumkan pratonton awam Hybrid Azure AI Content Safety (AACS). Ciri ini membolehkan pembangun melaksanakan mekanisme keselamatan kandungan dalam awan dan pada peranti. SDK terbenam AACS mendayakan semakan keselamatan kandungan masa nyata secara langsung pada peranti, walaupun tanpa sambungan internet.

Akhir sekali, Microsoft telah mengumumkan pratonton Pengesanan Bahan Terlindung untuk Kod yang boleh digunakan dengan aplikasi AI penjanaan kod untuk mengesan sama ada LLM menjana sebarang kod yang dilindungi. Ciri ini sebelum ini hanya tersedia melalui Perkhidmatan OpenAI Azure. Microsoft kini membuat Pengesanan Bahan Terlindung untuk Kod tersedia kepada pelanggan untuk digunakan bersama dengan model AI penjanaan kod lain.

Sign up and earn $1000 a day ⋙

Leave a Comment

Microsoft menyepadukan DeepSeek ke dalam platform PC Copilot+

Microsoft menyepadukan DeepSeek ke dalam platform PC Copilot+

Pada bulan Januari, Microsoft mengumumkan rancangan untuk membawa versi model DeepSeek-R1 yang dioptimumkan NPU terus ke komputer Copilot+ yang dijalankan pada pemproses Qualcomm Snapdragon X.

Microsoft membawa iklan menu Mula Windows 11 yang menjengkelkan ke Windows 10

Microsoft membawa iklan menu Mula Windows 11 yang menjengkelkan ke Windows 10

Microsoft terus mengumumkan rancangan untuk menambah ciri baharu pada Windows 10, walaupun pada hakikatnya sistem pengendalian itu pasti akan mati pada Oktober 2025.

Microsoft mengeluarkan koleksi kertas dinding desktop Fluid Textures baharu, muat turun sekarang!

Microsoft mengeluarkan koleksi kertas dinding desktop Fluid Textures baharu, muat turun sekarang!

Microsoft mengeluarkan koleksi kertas dinding desktop Fluid Textures baharu

Jemput memuat turun pek kertas dinding Dinamik yang direka untuk Windows 11 tetapi dibatalkan pada saat-saat akhir

Jemput memuat turun pek kertas dinding Dinamik yang direka untuk Windows 11 tetapi dibatalkan pada saat-saat akhir

Selain elemen seperti antara muka dan ciri baharu, aspek lain, walaupun kecil, juga menerima banyak perhatian pada Windows: pek kertas dinding yang direka dan diperkenalkan oleh Microsoft untuk majlis khas.

Microsoft berhenti menyokong apl Desktop Jauh Windows, beralih ke apl Windows baharu

Microsoft berhenti menyokong apl Desktop Jauh Windows, beralih ke apl Windows baharu

Microsoft telah membuat pengumuman penting untuk pelanggan menggunakan apl Desktop Jauh untuk Windows daripada Microsoft Store. Pada 27 Mei 2025, apl ini akan dihentikan secara rasmi dan dialih keluar daripada Gedung Microsoft.

Microsoft Menghentikan Sokongan untuk DRM Legasi pada Windows Media Player, Windows 7/8, Silverlight

Microsoft Menghentikan Sokongan untuk DRM Legasi pada Windows Media Player, Windows 7/8, Silverlight

Jika anda meminta lima pengguna Windows untuk menerangkan apa itu Pengurusan Hak Digital (DRM) Vista, anda mungkin akan mendapat lima jawapan yang berbeza. Tetapi ada satu perkara

Microsoft mengumumkan tarikh tamat sokongan untuk aplikasi dan pelayan Office 2016 dan 2019

Microsoft mengumumkan tarikh tamat sokongan untuk aplikasi dan pelayan Office 2016 dan 2019

Microsoft akhirnya secara rasmi mengumumkan penamat sokongan (EOS) yang dirancang untuk ekosistem aplikasi Office 2016 dan Office 2019.

Microsoft mula memaksa pengguna untuk mengemas kini kepada versi Windows 11 24H2

Microsoft mula memaksa pengguna untuk mengemas kini kepada versi Windows 11 24H2

Windows 11 versi 24H2 — satu-satunya kemas kini Windows 11 utama pada 2024 — telah dikeluarkan selama beberapa bulan dan perlahan-lahan stabil.

Microsoft menerangkan sebab ia menyekat Windows 11 24H2 pada beberapa PC Asus

Microsoft menerangkan sebab ia menyekat Windows 11 24H2 pada beberapa PC Asus

Isu ini mula-mula dilaporkan apabila pengguna melaporkan bahawa sesetengah PC tidak dapat melengkapkan kemas kini dan menghadapi ralat skrin biru kematian (BSOD).

Bagaimana untuk mendapatkan kemas kini Windows 11 24H2 yang baru dikeluarkan

Bagaimana untuk mendapatkan kemas kini Windows 11 24H2 yang baru dikeluarkan

Windows 11 dijangka menerima dua kemas kini utama yang ketara tahun ini.

Microsoft mahu pengguna memahami mengapa CPU lama tidak boleh menjalankan Windows 11

Microsoft mahu pengguna memahami mengapa CPU lama tidak boleh menjalankan Windows 11

Apabila pengguna cuba memasang Windows 11 build 26058, fail Persediaan akan memberikan mesej yang mengatakan "Pemproses PC ini tidak menyokong ciri kritikal (PopCnt)"

Versi asal Windows 11 hampir mati

Versi asal Windows 11 hampir mati

Tidak lama dahulu, Microsoft berhenti menyediakan sokongan untuk Windows 10 versi 21H2, yang bermaksud versi 22H2 menjadi satu-satunya keluaran Windows 10 yang disokong pada masa ini.

Cara Memasang Paint 3D pada Windows 10 dan 11

Cara Memasang Paint 3D pada Windows 10 dan 11

Paint 3D tidak lagi tersedia di Microsoft Store, tetapi itu tidak bermakna anda tidak akan mempunyai peluang lagi untuk mencubanya.

Microsoft berkongsi lebih banyak maklumat penting tentang pemasangan USB pada Windows 11

Microsoft berkongsi lebih banyak maklumat penting tentang pemasangan USB pada Windows 11

Pada tahun 2023, Windows 11 secara rasmi menyokong USB4 40Gbps, yang kemudiannya dikembangkan untuk menyokong kelajuan pemindahan data sehingga 80 dan 120Gbps.

Microsoft membenarkan pengguna menggunakan aplikasi Office pada Windows secara percuma, tetapi dengan beberapa batasan.

Microsoft membenarkan pengguna menggunakan aplikasi Office pada Windows secara percuma, tetapi dengan beberapa batasan.

Microsoft baru-baru ini menaikkan harga langganan Microsoft 365nya, mewajarkan perubahan itu dengan menambahkan lebih banyak pengalaman AI pada perkhidmatan tersebut.

Corki DTCL musim 7: Bina item, skuad Corki Gunner standard

Corki DTCL musim 7: Bina item, skuad Corki Gunner standard

Corki DTCL musim 7 memerlukan perlindungan atau sokongan untuk menyebabkan kawalan jika dia mahu bebas untuk memusnahkan pasukan musuh. Pada masa yang sama, peralatan Corki juga mestilah standard untuk dapat menangani kerosakan yang lebih berkesan.

Bagaimana untuk memuat turun Mini World Royale dan arahan tentang cara bermain

Bagaimana untuk memuat turun Mini World Royale dan arahan tentang cara bermain

Berikut ialah pautan muat turun untuk Mini World Royale dan arahan untuk bermain, kami akan mempunyai dua versi: Mini World Royale APK dan Mini World Royale iOS.

Apakah 1314?

Apakah 1314?

1314 ialah nombor yang sering digunakan oleh golongan muda sebagai kod cinta. Walau bagaimanapun, tidak semua orang tahu apa itu 1314 dan apakah maksudnya?

Bagaimana untuk melindungi kesihatan mental dan fizikal anda apabila berada dalam persekitaran toksik

Bagaimana untuk melindungi kesihatan mental dan fizikal anda apabila berada dalam persekitaran toksik

Berurusan dengan situasi toksik boleh menjadi sangat sukar. Berikut ialah beberapa petua untuk membantu anda mengendalikan persekitaran toksik dengan bijak dan mengekalkan ketenangan fikiran.

Cara muzik merangsang otak

Cara muzik merangsang otak

Kebanyakan orang tahu bahawa muzik bukan untuk hiburan semata-mata tetapi mempunyai lebih banyak faedah daripada itu. Berikut adalah beberapa cara muzik merangsang perkembangan otak kita.

Nutrien yang paling biasa kekurangan dalam diet

Nutrien yang paling biasa kekurangan dalam diet

Diet sangat penting untuk kesihatan kita. Namun kebanyakan diet kita sering kekurangan enam nutrien penting ini.

Cara menggunakan aplikasi CK Club Circle K untuk menerima tawaran menarik

Cara menggunakan aplikasi CK Club Circle K untuk menerima tawaran menarik

Untuk mendapatkan maklumat promosi terpantas daripada Circle K, anda harus memasang apl CK Club. Aplikasi ini menjimatkan pembayaran semasa membeli-belah atau membayar di Circle K serta bilangan setem yang dikumpul.

Instagram Akan Membenarkan Gulungan Sehingga 3 Minit Panjang

Instagram Akan Membenarkan Gulungan Sehingga 3 Minit Panjang

Instagram baru sahaja mengumumkan bahawa ia akan membenarkan pengguna menyiarkan video Reels sehingga 3 minit, dua kali ganda had 90 saat sebelumnya.

Cara melihat maklumat CPU Chromebook

Cara melihat maklumat CPU Chromebook

Artikel ini akan membimbing anda cara melihat maklumat CPU, menyemak kelajuan CPU terus pada Chromebook anda.

8 Perkara Hebat yang Boleh Anda Lakukan Dengan Tablet Android Lama

8 Perkara Hebat yang Boleh Anda Lakukan Dengan Tablet Android Lama

Jika anda tidak mahu menjual atau memberikan tablet lama anda, anda boleh menggunakannya dalam 5 cara: sebagai bingkai foto berkualiti tinggi, pemain muzik, pembaca e-buku & majalah, pembantu kerja rumah dan sebagai skrin kedua.

Bagaimana untuk mendapatkan kuku yang cantik dengan cepat

Bagaimana untuk mendapatkan kuku yang cantik dengan cepat

Anda ingin memiliki kuku yang cantik, berkilat dan sihat dengan cepat. Petua mudah untuk kuku yang cantik di bawah ini akan berguna kepada anda.

Rahsia inspirasi warna hanya pereka yang tahu

Rahsia inspirasi warna hanya pereka yang tahu

Artikel ini akan menyenaraikan petua yang diilhamkan warna, dikongsi oleh pereka terkenal daripada komuniti Pasaran Kreatif, supaya anda boleh mendapatkan kombinasi warna yang sempurna setiap masa.

Semua yang anda perlukan untuk menggantikan komputer riba anda dengan telefon

Semua yang anda perlukan untuk menggantikan komputer riba anda dengan telefon

Bolehkah anda benar-benar menggantikan komputer riba anda dengan telefon anda? Ya, tetapi anda memerlukan aksesori yang betul untuk menukar telefon anda menjadi komputer riba.

ChatGPT tidak lama lagi akan dapat melihat semua yang berlaku pada skrin anda

ChatGPT tidak lama lagi akan dapat melihat semua yang berlaku pada skrin anda

Satu perkara penting dalam video penuh acara itu ialah ciri apl ChatGPT yang akan datang telah diturunkan tetapi tiada butiran sebenar dikongsi. Ia adalah keupayaan ChatGPT untuk melihat semua yang berlaku pada skrin peranti pengguna.

AI sedang belajar untuk menipu manusia walaupun dilatih untuk bersikap jujur

AI sedang belajar untuk menipu manusia walaupun dilatih untuk bersikap jujur

Banyak AI teratas, walaupun dilatih untuk bersikap jujur, belajar menipu melalui latihan dan secara sistematik mendorong pengguna ke dalam kepercayaan palsu, satu kajian baharu mendapati.