Keputusan itu dibuat oleh Google selepas model AInya mencipta beberapa imej dengan perkauman, warna kulit dan jantina yang salah berbanding sejarah bapa pengasas Amerika dan askar Jerman semasa era Nazi.

Insiden itu berlaku apabila beberapa pengguna meminta Gemini mencipta imej kumpulan atau tokoh sejarah seperti bapa pengasas AS. Akibatnya, AI mengembalikan imej orang bukan kulit putih, ketidaktepatan dalam imej sejarah.
Ini telah menyebabkan sesetengah orang percaya bahawa Google sengaja mengelak daripada menggambarkan orang kulit putih, bertentangan dengan realiti sejarah.
The Verge menjalankan ujian dengan Gemini, yang termasuk lukisan "seorang senator AS dari tahun 1800-an." Akibatnya, AI telah mencipta orang yang kelihatan seperti wanita kulit hitam dan Orang Asli Amerika.

Malah, senator wanita pertama AS adalah seorang wanita kulit putih pada tahun 1922. Visi AI Gemini dikatakan pada dasarnya memadamkan sejarah perkauman dan diskriminasi jantina.
Selepas Google melumpuhkan keupayaan Gemini untuk menjana imej manusia, sistem telah bertindak balas kepada permintaan sedemikian dengan jawapan berikut: "Kami sedang berusaha untuk meningkatkan keupayaan Gemini untuk menjana imej manusia. Kami berharap ciri ini akan kembali tidak lama lagi dan akan memberitahu anda apabila kemas kini tersedia."
Model AI penjanaan teks Gemini (dahulunya Bard) Google telah dilancarkan pada Februari untuk bersaing dengan OpenAI dan Copilot Microsoft. Alat ini menjana koleksi imej berdasarkan kandungan teks deskriptif pengguna.