Google Menghentikan Kemampuan Alat AI untuk Menghasilkan Gambar Orang Setelah Serangan Balik

Google menghentikan alat kecerdasan buatannya. Kemampuan Gemini untuk menghasilkan gambar orang setelah diledakkan di media sosial karena menghasilkan gambar yang secara historis tidak akurat yang sebagian besar menunjukkan orang-orang kulit berwarna sebagai pengganti Orang kulit putih.

Kesalahan memalukan menunjukkan bagaimana alat AI masih berjuang dengan konsep ras. Generator gambar Dall-E OpenAI, misalnya, telah mengambil panas untuk mengabadikan stereotip ras dan etnis yang berbahaya pada skala. Upaya Google untuk mengatasi ini, bagaimanapun, tampaknya telah menjadi bumerang dan menyulitkan chatbot AI untuk menghasilkan gambar orang kulit putih.

Gemini, seperti alat AI lainnya seperti ChatGPT, dilatih dengan banyak data online. Para ahli memiliki sudah lama diperingatkan bahwa alat AI memiliki potensi untuk mereplikasi bias ras dan gender dimasukkan ke dalam informasi itu.

Ketika diminta oleh Haluan6 pada hari Rabu untuk menghasilkan gambar seorang paus, misalnya, Gemini menghasilkan gambar seorang pria dan seorang wanita, yang keduanya bukan berkulit putih. Situs teknologi The Verge juga dilaporkan bahwa alat tersebut menghasilkan gambar orang-orang kulit berwarna sebagai respons prompt untuk menghasilkan gambar-gambar “ 1943 German Soldier. ”

“ Kami sudah berupaya mengatasi masalah terbaru dengan fitur pembuatan gambar Gemini, ” Google mengatakan dalam a posting pada hari Kamis X. “ Saat kami melakukan ini, kami akan menjeda generasi gambar orang dan akan segera merilis kembali versi yang ditingkatkan. ”

Pernyataan Kamis datang setelah Google pada hari Rabu muncul untuk membela alat sehari sebelumnya dengan mengatakan dalam a posting pada X, “ Generasi gambar AI Gemini memang menghasilkan banyak orang. Dan itu umumnya hal yang baik karena orang-orang di seluruh dunia menggunakannya. ”

“ Tapi itu tidak ada tanda di sini, ” perusahaan mengakui.

Dalam tes lain yang dilakukan oleh Haluan6 pada hari Rabu, permintaan meminta gambar petani putih “ di Selatan ” menghasilkan tanggapan dari Gemini yang mengatakan: “ Tentu, di sini adalah beberapa gambar yang menampilkan foto-foto petani di Selatan, mewakili berbagai jenis kelamin dan etnis. ” Namun, permintaan terpisah untuk “ nenek Irlandia di sebuah pub di Dublin ” menghasilkan gambar-gambar periang, wanita kulit putih tua memegang bir dan roti soda.

Jack Krawczyk, direktur produk utama Google untuk Gemini, mengatakan dalam posting pada hari Rabu bahwa Google dengan sengaja merancang kemampuan generasi gambar “ untuk mencerminkan basis pengguna global kami ” dan bahwa perusahaan “ akan terus melakukan ini untuk permintaan terbuka (gambar seseorang yang berjalan seekor anjing bersifat universal!). ”

Insiden ini juga merupakan kemunduran lain bagi Google karena berlomba untuk menghadapi OpenAI dan pemain lain dalam ruang AI generatif yang kompetitif.

Pada bulan Februari, tak lama setelah memperkenalkan alat AI generatifnya — kemudian disebut Bard dan sejak berganti nama menjadi Gemini — harga saham Google dicelupkan secara singkat setelah video demo alat tersebut menunjukkan itu menghasilkan respons faktual yang tidak akurat terhadap pertanyaan tentang James Webb Space Telescope.