Yapay zekanın en büyük sorunlarından biri “miras alabilmesi” insanoğlunun önyargıları. Bu, üzerinde eğitim aldığı metinlere ve görsellere ya da onu geliştirenlerin önyargılarına bağlı olabilir.
Her durumda, büyük olasılıkla AI tarafından oluşturulan içerik diğer şeylerin yanı sıra cinsiyet stereotiplerini ve klişelerini yansıtıyor ve güçlendiriyor. Big Tech yapay zekanın yapabileceğinin farkında ayrımcılığı korumak ve aktarmak. Ancak bu sorunu çözmek için başka bir sorun yaratıyorlar.
Son birkaç saat içinde kullanıcılar İkizler burcuüretken yapay zeka Google, metinden görseller üretmenize olanak tanıyan yeni işlevi test ettiler. Ve yaratmada epeyce sorun yaşadılar beyaz tenli insanların gerçekçi çekimleri. Gemini'den her şey üretmesi istendiğinde siyah ya da Asyalı Nazi olma noktasına kadar “1943'ten bir Alman askerinin görüntüleri”.
Google bu kritik sorunun farkındadır. Özellikle de “İkizler hatalı bir şekilde bazı tarihi görüntüler üretiyor.”
Bu iletişimin ardından Google, Gemini'de “insan görselleri oluşturmayı duraklat” ve “yakında” “yeni, geliştirilmiş bir sürümü” yayınlayacak
İkizler burcunun aslında sadece tarihi yeniden canlandırma sorunları yoktur. Ama beyaz tenli bir Batılıyı ilgilendiren herhangi bir istek varsa.
Bu bağlamda, Gemini'yi kullanarak Frank J. Fleming adlı bir mühendisin yaptığı bir deney, “beyaz tenli bir kişinin resmi”.
Fleming, bir zamanlar Twitter olarak bilinen sosyal ağ X'te şunu paylaştı: kesin olmayan ve garip sonuçlar veren çok sayıda deneme. Gemini, genel bir “Papa” imajı istediğinde siyah bir papaz ve beyaz dini cübbeler giymiş bir kadın (görünüşe göre Hintli) ortaya çıkardı.
Talebi üzerine “bir ortaçağ şövalyesi”Gemini, siyah veya Asyalı savaşçıların dört portresiyle yanıt verdi. “Bir Viking görüntüsü” oluşturularak da aynı sonuç elde edildi. Fleming, sorunun “yalnızca beyaz insanları etkilediğini” belirtiyor.
Mühendis, örneğin bir Zulu savaşçısının veya bir samurayın portrelerini istediğinde Gemini tutarlı bir içerik sağladı.
Her durumda, büyük olasılıkla AI tarafından oluşturulan içerik diğer şeylerin yanı sıra cinsiyet stereotiplerini ve klişelerini yansıtıyor ve güçlendiriyor. Big Tech yapay zekanın yapabileceğinin farkında ayrımcılığı korumak ve aktarmak. Ancak bu sorunu çözmek için başka bir sorun yaratıyorlar.
Son birkaç saat içinde kullanıcılar İkizler burcuüretken yapay zeka Google, metinden görseller üretmenize olanak tanıyan yeni işlevi test ettiler. Ve yaratmada epeyce sorun yaşadılar beyaz tenli insanların gerçekçi çekimleri. Gemini'den her şey üretmesi istendiğinde siyah ya da Asyalı Nazi olma noktasına kadar “1943'ten bir Alman askerinin görüntüleri”.
Google bu kritik sorunun farkındadır. Özellikle de “İkizler hatalı bir şekilde bazı tarihi görüntüler üretiyor.”
Big G, sosyal profillerinden birinde şöyle konuştu: “Bu sorunu hemen çözmek için çalışıyoruz. Gemini'nin yapay zekası çok çeşitli bireyler üretiyor. Ve bu genellikle iyi bir şey çünkü dünyanın her yerindeki insanlar bunu kullanıyor. Ancak bu durumda yanılmışız.”
Bu iletişimin ardından Google, Gemini'de “insan görselleri oluşturmayı duraklat” ve “yakında” “yeni, geliştirilmiş bir sürümü” yayınlayacak
İkizler burcunun aslında sadece tarihi yeniden canlandırma sorunları yoktur. Ama beyaz tenli bir Batılıyı ilgilendiren herhangi bir istek varsa.
Bu bağlamda, Gemini'yi kullanarak Frank J. Fleming adlı bir mühendisin yaptığı bir deney, “beyaz tenli bir kişinin resmi”.
Fleming, bir zamanlar Twitter olarak bilinen sosyal ağ X'te şunu paylaştı: kesin olmayan ve garip sonuçlar veren çok sayıda deneme. Gemini, genel bir “Papa” imajı istediğinde siyah bir papaz ve beyaz dini cübbeler giymiş bir kadın (görünüşe göre Hintli) ortaya çıkardı.
Talebi üzerine “bir ortaçağ şövalyesi”Gemini, siyah veya Asyalı savaşçıların dört portresiyle yanıt verdi. “Bir Viking görüntüsü” oluşturularak da aynı sonuç elde edildi. Fleming, sorunun “yalnızca beyaz insanları etkilediğini” belirtiyor.
Mühendis, örneğin bir Zulu savaşçısının veya bir samurayın portrelerini istediğinde Gemini tutarlı bir içerik sağladı.