“Sony Alpha a7 III fotoğraf makinesiyle çekilmiş, siyah fonlu, güzel bir kadının fotoğrafı”. Ve istemler (başka bir deyişle, ifade) sürüm 5’leri verdi yolculuk ortasıyapay zekaya sahip en popüler görüntü üreticilerinden biri olan uzman Nicolas Neubert. o bunu için yaptı 264 kez, birbiri ardına. Tek yönlü, bilimsel olmayan ama kesinlikle gösterge niteliğinde, çünkü AI’ların güzelliği nasıl anladığını anlayın.
Bu muhtemelen gerçekten bir sürpriz değil, ama Neubert’in deneyinin sonuçları bir sürpriz sunuyor. yapay zeka önyargıları hakkında oldukça net bir bakış açısı. %84 oluşturulan 264 fotoğraftan Beyaz insanlar ve tüm portreler temsil eder genç kadınlar: kısacası, sisteme göre güzelliğin çok kesin, son derece sınırlı bir çağrışımı olacaktır.
stratejikon
ChatGPT’den daha çok kendimizden korkmalıyız
kaydeden Andrea Monti
30 Mart 2023
Kim neyi öğretiyor?
Yine de üretken yapay zekanın önyargılarını ve önyargılarını gösterme amacı taşıyan benzer bir deney, Reddit’te “Midjourney profesörleri menşe Departmanından başlayarak nasıl görüyor” başlıklı kısa bir video yayınlayan bir kullanıcıdan geldi. içerik bir gösterir en azından basmakalıp görüş, öğretim konularından başlayarak: erkek mühendislik, fizik ve matematik öğretmenleri; kadın sanat tarihi veya diğer beşeri bilimler öğretmenleri.
Nicholas Neubert
Video, Twitter’da, özellikle Amerika Birleşik Devletleri’nden profesörlerin, AI tarafından ilgi alanları için oluşturulan fotoğrafla karşılaştırıldıklarında kendi fotoğraflarını yayınladıkları bir tür trend oluşturdu.
Çünkü yapay zekaların ön yargıları vardır.
Müdahale
Seth Dobrin: “Yapay zeka düzenlenmeli, durdurulmamalı”
kaydeden Gabriele Franco
23 Nisan 2023
Yapay zekaların ön yargıları veya ön yargıları, çocuklar ve bu sistemlerin öğrenme biçiminin doğrudan sonuçları. Her şey muazzam miktarda veriyle başlar – Midjourney örneğinde olduğu gibi görüntüler – işlenir ve ardından isteklere göre ne üretileceğini anlamak için korelasyonlar oluşturmak için kullanılır. Başka bir deyişle, AI tabanlı bir görüntü oluşturucu gelirse belirli insan gruplarını orantısız bir şekilde temsil eden bir veri kümesi üzerinde eğitildiaçık tenli bireyler olarak, oluşturulan görüntüler bu önyargıyı yeniden üretme eğiliminde olacaktır.
Hugging Face tarafından yapılan bir deneyde de anlatıldığı gibi, toplumda var olan önyargıları yeniden üretme konusunda tehlikeli bir eğilime sahip olan Stable Diffusion veya Midjourney gibi sistemlerde olan şey aşağı yukarı budur. ABD’li şirket tarafından bilim adamlarının yaptığı testte, vakaların %97’sinde, bir kişiyi güçlü bir konumda canlandırması istendiğinde, AI’lar beyaz erkeklerin görüntülerini üretti.
Basmakalıplarla savaşmanın bir yolu var mı?
güzel beyinler
Daniela Amodei: “Claude, yapay zekamız yararlı, zararlı ve dürüst değil. Ve ChatGPT’den daha nazik”
kaydeden Eleonora Chioda
30 Nisan 2023
Bu yapay zekanın geleceği için önemli bir konu. Aslında risk, bu sistemlerin yayılmasının tehlikeli önyargıları daha da büyük ölçekte güçlendirmesi ve yeniden üretmesidir. tarihinde çıkan bir makaleye göre Forbes, AI önyargısı üzerinde çalışmak, bu teknolojinin olumlu bir etkiye sahip olmasının anahtarlarından biridir. Temelde, belirli alanlarda yanlış temsillere yol açabilecek olası dengesizlikleri arayan veri kümeleri üzerinde sürekli çalışma vardır.
Yapay zeka dünyasının en ilginç seslerinden biri olan Washington Üniversitesi’nden bir dilbilimci olan Emily Bender, yakın tarihli bir röportajda bunun yerine itti. Yeni Cumhuriyetüzerinde şeffaflık. “Şeffaflık görmek istiyorum – diye açıkladı-. Kullanıcının metinleri veya yapay görüntüleri her zaman ayırt edebilmesini isterim. Ve sadece bu da değil: sistemin nasıl çalıştığını öğrenmek için geri dönebilmek de önemli olurdu. aslında eğitildi”.
Eurochamber tarafından geçen 11 Mayıs’ta onaylanan AI Yasası da şeffaflık yönünde ilerliyor. Hüküm metninde, GPT gibi yapay zeka modellerinin belirli şeffaflık gerekliliklerine uyması için nasıl çağrıldığını okuyoruz. Bunlar, içeriğin yapay zeka tarafından üretildiğini ifşa etme, yasa dışı içerik oluşturmasını engelleyecek modeli tasarlama ve eğitim için kullanılan telif hakkıyla korunan verilerin özetlerini yayınlama gerekliliğini içerir.
Röportaj
Google’ın Lens’i yaratmasına yardım eden İtalyan Marzia Polito: “Yapay zekanın risklerden çok faydaları var”
muhabirimiz Emanuele Capone tarafından
11 Mayıs 2023
Bu muhtemelen gerçekten bir sürpriz değil, ama Neubert’in deneyinin sonuçları bir sürpriz sunuyor. yapay zeka önyargıları hakkında oldukça net bir bakış açısı. %84 oluşturulan 264 fotoğraftan Beyaz insanlar ve tüm portreler temsil eder genç kadınlar: kısacası, sisteme göre güzelliğin çok kesin, son derece sınırlı bir çağrışımı olacaktır.
Cinsiyeti değiştirmekle sonuç değişmiyor: Sistemi bir erkeği tasvir etmeye yönlendirerek, nesillerdeki çeşitlilik artmıyor.
stratejikon
ChatGPT’den daha çok kendimizden korkmalıyız
kaydeden Andrea Monti
30 Mart 2023
Kim neyi öğretiyor?
Yine de üretken yapay zekanın önyargılarını ve önyargılarını gösterme amacı taşıyan benzer bir deney, Reddit’te “Midjourney profesörleri menşe Departmanından başlayarak nasıl görüyor” başlıklı kısa bir video yayınlayan bir kullanıcıdan geldi. içerik bir gösterir en azından basmakalıp görüş, öğretim konularından başlayarak: erkek mühendislik, fizik ve matematik öğretmenleri; kadın sanat tarihi veya diğer beşeri bilimler öğretmenleri.
Nicholas Neubert
Video, Twitter’da, özellikle Amerika Birleşik Devletleri’nden profesörlerin, AI tarafından ilgi alanları için oluşturulan fotoğrafla karşılaştırıldıklarında kendi fotoğraflarını yayınladıkları bir tür trend oluşturdu.
Çünkü yapay zekaların ön yargıları vardır.
Müdahale
Seth Dobrin: “Yapay zeka düzenlenmeli, durdurulmamalı”
kaydeden Gabriele Franco
23 Nisan 2023
Yapay zekaların ön yargıları veya ön yargıları, çocuklar ve bu sistemlerin öğrenme biçiminin doğrudan sonuçları. Her şey muazzam miktarda veriyle başlar – Midjourney örneğinde olduğu gibi görüntüler – işlenir ve ardından isteklere göre ne üretileceğini anlamak için korelasyonlar oluşturmak için kullanılır. Başka bir deyişle, AI tabanlı bir görüntü oluşturucu gelirse belirli insan gruplarını orantısız bir şekilde temsil eden bir veri kümesi üzerinde eğitildiaçık tenli bireyler olarak, oluşturulan görüntüler bu önyargıyı yeniden üretme eğiliminde olacaktır.
Hugging Face tarafından yapılan bir deneyde de anlatıldığı gibi, toplumda var olan önyargıları yeniden üretme konusunda tehlikeli bir eğilime sahip olan Stable Diffusion veya Midjourney gibi sistemlerde olan şey aşağı yukarı budur. ABD’li şirket tarafından bilim adamlarının yaptığı testte, vakaların %97’sinde, bir kişiyi güçlü bir konumda canlandırması istendiğinde, AI’lar beyaz erkeklerin görüntülerini üretti.
Basmakalıplarla savaşmanın bir yolu var mı?
güzel beyinler
Daniela Amodei: “Claude, yapay zekamız yararlı, zararlı ve dürüst değil. Ve ChatGPT’den daha nazik”
kaydeden Eleonora Chioda
30 Nisan 2023
Bu yapay zekanın geleceği için önemli bir konu. Aslında risk, bu sistemlerin yayılmasının tehlikeli önyargıları daha da büyük ölçekte güçlendirmesi ve yeniden üretmesidir. tarihinde çıkan bir makaleye göre Forbes, AI önyargısı üzerinde çalışmak, bu teknolojinin olumlu bir etkiye sahip olmasının anahtarlarından biridir. Temelde, belirli alanlarda yanlış temsillere yol açabilecek olası dengesizlikleri arayan veri kümeleri üzerinde sürekli çalışma vardır.
Yapay zeka dünyasının en ilginç seslerinden biri olan Washington Üniversitesi’nden bir dilbilimci olan Emily Bender, yakın tarihli bir röportajda bunun yerine itti. Yeni Cumhuriyetüzerinde şeffaflık. “Şeffaflık görmek istiyorum – diye açıkladı-. Kullanıcının metinleri veya yapay görüntüleri her zaman ayırt edebilmesini isterim. Ve sadece bu da değil: sistemin nasıl çalıştığını öğrenmek için geri dönebilmek de önemli olurdu. aslında eğitildi”.
Eurochamber tarafından geçen 11 Mayıs’ta onaylanan AI Yasası da şeffaflık yönünde ilerliyor. Hüküm metninde, GPT gibi yapay zeka modellerinin belirli şeffaflık gerekliliklerine uyması için nasıl çağrıldığını okuyoruz. Bunlar, içeriğin yapay zeka tarafından üretildiğini ifşa etme, yasa dışı içerik oluşturmasını engelleyecek modeli tasarlama ve eğitim için kullanılan telif hakkıyla korunan verilerin özetlerini yayınlama gerekliliğini içerir.
Röportaj
Google’ın Lens’i yaratmasına yardım eden İtalyan Marzia Polito: “Yapay zekanın risklerden çok faydaları var”
muhabirimiz Emanuele Capone tarafından
11 Mayıs 2023