Bundan birkaç gün önce Sam Altman kovuldu OpenAIbazı araştırmacılar şirketin yönetim kuruluna bilimsel bir keşif ilettiler – alıntı yapılan kaynaklara göre Reuters bu özel haberi bildirirken – teşkil edebilir insanlık için tehlike.
Mektupları bir olayı tetikleyebilirdi “darbe” o zamanlar Altman ve diğer beş kişiden oluşan kurul tarafından.
OpenAI vakası
Şirketin kaderini ellerinde tutan yönetim kurulundaki üç kişi olan OpenAI
kaydeden Pier Luigi Pisa
21 Kasım 2023
En az dört – OpenAI’nin bilimsel direktörü İlya SutskeverEtkili Fedakarlığın savunucusu Helen Tonerrobotik uzmanı Tasha McCauley ve girişimci Adam D’Angelo – Altman’ın güçlü bir teknolojiyi ticarileştirebileceği endişesiyle şirketin CEO’sunun acilen görevden alınması yönünde oy kullandı risklerini yeterince değerlendirmeden.
Dava
Sam Altman’a ne olduğunu anlamak için OpenAI’nin gerçekte nasıl bir şey olduğunu bilmeniz gerekir
kaydeden Pier Luigi Pisa
19 Kasım 2023
Reuters’in henüz okuma fırsatı bulamadığı OpenAI araştırmacılarının mektubunda şuna atıfta bulunuluyor: yeni bir şirket projesiisminde Q* (Q Star’ı okuyun), ki bu endişe vericidir AGI’ye çok yakın bir tür yapay zekaİnsan yeteneklerini kopyalayabilen ve bazı durumlarda aşabilen genel yapay zeka.
OpenAI, aralarında Sam Altman’ın da bulunduğu bir grup araştırmacı ve girişimci tarafından 2015 yılında San Francisco’da kuruldu. Elon MuskYazma yeteneğine sahip üretken yapay zekasıyla dünyaca ünlü oldu (ChatGpt) ve görüntüler oluşturun (Ver ona) bir insanın yapacağı gibi. Ama asıl görevi, en başından beri, “İnsanlığın iyiliği için” YGZ’ye ulaşmak.
OpenAI, AGI’yi otonom bir sistem olarak tanımlıyor insanları aşar “Ekonomik değeri olan çoğu faaliyette”.
Üretken yapay zeka önceden tanımlanmış modellere dayansa ve yarattığı şeyin anlamını tam olarak anlamadan insan yaratıcılığını taklit etse de, YGZ bir tür yapay zekadır. çok daha gelişmiş.
AGI belirli sorunları öğrenebilir ve anlayabilir bir insanın yapacağı gibi. Üstelik her görev için özel eğitim almasına gerek kalmadan yeni durumlara uyum sağlayabiliyor.
Bazı OpenAI araştırmacıları Q*’nun AGI’nin yeteneklerine yakın olduğuna inanıyor çünkü bazı matematik problemlerini çöz. Karşılaşılan türde oldukça “basit” problemler olurdu ilkokullaraancak OpenAI için bu sonuç çok büyük önem taşıyor.
Aslında ChatGpt’in metin yazmada çok iyi olduğunu biliyoruz – yanıtları istatistiksel bir modelin sonucu olduğu için her seferinde değişir – ve taahhütte bulunurken matematikte çok sayıda hata, yalnızca bir doğru cevaba izin verilir. OpenAI araştırmacılarına göre Q*’nun bu yeteneği, yapay zekayı insan zihninin muhakeme yeteneklerine yaklaştıracak.
Bu nedenle özellikle Q*, insanlar için “ölümcül” bir teknoloji olmayacaktır. Ancak bu, insan gibi düşünüp hareket edebilen yapay zekaya doğru atılan ilk adım olabilir. Bir gün, tam da akıl yürütme ve uyum sağlama yeteneği nedeniyle özerk kararlar verebilecek bir yapay zeka.
Geçtiğimiz 6 Kasım vesilesiyle Geliştirme GünüSam Altman, OpenAI’nin geliştiricilere adadığı günü şu sözlerle kapattı: “2024’te bugün başlattığımız şey [le intelligenze artificiali personalizzate chiamate GPT, nda] sizin için inşa ettiğimiz şeyle karşılaştırıldığında modası geçmiş görünecek. Açıkçası bu sadece iyi bir pazarlama ifadesi değildi.
Geçtiğimiz 16 Kasım’da San Francisco’daki bir konferansa katılırken Altman’ın kendisi de şifreli bir şekilde şu sözlerden bahsetti: önemli yeni gelişmeler: “Son iki haftadır, cehalet perdesini araladığımız ve keşif sınırını ileriye taşıdığımız odada bulunma fırsatım oldu.”
Üstelik sosyal ağda X kullanıcıları, “Yarattığımız şey bir alet mi, yoksa bir yaratık mı?” ifadesini öne çıkararak bunu paylaşıyor. Ancak Altman aslında hissettiği “korku” anını kastediyor gibi görünüyor ChatGpt’i ilk kez kim kullandı?.
Bu konuşmanın ertesi günü Sam Altman yönetim kurulundan kovuldu.
Girişimcinin sürgünü sadece dört gün sürdü. OpenAI çalışanlarının ve yatırımcıların (özellikle de Microsoft’un) baskısı Altman’ı şirkete geri getirdi. Sam yine şirketin CEO’su. Ve gücü artık daha da büyük. Bunun yapay zekanın geleceği açısından iyi mi yoksa kötü mü olduğu bilinmiyor.
THE yapay zekada ilerleme sadece Altman’ı OpenAI’den çıkarmaya çalışanları endişelendirmiyorlar.
Yapay zeka öncüleri, akademisyenler, hükümetler ve hatta bu devrim niteliğindeki teknolojiyi geliştiren şirketler bile, onu kontrol altında tutabilecek kurallara ihtiyaç olduğu konusunda hemfikir. Bazı uzmanlara göre, her şeyden önce hafifletmek için, kıyamet senaryoları.
Geçtiğimiz Mayıs ayında yayınlanan kısa mektupta, “Yapay zekanın oluşturduğu yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer risklerin azaltılmasıyla birlikte küresel bir öncelik olmalıdır” deniyor. Yapay Zeka Güvenliği Merkezi San Francisco’dan ve aralarında Sam Altman’ın da bulunduğu bilim adamları ve girişimciler tarafından imzalandı.
Analizler
Yapay zekanın en büyük tehlikesi henüz yaşanmadı
kaydeden Arcangelo Rociola
02 Ağustos 2023
Ancak ChatGpt’in lansmanından bir yıl sonra – 30 Kasım 2022’de gerçekleşti – en büyük yapay zeka uzmanlarından bazıları, Altman’ın ve dolayısıyla OpenAI’nin Yapay zekayla ilişkili risklerin kasıtlı olarak abartılması.
“Yapay zekanın insanlığın yok olmasına yol açabileceği düşüncesi bir yalandır. Yapay zeka pazarındaki rekabeti engelleyecek ağır düzenlemeleri tetikleme umuduyla teknoloji devleri tarafından yayılmıştır.”
Bu, düşüncesi Andrew NgTime’a göre gezegendeki en etkili 100 yapay zeka uzmanından biri, aynı zamanda Stanford Üniversitesi’nde profesör – aynı zamanda Sam Altman’a makine öğrenimi dersleri verdi – ve aynı zamanda yapay zeka araştırma laboratuvarı Google Brain’in kurucu ortağı. daha sonra ile birleşti Derin Düşünce.
Andrew Ng, “Açık kaynaklı yapay zeka ile rekabet etmek istemeyen büyük teknoloji şirketleri var” dedi.Avustralya Fal İncelemesi – ve bu nedenle yapay zekanın insanlığın yok olmasına yol açacağı korkusunu yayıyorlar.”
O da aynı şekilde düşünüyor Yann LeCunModern yapay zekanın babalarından biri, derin öğrenme konusundaki çalışmaları nedeniyle 2018 yılında bilgisayar bilimi alanında Nobel’e eşdeğer olan Turing Ödülü’ne layık görüldü.
Le Cun, “Eğer bu haksız alarm kampanyası başarılı olursa” dedi, şu anda Meta’nın yapay zekasına liderlik ediyorInstagram ve Facebook’u kontrol eden şirket – sonuç felaket olacak: şirketlerin küçük bir yüzdesi yapay zekayı kontrol edecek.”
@ppisa
Mektupları bir olayı tetikleyebilirdi “darbe” o zamanlar Altman ve diğer beş kişiden oluşan kurul tarafından.
OpenAI vakası
Şirketin kaderini ellerinde tutan yönetim kurulundaki üç kişi olan OpenAI
kaydeden Pier Luigi Pisa
21 Kasım 2023
En az dört – OpenAI’nin bilimsel direktörü İlya SutskeverEtkili Fedakarlığın savunucusu Helen Tonerrobotik uzmanı Tasha McCauley ve girişimci Adam D’Angelo – Altman’ın güçlü bir teknolojiyi ticarileştirebileceği endişesiyle şirketin CEO’sunun acilen görevden alınması yönünde oy kullandı risklerini yeterince değerlendirmeden.
Dava
Sam Altman’a ne olduğunu anlamak için OpenAI’nin gerçekte nasıl bir şey olduğunu bilmeniz gerekir
kaydeden Pier Luigi Pisa
19 Kasım 2023
Reuters’in henüz okuma fırsatı bulamadığı OpenAI araştırmacılarının mektubunda şuna atıfta bulunuluyor: yeni bir şirket projesiisminde Q* (Q Star’ı okuyun), ki bu endişe vericidir AGI’ye çok yakın bir tür yapay zekaİnsan yeteneklerini kopyalayabilen ve bazı durumlarda aşabilen genel yapay zeka.
OpenAI, aralarında Sam Altman’ın da bulunduğu bir grup araştırmacı ve girişimci tarafından 2015 yılında San Francisco’da kuruldu. Elon MuskYazma yeteneğine sahip üretken yapay zekasıyla dünyaca ünlü oldu (ChatGpt) ve görüntüler oluşturun (Ver ona) bir insanın yapacağı gibi. Ama asıl görevi, en başından beri, “İnsanlığın iyiliği için” YGZ’ye ulaşmak.
OpenAI, AGI’yi otonom bir sistem olarak tanımlıyor insanları aşar “Ekonomik değeri olan çoğu faaliyette”.
Üretken yapay zeka önceden tanımlanmış modellere dayansa ve yarattığı şeyin anlamını tam olarak anlamadan insan yaratıcılığını taklit etse de, YGZ bir tür yapay zekadır. çok daha gelişmiş.
AGI belirli sorunları öğrenebilir ve anlayabilir bir insanın yapacağı gibi. Üstelik her görev için özel eğitim almasına gerek kalmadan yeni durumlara uyum sağlayabiliyor.
Bazı OpenAI araştırmacıları Q*’nun AGI’nin yeteneklerine yakın olduğuna inanıyor çünkü bazı matematik problemlerini çöz. Karşılaşılan türde oldukça “basit” problemler olurdu ilkokullaraancak OpenAI için bu sonuç çok büyük önem taşıyor.
Aslında ChatGpt’in metin yazmada çok iyi olduğunu biliyoruz – yanıtları istatistiksel bir modelin sonucu olduğu için her seferinde değişir – ve taahhütte bulunurken matematikte çok sayıda hata, yalnızca bir doğru cevaba izin verilir. OpenAI araştırmacılarına göre Q*’nun bu yeteneği, yapay zekayı insan zihninin muhakeme yeteneklerine yaklaştıracak.
Bu nedenle özellikle Q*, insanlar için “ölümcül” bir teknoloji olmayacaktır. Ancak bu, insan gibi düşünüp hareket edebilen yapay zekaya doğru atılan ilk adım olabilir. Bir gün, tam da akıl yürütme ve uyum sağlama yeteneği nedeniyle özerk kararlar verebilecek bir yapay zeka.
Geçtiğimiz 6 Kasım vesilesiyle Geliştirme GünüSam Altman, OpenAI’nin geliştiricilere adadığı günü şu sözlerle kapattı: “2024’te bugün başlattığımız şey [le intelligenze artificiali personalizzate chiamate GPT, nda] sizin için inşa ettiğimiz şeyle karşılaştırıldığında modası geçmiş görünecek. Açıkçası bu sadece iyi bir pazarlama ifadesi değildi.
Geçtiğimiz 16 Kasım’da San Francisco’daki bir konferansa katılırken Altman’ın kendisi de şifreli bir şekilde şu sözlerden bahsetti: önemli yeni gelişmeler: “Son iki haftadır, cehalet perdesini araladığımız ve keşif sınırını ileriye taşıdığımız odada bulunma fırsatım oldu.”
Üstelik sosyal ağda X kullanıcıları, “Yarattığımız şey bir alet mi, yoksa bir yaratık mı?” ifadesini öne çıkararak bunu paylaşıyor. Ancak Altman aslında hissettiği “korku” anını kastediyor gibi görünüyor ChatGpt’i ilk kez kim kullandı?.
Bu konuşmanın ertesi günü Sam Altman yönetim kurulundan kovuldu.
Girişimcinin sürgünü sadece dört gün sürdü. OpenAI çalışanlarının ve yatırımcıların (özellikle de Microsoft’un) baskısı Altman’ı şirkete geri getirdi. Sam yine şirketin CEO’su. Ve gücü artık daha da büyük. Bunun yapay zekanın geleceği açısından iyi mi yoksa kötü mü olduğu bilinmiyor.
THE yapay zekada ilerleme sadece Altman’ı OpenAI’den çıkarmaya çalışanları endişelendirmiyorlar.
Yapay zeka öncüleri, akademisyenler, hükümetler ve hatta bu devrim niteliğindeki teknolojiyi geliştiren şirketler bile, onu kontrol altında tutabilecek kurallara ihtiyaç olduğu konusunda hemfikir. Bazı uzmanlara göre, her şeyden önce hafifletmek için, kıyamet senaryoları.
Geçtiğimiz Mayıs ayında yayınlanan kısa mektupta, “Yapay zekanın oluşturduğu yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer risklerin azaltılmasıyla birlikte küresel bir öncelik olmalıdır” deniyor. Yapay Zeka Güvenliği Merkezi San Francisco’dan ve aralarında Sam Altman’ın da bulunduğu bilim adamları ve girişimciler tarafından imzalandı.
Analizler
Yapay zekanın en büyük tehlikesi henüz yaşanmadı
kaydeden Arcangelo Rociola
02 Ağustos 2023
Ancak ChatGpt’in lansmanından bir yıl sonra – 30 Kasım 2022’de gerçekleşti – en büyük yapay zeka uzmanlarından bazıları, Altman’ın ve dolayısıyla OpenAI’nin Yapay zekayla ilişkili risklerin kasıtlı olarak abartılması.
“Yapay zekanın insanlığın yok olmasına yol açabileceği düşüncesi bir yalandır. Yapay zeka pazarındaki rekabeti engelleyecek ağır düzenlemeleri tetikleme umuduyla teknoloji devleri tarafından yayılmıştır.”
Bu, düşüncesi Andrew NgTime’a göre gezegendeki en etkili 100 yapay zeka uzmanından biri, aynı zamanda Stanford Üniversitesi’nde profesör – aynı zamanda Sam Altman’a makine öğrenimi dersleri verdi – ve aynı zamanda yapay zeka araştırma laboratuvarı Google Brain’in kurucu ortağı. daha sonra ile birleşti Derin Düşünce.
Andrew Ng, “Açık kaynaklı yapay zeka ile rekabet etmek istemeyen büyük teknoloji şirketleri var” dedi.Avustralya Fal İncelemesi – ve bu nedenle yapay zekanın insanlığın yok olmasına yol açacağı korkusunu yayıyorlar.”
O da aynı şekilde düşünüyor Yann LeCunModern yapay zekanın babalarından biri, derin öğrenme konusundaki çalışmaları nedeniyle 2018 yılında bilgisayar bilimi alanında Nobel’e eşdeğer olan Turing Ödülü’ne layık görüldü.
Le Cun, “Eğer bu haksız alarm kampanyası başarılı olursa” dedi, şu anda Meta’nın yapay zekasına liderlik ediyorInstagram ve Facebook’u kontrol eden şirket – sonuç felaket olacak: şirketlerin küçük bir yüzdesi yapay zekayı kontrol edecek.”
@ppisa