CEO'su Sam Altman OpenAIolarak tanımlanır “ChatGpt'in babası” aslında bu teknolojinin gelişimine kişisel olarak katkıda bulunmamış olmasına rağmen.
Ancak Altman, ChatGpt'i “dünyaya getirme” kararıyla övünebilir. Ve bunu yapma şekli, OpenAI CEO'sunun buna inandığının korkularını doğruluyor. insanlığa zarar verecek kararlar alabilir.
“ChatGpt Kasım 2022'de sunulduğunda kimse bizi önceden uyarmadı. ChatGpt'i Twitter'daki bir gönderiden öğrendik” dedi. Helen TonerPodcast'te o zamanlar CEO'nun çalışmalarını denetlemek zorunda olan OpenAI yönetim kurulu üyelerinden biri TED Yapay Zeka Gösterisi.
Analiz
Hala Sam Altman'a güvenebilir miyiz?
kaydeden Riccardo Luna
23 Mayıs 2024
2015 yılında kar amacı gütmeyen bir araştırma laboratuvarı olarak kurulan OpenAI, 2019 yılında Sam Altman'ın CEO olarak atanmasının ardından “bölündü”.
Kâr amacı gütmeyen AGI'yi sürdürmeye devam eden orijinal OpenAI'ye eklendi OpenAI LPorijinal laboratuvarın çalışmalarını sürdürebilmesini sağlamak için kar peşinde koşan “kar sınırı olan” bir şirket.
O dönemde OpenAI, yeni şirketin kar amacı gütmeyen laboratuvarın yönetim kurulu tarafından “kontrol edileceğini” de duyurmuştu. Helen Toner'in birkaç yıldır üyesi olduğu bir kurul. Aralık 2023'te kendisinden ayrılmasının nedeni ise Sam Altman'ı ilgilendiriyor.
Eski OpenAI yönetim kurulunun diğer üyeleriyle mutabakata vararak ve araştırma laboratuvarının eski bilimsel direktörünün desteğiyle, İlya SutskeverHelen Toner Sam Altman'ı kovdu kararına ilişkin ayrıntılı bir açıklama yapmadan. Kurul geçen Kasım ayında Altman'ı iletişimlerinde yeterince “şeffaf” olmamakla suçlamıştı.
O zamandan beri birçok kişi merak etti Altman'ın ayrılışının ardındaki gerçek motivasyon neydi?Yönetim kurulunun “darbesinden” sadece bir hafta sonra görevine devam etti. Bunların arasında ayrıca Elon MuskOpenAI'nin ilk yatırımcılarından biri, şunları yazdı: [di OpenAI] böylesine sert bir eyleme geçmeye karar verdi.”
Musk ve diğerleri Altman'ın yönetim kurulunu karanlıkta bırakmasından korkuyor Yapay zeka geliştirmede potansiyel olarak tehlikeli ilerlemeler.
Bu onun son zamanlarda yaptığı eleştirinin bir kısmı. Jan Leike yönetici olarak istifa etmeden önce şirkete Süper hizalama ekibi Yapay zeka güvenliğine adanmıştır. Leike, “Son yıllarda güvenlik kültürü ve süreçleri parlak ürünlerin gerisinde kaldı” dedi.
Dava
Yapay zeka güvenliğinden sorumlu ekip olan OpenAI dağıldı
kaydeden Pier Luigi Pisa
18 Mayıs 2024
OpenAI'nin Sam Altman'ın ayrılışına ilişkin dahili soruşturması geçen Mart ayında sona erdiHerkesin sorduğu soruya net ve kesin bir cevap vermeden: “Neden kovuldu?”. OpenAI, yönetim kurulu ile Altman arasında bir “güven ihlali” bulunduğunu ve girişimcinin davranışının “görevden alınmasını hak etmediğini” söyledi.
Ancak Helen Toner için OpenAI'nin yeni bir CEO'ya ihtiyacı vardı. Ve Altman'ın uyarı yapılmadan görevden alınması gerekti.
“[Era] Sam'in kendisine karşı bir şey yapabileceğimize dair en ufak bir şüphesi olduğunda, konseyi baltalamak, konseyin gündemine gelmesini engellemek için her şeyi yapacağı, gücü dahilindeki her şeyi yapacağı hepimiz için çok açıktı. Toner, OpenAI soruşturmasının sona ermesinden bu yana yaptığı ilk röportajda, onu kovabilmenin bir yolu olduğunu söyledi.
Toner'a göre Altman'ın liderliğine olan güven daha sonra azaldı girişimcinin ciddi ihmalleri: sahibi olduğu konusunda sessiz kalmış Şirket Başlangıç Fonu [che oggi vale 15 miliardi di dollari] ve çeşitli vesilelerle şunu sağladık: güvenlik protokolleri hakkında yanıltıcı veriler.
Yapay zeka
Sam Altman neden insanlara ChatGpt'in utanç verici olduğunu söylüyor?
kaydeden Pier Luigi Pisa
08 Mayıs 2024
Eski OpenAI yönetim kurulu üyesi, “Birkaç kez bize şirketin uyguladığı resmi güvenlik süreçleri hakkında yanlış bilgiler verdi” dedi ve şöyle devam etti: “Bu da yönetim kurulunun bu süreçlerin ne kadar iyi çalıştığını bilmesinin neredeyse imkansız olduğu anlamına geliyordu. bu güvenlik süreçlerine veya neyin değişmesi gerektiğine sahip olmamız gerekiyor.”
Toner ayrıca acı çektiğini de söyledi Altman'dan misillemeKendisini rahatsız eden araştırmasının yayınlanmasının ardından. Podcast'e “Sam benden kurtulmak için diğer danışmanlara yalan söylemeye başladı” dedi TED Yapay Zeka Gösterisi.
Ayrıca Toner'in açıklamalarına göre yönetim kurulu, “psikolojik taciz” ve “tekrarlanan yalanlar ve manipülasyon” ile suçlanan Altman nedeniyle şirketteki “zehirli” iklim konusunda bilgilendirildi.
Toner, 2014 yılında Melbourne Üniversitesi'nden kimya mühendisliği diplomasıyla mezun oldu. Önce analist, ardından da yönetici olarak kariyeri, aşağıdaki gelişmelerden derinden etkilendi:Etkili Fedakarlık, bağışların ve hayırseverlik eylemlerinin toplum üzerindeki olumlu etkisini bilimsel kanıtlar ve veri kullanımı yoluyla en üst düzeye çıkarmayı amaçlayan özel bir hayırseverlik yaklaşımıdır.
Toner şu anda Strateji ve Temel Araştırma Bursları Direktörü görevini yürütmektedir. CSETGüvenlik ve Gelişen Teknoloji Merkezi: Bu, hükümet ve ABD'deki ulusal güvenlik ve teknolojik konularla ilgilenen diğer aktörler için araştırma ve danışmanlık rolü oynayan ABD merkezli bir kuruluştur.
Yapay zeka
OpenAi yeni bir yapay zekayı eğitmeye başlıyor
kaydeden Arcangelo Rociola
28 Mayıs 2024
Toner, geçmişte “Yapay zeka geliştiren şirketlerin yöneticilerinin çoğu riskleri ciddiye alıyor ve doğru olanı yapmaya çalışıyor” demişti. Finans Zamanları – Ama aynı zamanda bu sistemleri yaratanların da onlar olduğu aşikar. Ve potansiyel olarak kâr elde edebilecek olanlar da her zaman onlardır.”
Toner'in TED AI Show'daki son açıklamaları, Altman'ın şirketin başına dönmesinin ardından göreve başlayan OpenAI yönetim kurulunun şu anki başkanı Bret Taylor tarafından yorumlandı:
“Bayan Toner'in bu konularda açıkça konuşmaya devam etmesinden üzüntü duyuyoruz. Bağımsız bir Yönetim Kurulu komitesi, Kasım ayındaki olayların kapsamlı bir incelemesini yapmak üzere hukuk firması Wilmer Hale ile birlikte çalıştı. İncelemede, önceki Kurul'un kararının ürünün emniyeti veya güvenliği, geliştirme hızı, OpenAI'nin mali durumu veya yatırımcılara, müşterilere veya iş ortaklarına yapılan açıklamalara ilişkin endişelere dayanmadığı sonucuna varıldı. Ayrıca, üst düzey yönetim de dahil olmak üzere çalışanların %95'inden fazlası, Sam Altman'ın CEO olarak görevine geri getirilmesi ve önceki Yönetim Kurulunun istifası yönünde çağrıda bulundu. Amacımız ilerlemeye devam etmek ve OpenAI'nin AGI'nin tüm insanlığa fayda sağlamasını sağlama misyonunu sürdürmek.”
Ancak Altman, ChatGpt'i “dünyaya getirme” kararıyla övünebilir. Ve bunu yapma şekli, OpenAI CEO'sunun buna inandığının korkularını doğruluyor. insanlığa zarar verecek kararlar alabilir.
“ChatGpt Kasım 2022'de sunulduğunda kimse bizi önceden uyarmadı. ChatGpt'i Twitter'daki bir gönderiden öğrendik” dedi. Helen TonerPodcast'te o zamanlar CEO'nun çalışmalarını denetlemek zorunda olan OpenAI yönetim kurulu üyelerinden biri TED Yapay Zeka Gösterisi.
Analiz
Hala Sam Altman'a güvenebilir miyiz?
kaydeden Riccardo Luna
23 Mayıs 2024
2015 yılında kar amacı gütmeyen bir araştırma laboratuvarı olarak kurulan OpenAI, 2019 yılında Sam Altman'ın CEO olarak atanmasının ardından “bölündü”.
Kâr amacı gütmeyen AGI'yi sürdürmeye devam eden orijinal OpenAI'ye eklendi OpenAI LPorijinal laboratuvarın çalışmalarını sürdürebilmesini sağlamak için kar peşinde koşan “kar sınırı olan” bir şirket.
O dönemde OpenAI, yeni şirketin kar amacı gütmeyen laboratuvarın yönetim kurulu tarafından “kontrol edileceğini” de duyurmuştu. Helen Toner'in birkaç yıldır üyesi olduğu bir kurul. Aralık 2023'te kendisinden ayrılmasının nedeni ise Sam Altman'ı ilgilendiriyor.
Eski OpenAI yönetim kurulunun diğer üyeleriyle mutabakata vararak ve araştırma laboratuvarının eski bilimsel direktörünün desteğiyle, İlya SutskeverHelen Toner Sam Altman'ı kovdu kararına ilişkin ayrıntılı bir açıklama yapmadan. Kurul geçen Kasım ayında Altman'ı iletişimlerinde yeterince “şeffaf” olmamakla suçlamıştı.
O zamandan beri birçok kişi merak etti Altman'ın ayrılışının ardındaki gerçek motivasyon neydi?Yönetim kurulunun “darbesinden” sadece bir hafta sonra görevine devam etti. Bunların arasında ayrıca Elon MuskOpenAI'nin ilk yatırımcılarından biri, şunları yazdı: [di OpenAI] böylesine sert bir eyleme geçmeye karar verdi.”
Musk ve diğerleri Altman'ın yönetim kurulunu karanlıkta bırakmasından korkuyor Yapay zeka geliştirmede potansiyel olarak tehlikeli ilerlemeler.
Bu onun son zamanlarda yaptığı eleştirinin bir kısmı. Jan Leike yönetici olarak istifa etmeden önce şirkete Süper hizalama ekibi Yapay zeka güvenliğine adanmıştır. Leike, “Son yıllarda güvenlik kültürü ve süreçleri parlak ürünlerin gerisinde kaldı” dedi.
Dava
Yapay zeka güvenliğinden sorumlu ekip olan OpenAI dağıldı
kaydeden Pier Luigi Pisa
18 Mayıs 2024
OpenAI'nin Sam Altman'ın ayrılışına ilişkin dahili soruşturması geçen Mart ayında sona erdiHerkesin sorduğu soruya net ve kesin bir cevap vermeden: “Neden kovuldu?”. OpenAI, yönetim kurulu ile Altman arasında bir “güven ihlali” bulunduğunu ve girişimcinin davranışının “görevden alınmasını hak etmediğini” söyledi.
Ancak Helen Toner için OpenAI'nin yeni bir CEO'ya ihtiyacı vardı. Ve Altman'ın uyarı yapılmadan görevden alınması gerekti.
“[Era] Sam'in kendisine karşı bir şey yapabileceğimize dair en ufak bir şüphesi olduğunda, konseyi baltalamak, konseyin gündemine gelmesini engellemek için her şeyi yapacağı, gücü dahilindeki her şeyi yapacağı hepimiz için çok açıktı. Toner, OpenAI soruşturmasının sona ermesinden bu yana yaptığı ilk röportajda, onu kovabilmenin bir yolu olduğunu söyledi.
Toner'a göre Altman'ın liderliğine olan güven daha sonra azaldı girişimcinin ciddi ihmalleri: sahibi olduğu konusunda sessiz kalmış Şirket Başlangıç Fonu [che oggi vale 15 miliardi di dollari] ve çeşitli vesilelerle şunu sağladık: güvenlik protokolleri hakkında yanıltıcı veriler.
Yapay zeka
Sam Altman neden insanlara ChatGpt'in utanç verici olduğunu söylüyor?
kaydeden Pier Luigi Pisa
08 Mayıs 2024
Eski OpenAI yönetim kurulu üyesi, “Birkaç kez bize şirketin uyguladığı resmi güvenlik süreçleri hakkında yanlış bilgiler verdi” dedi ve şöyle devam etti: “Bu da yönetim kurulunun bu süreçlerin ne kadar iyi çalıştığını bilmesinin neredeyse imkansız olduğu anlamına geliyordu. bu güvenlik süreçlerine veya neyin değişmesi gerektiğine sahip olmamız gerekiyor.”
Toner ayrıca acı çektiğini de söyledi Altman'dan misillemeKendisini rahatsız eden araştırmasının yayınlanmasının ardından. Podcast'e “Sam benden kurtulmak için diğer danışmanlara yalan söylemeye başladı” dedi TED Yapay Zeka Gösterisi.
Ayrıca Toner'in açıklamalarına göre yönetim kurulu, “psikolojik taciz” ve “tekrarlanan yalanlar ve manipülasyon” ile suçlanan Altman nedeniyle şirketteki “zehirli” iklim konusunda bilgilendirildi.
Toner, 2014 yılında Melbourne Üniversitesi'nden kimya mühendisliği diplomasıyla mezun oldu. Önce analist, ardından da yönetici olarak kariyeri, aşağıdaki gelişmelerden derinden etkilendi:Etkili Fedakarlık, bağışların ve hayırseverlik eylemlerinin toplum üzerindeki olumlu etkisini bilimsel kanıtlar ve veri kullanımı yoluyla en üst düzeye çıkarmayı amaçlayan özel bir hayırseverlik yaklaşımıdır.
Toner şu anda Strateji ve Temel Araştırma Bursları Direktörü görevini yürütmektedir. CSETGüvenlik ve Gelişen Teknoloji Merkezi: Bu, hükümet ve ABD'deki ulusal güvenlik ve teknolojik konularla ilgilenen diğer aktörler için araştırma ve danışmanlık rolü oynayan ABD merkezli bir kuruluştur.
Yapay zeka
OpenAi yeni bir yapay zekayı eğitmeye başlıyor
kaydeden Arcangelo Rociola
28 Mayıs 2024
Toner, geçmişte “Yapay zeka geliştiren şirketlerin yöneticilerinin çoğu riskleri ciddiye alıyor ve doğru olanı yapmaya çalışıyor” demişti. Finans Zamanları – Ama aynı zamanda bu sistemleri yaratanların da onlar olduğu aşikar. Ve potansiyel olarak kâr elde edebilecek olanlar da her zaman onlardır.”
Toner'in TED AI Show'daki son açıklamaları, Altman'ın şirketin başına dönmesinin ardından göreve başlayan OpenAI yönetim kurulunun şu anki başkanı Bret Taylor tarafından yorumlandı:
“Bayan Toner'in bu konularda açıkça konuşmaya devam etmesinden üzüntü duyuyoruz. Bağımsız bir Yönetim Kurulu komitesi, Kasım ayındaki olayların kapsamlı bir incelemesini yapmak üzere hukuk firması Wilmer Hale ile birlikte çalıştı. İncelemede, önceki Kurul'un kararının ürünün emniyeti veya güvenliği, geliştirme hızı, OpenAI'nin mali durumu veya yatırımcılara, müşterilere veya iş ortaklarına yapılan açıklamalara ilişkin endişelere dayanmadığı sonucuna varıldı. Ayrıca, üst düzey yönetim de dahil olmak üzere çalışanların %95'inden fazlası, Sam Altman'ın CEO olarak görevine geri getirilmesi ve önceki Yönetim Kurulunun istifası yönünde çağrıda bulundu. Amacımız ilerlemeye devam etmek ve OpenAI'nin AGI'nin tüm insanlığa fayda sağlamasını sağlama misyonunu sürdürmek.”