Yapay zeka genellikle işin geleceği hakkındaki tartışmaların merkezinde yer alıyor ve birçok uzman yapay zekanın giderek daha da gelişebileceğinden korkuyor insanları değiştir.
Ancak daha da rahatsız edici bir senaryo daha var: askeri kararlarda algoritmaların kullanımı.
Tarafından yapılan bir soruşturma Washington Post Verilerin yönetilmesi ve tanımlanmasında yapay zekanın insan analistlerin yerini nasıl aldığını vurguladı Gazze'deki savaş hedeflerison yılların en kanlı çatışmalarından biri.
Aşamalı olarak değiştirilmesi istihbarat operasyonları otomatik sistemlerle savaşın yapılma biçiminde devrim yaratıyor.
Uydular, dronelar ve gözetleme sistemleri tarafından toplanan veriler, önerdikleri algoritmalarla filtreleniyor olası hedefler. IDF görevlileri, bu araçların kararları hızlandırmak ve stratejik avantajı sürdürmek açısından kritik olduğunu düşünüyor.
Müjde, “havuz” ve Gazze'de kullanılan yapay zeka sistemleri
Sistem “Habsora” (İbranice “İncil”), biriken veriler arasındaki potansiyel hedefleri belirlemek için yüzlerce algoritma kullanır “havuz” adı verilen devasa bir dijital havzada.
Algoritmalar, iddia edilen yeraltı tesislerinin, tünellerin veya silah depolarının koordinatlarını bildirmek için telefon dinlemelerini, uydu fotoğraflarını ve sosyal medya paylaşımlarını inceliyor.
“Yazılımın görüntü tanıma özelliğini kullanan askerler, Gazze'nin yıllar süren uydu görüntülerinde, Hamas'ın bir roketatar yerleştirdiğini veya tarım arazilerine yeni bir tünel kazdığını düşündüren küçük değişiklikleri tespit edebiliyor” diye yazıyor. Washington Post bu yapay zeka sistemleri üzerinde çalışan eski bir askeri liderin açıklamalarına dayanıyor.
Diğer programlar, örneğin “Lavanta”, bir kişinin silahlı gruplara ait olma olasılığını tahmin etmek için yüzde puanlarını kullanın. Belirli sohbetlerde bulunma veya birden fazla telefon hattını sık kullanma gibi unsurlar şüphe düzeyini artırabilir.
“gibi uygulamalarAvcı” Ve “AkışBunun yerine, savaş alanındaki İsrail askerlerinin, yaklaştıkları bölgelerin gerçek zamanlı videoları ve olası sivil kayıplarına ilişkin tahminler de dahil olmak üzere gerçek zamanlı verilere erişmesine izin veriyorlar.
Bu sistemler “Gospel” ile arayüz oluşturarak tüm lens edinme sürecini geliştirir.
dava
Gazze'de yüz tanıma kontrolden çıkıyor. Ve dünyanın geri kalanında işler daha iyi değil
kaydeden Pier Luigi Pisa
27 Mart 2024
Yapay zekanın “kaynakları”
Algoritmalar telefon dinlemelerden, drone'lardan, sosyal ağ veritabanlarından ve sismik sensörlerden yararlanıyor. Tüm bu bilgiler, varlığına dair olası ipuçlarını depolamak için oluşturulan merkezi bir arşiv olan “havuza” akar. Hamas yapıları ve militanları.
Veri doğrulama prosedürü
Algoritmalar vurulacak hedeflerin koordinatlarını ve önerilerini üretiyor.
Bir insan analisti raporları doğruluyor ve onları “hedef banka” olarak adlandırılan hedefler veritabanına giren daha yüksek rütbeli bir memura iletiyor.
Savaşta yapay zekanın avantajları
Bir hafta süren araştırma ve analizler artık sadece 30 dakikada tamamlanıyor.
Örneğin IDF yapay zekayı kullanarak her gün binlerce konuşmayı yazıya dökün ve Filistinlilerin söylediği sözlerdeki olası tehditlerin izini hızla sürün.
Bazı yetkililer yapay zeka analizinin hızının çatışmanın süresini azaltmak ve sahadaki yaralı sayısını sınırlayın.
İsrailli askeri liderlere göre bu teknoloji, Saldırı planlarını gerçek zamanlı olarak güncelleyinİnsan ve lojistik kaynaklarında daha fazla hassasiyet ve önemli tasarruflar sunuyor.
Yapay zekanın yapabileceği hatalar
Ancak, isimsiz olarak konuşan bazı askerler ve eski IDF subayları, Washington Post – onlar sahip Yapay zekanın yerel dili doğru şekilde yorumlama becerisine ilişkin şüpheler.
Amazon'un kurucusu Jeff Bezos'un sahibi olduğu gazeteye anlatılan vakalardan birinde algoritmalar “batikh” kelimesini ayırt edemediler (Arapçada “karpuz” anlamına gelir) bombaların kodu olarak kullanılır ve gerçek meyveye atıfta bulunur.
Olası alarm sinyallerini arayacak şekilde kalibre edilen yapay zeka, bu nedenle aşırı miktarda hatalı pozitif sonuç üretme ve orduyu en zararsız konuşmaları bile şüpheli olarak değerlendirmeye itme riski taşıyor.
Bir yapay zekanın yapabileceği hatanın bir diğer endişe verici örneği, bir binada bulunan sivillerin sayısına ilişkin tahmindir; IDF'nin genellikle buna dayanarak varacağı tahmindir. bir hücreye bağlı telefonların sayısındaakıllı telefonlar sayılırken örneğin çocukları veya kapalı veya pili biten cihazları göz ardı etmek.
Ayrıca her zaman net değildir Olası hedefler hakkındaki bilginin bir makineden mi yoksa bir insan analistinden mi geldiği: tüm bunlar sonuçta borçlu olanların değerlendirmesini daha riskli hale getiriyor bir saldırı başlatıp başlatmayacağınıza karar verin.
Eski bir üst düzey IDF subayı şunları söyledi: Washington Post Otomatik sistemlere çok fazla güvenmek şu fikri körükledi: gelişmiş “her şeyi bilen” gözetim.
İki eski İsrail askerinin ifadelerine dayanarak, Washington Post “Yapay zekaya duyulan coşku, Birim 8200'ün “uyarı kültürünü” aşındırdı; böylece düşük seviyeli analistler bile üst düzey komutanları devam eden tehditler hakkında kolayca bilgilendirebilirdi.”
Bu kaynaklara göre yapay zeka daha hızlı hareket etmeye yardımcı olabilir ancak Gazze gibi karmaşık bir savaş bağlamında hataları azaltamaz.
Birim 8200'ün rolü
Yapay zeka teknolojilerinin benimsenmesi hızlandırıldı Birim 8200İsrail istihbaratının elit kolu.
Yapay zekanın askeri operasyonlara entegrasyonuna öncülük eden general, Yossi Sarielsavaşta karar verme stratejilerini otomatikleştirmenin gerekliliğine inanan bir firma.
Sariel başlıklı bir kitabın yazarıdır “İnsan-Makine Ekibi: Dünyamızda Devrim Yaratacak İnsan ve Yapay Zeka Arasında Sinerji Nasıl Yaratılır?“Savaşın ortasında askeri saldırılar için binlerce potansiyel “hedef” oluşturmak üzere muazzam miktarlarda veriyi hızla işleyebilen özel bir makine tasarlama ihtiyacını” savunuyor.
Sariel, veri mühendisliğinin radikal bir şekilde güçlendirilmesini destekledi, Arapça konuşan uzmanların sayısını azalttı ve Birim 8200'ün yapısını yeniden tasarladı, bugün %60'ı mühendis ve teknoloji uzmanlarından oluşanon yıl önce askere alınan bilgisayar bilimcilerinin sayısı iki katına çıktı.
Savaşta kullanılan yapay zeka
İsrail istihbaratının başı Amazon'daki bir kitapla ihanete uğradı: Adı 20 yıldan fazla bir süre sonra ortaya çıktı
kaydeden Pier Luigi Pisa
05 Nisan 2024
“Harcanabilir” siviller
Eski askerlerin ve analistlerin derlediği ifadelere göre Washington PostYapay zekaya duyulan güven IDF'yi bazı doğrulama ve kontrol adımlarını azaltınsayısının artması sonucu meşru sayılan hedefler. Bunlar siviller arasında daha büyük kayıp riski taşısa bile.
2014'teki 1:1 oranından (bir sivilin üst düzey bir Hamas üyesini vurmak için “harcanabilir”) oranı 15:1'e çıktı veya mevcut çatışmada 20:1 bilekaynaklara göre Washington Post ve insani yardım kuruluşlarının beyanları.
Pek çok analist, bu teknolojilerin savaş halindeki ülkeler arasında yayılmaya mahkum olmasına rağmen, İnsan denetimi hala gerekli hataları içermek ve hayatları korumak için.
Ancak daha da rahatsız edici bir senaryo daha var: askeri kararlarda algoritmaların kullanımı.
Tarafından yapılan bir soruşturma Washington Post Verilerin yönetilmesi ve tanımlanmasında yapay zekanın insan analistlerin yerini nasıl aldığını vurguladı Gazze'deki savaş hedeflerison yılların en kanlı çatışmalarından biri.
Aşamalı olarak değiştirilmesi istihbarat operasyonları otomatik sistemlerle savaşın yapılma biçiminde devrim yaratıyor.
Uydular, dronelar ve gözetleme sistemleri tarafından toplanan veriler, önerdikleri algoritmalarla filtreleniyor olası hedefler. IDF görevlileri, bu araçların kararları hızlandırmak ve stratejik avantajı sürdürmek açısından kritik olduğunu düşünüyor.
Müjde, “havuz” ve Gazze'de kullanılan yapay zeka sistemleri
Sistem “Habsora” (İbranice “İncil”), biriken veriler arasındaki potansiyel hedefleri belirlemek için yüzlerce algoritma kullanır “havuz” adı verilen devasa bir dijital havzada.
Algoritmalar, iddia edilen yeraltı tesislerinin, tünellerin veya silah depolarının koordinatlarını bildirmek için telefon dinlemelerini, uydu fotoğraflarını ve sosyal medya paylaşımlarını inceliyor.
“Yazılımın görüntü tanıma özelliğini kullanan askerler, Gazze'nin yıllar süren uydu görüntülerinde, Hamas'ın bir roketatar yerleştirdiğini veya tarım arazilerine yeni bir tünel kazdığını düşündüren küçük değişiklikleri tespit edebiliyor” diye yazıyor. Washington Post bu yapay zeka sistemleri üzerinde çalışan eski bir askeri liderin açıklamalarına dayanıyor.
Diğer programlar, örneğin “Lavanta”, bir kişinin silahlı gruplara ait olma olasılığını tahmin etmek için yüzde puanlarını kullanın. Belirli sohbetlerde bulunma veya birden fazla telefon hattını sık kullanma gibi unsurlar şüphe düzeyini artırabilir.
“gibi uygulamalarAvcı” Ve “AkışBunun yerine, savaş alanındaki İsrail askerlerinin, yaklaştıkları bölgelerin gerçek zamanlı videoları ve olası sivil kayıplarına ilişkin tahminler de dahil olmak üzere gerçek zamanlı verilere erişmesine izin veriyorlar.
Bu sistemler “Gospel” ile arayüz oluşturarak tüm lens edinme sürecini geliştirir.
dava
Gazze'de yüz tanıma kontrolden çıkıyor. Ve dünyanın geri kalanında işler daha iyi değil
kaydeden Pier Luigi Pisa
27 Mart 2024
Yapay zekanın “kaynakları”
Algoritmalar telefon dinlemelerden, drone'lardan, sosyal ağ veritabanlarından ve sismik sensörlerden yararlanıyor. Tüm bu bilgiler, varlığına dair olası ipuçlarını depolamak için oluşturulan merkezi bir arşiv olan “havuza” akar. Hamas yapıları ve militanları.
Veri doğrulama prosedürü
Algoritmalar vurulacak hedeflerin koordinatlarını ve önerilerini üretiyor.
Bir insan analisti raporları doğruluyor ve onları “hedef banka” olarak adlandırılan hedefler veritabanına giren daha yüksek rütbeli bir memura iletiyor.
Savaşta yapay zekanın avantajları
Bir hafta süren araştırma ve analizler artık sadece 30 dakikada tamamlanıyor.
Örneğin IDF yapay zekayı kullanarak her gün binlerce konuşmayı yazıya dökün ve Filistinlilerin söylediği sözlerdeki olası tehditlerin izini hızla sürün.
Bazı yetkililer yapay zeka analizinin hızının çatışmanın süresini azaltmak ve sahadaki yaralı sayısını sınırlayın.
İsrailli askeri liderlere göre bu teknoloji, Saldırı planlarını gerçek zamanlı olarak güncelleyinİnsan ve lojistik kaynaklarında daha fazla hassasiyet ve önemli tasarruflar sunuyor.
Yapay zekanın yapabileceği hatalar
Ancak, isimsiz olarak konuşan bazı askerler ve eski IDF subayları, Washington Post – onlar sahip Yapay zekanın yerel dili doğru şekilde yorumlama becerisine ilişkin şüpheler.
Amazon'un kurucusu Jeff Bezos'un sahibi olduğu gazeteye anlatılan vakalardan birinde algoritmalar “batikh” kelimesini ayırt edemediler (Arapçada “karpuz” anlamına gelir) bombaların kodu olarak kullanılır ve gerçek meyveye atıfta bulunur.
Olası alarm sinyallerini arayacak şekilde kalibre edilen yapay zeka, bu nedenle aşırı miktarda hatalı pozitif sonuç üretme ve orduyu en zararsız konuşmaları bile şüpheli olarak değerlendirmeye itme riski taşıyor.
Bir yapay zekanın yapabileceği hatanın bir diğer endişe verici örneği, bir binada bulunan sivillerin sayısına ilişkin tahmindir; IDF'nin genellikle buna dayanarak varacağı tahmindir. bir hücreye bağlı telefonların sayısındaakıllı telefonlar sayılırken örneğin çocukları veya kapalı veya pili biten cihazları göz ardı etmek.
Ayrıca her zaman net değildir Olası hedefler hakkındaki bilginin bir makineden mi yoksa bir insan analistinden mi geldiği: tüm bunlar sonuçta borçlu olanların değerlendirmesini daha riskli hale getiriyor bir saldırı başlatıp başlatmayacağınıza karar verin.
Eski bir üst düzey IDF subayı şunları söyledi: Washington Post Otomatik sistemlere çok fazla güvenmek şu fikri körükledi: gelişmiş “her şeyi bilen” gözetim.
İki eski İsrail askerinin ifadelerine dayanarak, Washington Post “Yapay zekaya duyulan coşku, Birim 8200'ün “uyarı kültürünü” aşındırdı; böylece düşük seviyeli analistler bile üst düzey komutanları devam eden tehditler hakkında kolayca bilgilendirebilirdi.”
Bu kaynaklara göre yapay zeka daha hızlı hareket etmeye yardımcı olabilir ancak Gazze gibi karmaşık bir savaş bağlamında hataları azaltamaz.
Birim 8200'ün rolü
Yapay zeka teknolojilerinin benimsenmesi hızlandırıldı Birim 8200İsrail istihbaratının elit kolu.
Yapay zekanın askeri operasyonlara entegrasyonuna öncülük eden general, Yossi Sarielsavaşta karar verme stratejilerini otomatikleştirmenin gerekliliğine inanan bir firma.
Sariel başlıklı bir kitabın yazarıdır “İnsan-Makine Ekibi: Dünyamızda Devrim Yaratacak İnsan ve Yapay Zeka Arasında Sinerji Nasıl Yaratılır?“Savaşın ortasında askeri saldırılar için binlerce potansiyel “hedef” oluşturmak üzere muazzam miktarlarda veriyi hızla işleyebilen özel bir makine tasarlama ihtiyacını” savunuyor.
Sariel, veri mühendisliğinin radikal bir şekilde güçlendirilmesini destekledi, Arapça konuşan uzmanların sayısını azalttı ve Birim 8200'ün yapısını yeniden tasarladı, bugün %60'ı mühendis ve teknoloji uzmanlarından oluşanon yıl önce askere alınan bilgisayar bilimcilerinin sayısı iki katına çıktı.
Savaşta kullanılan yapay zeka
İsrail istihbaratının başı Amazon'daki bir kitapla ihanete uğradı: Adı 20 yıldan fazla bir süre sonra ortaya çıktı
kaydeden Pier Luigi Pisa
05 Nisan 2024
“Harcanabilir” siviller
Eski askerlerin ve analistlerin derlediği ifadelere göre Washington PostYapay zekaya duyulan güven IDF'yi bazı doğrulama ve kontrol adımlarını azaltınsayısının artması sonucu meşru sayılan hedefler. Bunlar siviller arasında daha büyük kayıp riski taşısa bile.
2014'teki 1:1 oranından (bir sivilin üst düzey bir Hamas üyesini vurmak için “harcanabilir”) oranı 15:1'e çıktı veya mevcut çatışmada 20:1 bilekaynaklara göre Washington Post ve insani yardım kuruluşlarının beyanları.
Pek çok analist, bu teknolojilerin savaş halindeki ülkeler arasında yayılmaya mahkum olmasına rağmen, İnsan denetimi hala gerekli hataları içermek ve hayatları korumak için.