Bilinçaltı sohbet botları, kredi puanlaması, öngörücü polis, gerçek zamanlı gözetim, okuldaki ve işte duyguların tanınması. 2 Şubat'tan itibaren yapay zekanın bu kullanımları Avrupa genelinde yasaktır. Yasanın ilk etkisi, yeni Avrupa yasası yapay zeka üzerindeki etkisidir.
Ayın başında, piyasaya piyasaya girme, hizmete girme veya insanların manipülasyon, sömürü, sosyal kontrolü ve gözetim için IA sistemlerini kullanma yasağı da dahil olmak üzere, düzenlemenin ilk hükümleri geçerli hale gelmiştir.
Son zamanlarda, Avrupa Komisyonu bu yasakların kapsamını açıklığa kavuşturmak ve uygulamaları hakkında pratik örnekler sunmak için yönergeler kabul etmiştir. İşte bilmeniz gereken her şey.
Kurallar
Elçilerin İşleri, duyguları okuyan yapay zeka kuralları: “Okulda ve işte yasaklanmış”
Pier Luigi Pisa tarafından
05 Şubat 2025
Güvenlik açığının manipülasyonu ve sömürülmesi
İlk iki yasak, bilinçaltı, manipülatif veya aldatıcı teknikler kullanan ve insanların güvenlik açıklarından yararlanan sistemlerle ilgilidir. Algoritmaların vatandaşların seçimlerini tehlikeye atmak ve önemli hasara neden olmak için kullanılmasını önlemek istiyoruz.
Bir video sırasında algılanamayan bir şekilde yanıp sönen metinler veya insanların ruh hallerini değiştiren duyusal manipülasyon teknikleri gibi görsel bilinçaltı mesajların yayılması ilk duruma dahil edilir. Dolandırıcılık yapmak için sentetik bir ses sayesinde göreceli olarak bölünmüş olan sohbet botları da yasaktır.
İkinci yasak, çocukları dijital ödüller karşılığında tehlikeli zorlukları, IA sistemlerini yaşlıları dolandırmak ve engelli insanları tıbbi ürün satın almak için etkilemek için teşvik eden oyunlar içerir. Algoritmaların finansal ürünlerin reklamını ekonomik zorluktaki insanlara yönlendirmesi de yasaktır.
Sosyal puanlama
Avrupa, vatandaşları sosyal davranışlara veya kişisel özelliklere dayalı olarak değerlendiren veya sınıflandıran AI tabanlı sosyal puan sistemlerini yasaklamıştır. Yasak, sosyal bağlamlarda, verilerin veya sosyal davranışın ciddiyetiyle orantısız olanlara bağlı olmayan önyargılı bir muamelenin bundan kaynaklandığı durumlarla ilgilidir.
Hükümetler bu nedenle, vatandaşları yaşamın farklı yönlerinde izleyebilen ve değerlendirebilen IA sistemlerini, faturaların ödenmesinde çevrimiçi faaliyetler ve dakiklik gibi, kamu hizmetlerine erişmede sınırlamalar veya düşük bir puan için daha yüksek faiz oranları sunmaktadır.
Yasak ayrıca özel birey için de geçerlidir: Bu, bir kredi kuruluşunun insanların kredi güvenilirliğini belirlemek ve ilgisiz kişisel özelliklere göre kredi alma olasılığına karar vermek için IA'yı kullanamayacağı anlamına gelir.
Analiz
“IA şu anda Avrupa'nın kazanamayacağı bir oyundur”
Pier Luigi Pisa tarafından
12 Şubat 2025
Öngörücü polis
Kanun ayrıca, bir kişinin sadece profil oluşturmaya veya kişilik özelliklerinin ve özelliklerinin değerlendirilmesine dayalı bir suç işleme riskini değerlendiren veya sağlayan algoritmik sistemleri yasaklar.
Bu nedenle, bir otoritenin, terörizm gibi suçlar için sadece yaş, milliyet, araba türü ve insanların medeni statüsüne dayanan suç davranışlarını tahmin etmek için IA'nın uygulanması mümkün değildir.
Halka açık olarak gerçek zamanlı biyometrik tanımlama
AI Yasası ayrıca, yetkililerin yetkilendirilmesini sağlayan bazı sınırlı istisnalara halel getirmeden, kontrast amaçlı olarak halka erişilebilir alanlarda biyometrik tanımlama sistemlerini gerçek zamanlı olarak yasaklamaktadır.
Polis bu nedenle bir cesedi tanımlamak ve yüz görüntülerini cezai veritabanlarıyla karşılaştırmak için bu algoritmaları kullanamaz. Bu teknolojiler, bazı ciddi suçların veya kaybolan insanların kurbanlarının arama, kamu güvenliği veya terörist saldırılara yönelik tehditlerin önlenmesi ve belirli suçlardan şüphelilerin yeri veya tanımlanması için kabul edilir.
Duyguların tanınması
Okullarda ve işyerlerinde hareketlerle hareket ederken, IA sistemleri tıbbi veya güvenlik nedenleri dışında bir kişinin duygularını çıkarmak için kullanılamaz. Çalışanların duygularını tespit etmek için çağrı merkezinde web kameralarının ve vokal tanıma sistemlerinin kullanımı ve kabul testleri sırasında duyguları tanımak için okullarda algoritmaların kullanılması yasağa dahil edilmiştir.
Röportaj
Markus Reinisch (Meta): “Sana bir kez ve herkes için açıklıyorum çünkü Avrupa geride kalma riskleri”
Pier Luigi Pisa tarafından
04 Ekim 2024
Görüntülerin kazınması
Yüz görüntülerinin internetten doymamış kazınması yoluyla yüz tanıma veritabanlarını oluşturan veya genişleten IA sistemlerini pazarlamak veya kullanmak da yasaktır.
Kapalı devre kameraların filmleri.
Biyometrik kategorizasyon
Son olarak, ırk, siyasi görüşler ve cinsel yönelim gibi hassas özellikleri çıkarmak için insanları biyometrik verilerine göre sınıflandıran biyometrik kategorizasyon sistemlerine izin verilmez. Bu nedenle algoritmalar, bir kişinin etnik kökenini bir dövmeden sesinden veya dini yönelimden çıkarmaya kabul edilmez.
Ayın başında, piyasaya piyasaya girme, hizmete girme veya insanların manipülasyon, sömürü, sosyal kontrolü ve gözetim için IA sistemlerini kullanma yasağı da dahil olmak üzere, düzenlemenin ilk hükümleri geçerli hale gelmiştir.
Son zamanlarda, Avrupa Komisyonu bu yasakların kapsamını açıklığa kavuşturmak ve uygulamaları hakkında pratik örnekler sunmak için yönergeler kabul etmiştir. İşte bilmeniz gereken her şey.
Kurallar
Elçilerin İşleri, duyguları okuyan yapay zeka kuralları: “Okulda ve işte yasaklanmış”
Pier Luigi Pisa tarafından
05 Şubat 2025
Güvenlik açığının manipülasyonu ve sömürülmesi
İlk iki yasak, bilinçaltı, manipülatif veya aldatıcı teknikler kullanan ve insanların güvenlik açıklarından yararlanan sistemlerle ilgilidir. Algoritmaların vatandaşların seçimlerini tehlikeye atmak ve önemli hasara neden olmak için kullanılmasını önlemek istiyoruz.
Bir video sırasında algılanamayan bir şekilde yanıp sönen metinler veya insanların ruh hallerini değiştiren duyusal manipülasyon teknikleri gibi görsel bilinçaltı mesajların yayılması ilk duruma dahil edilir. Dolandırıcılık yapmak için sentetik bir ses sayesinde göreceli olarak bölünmüş olan sohbet botları da yasaktır.
İkinci yasak, çocukları dijital ödüller karşılığında tehlikeli zorlukları, IA sistemlerini yaşlıları dolandırmak ve engelli insanları tıbbi ürün satın almak için etkilemek için teşvik eden oyunlar içerir. Algoritmaların finansal ürünlerin reklamını ekonomik zorluktaki insanlara yönlendirmesi de yasaktır.
Sosyal puanlama
Avrupa, vatandaşları sosyal davranışlara veya kişisel özelliklere dayalı olarak değerlendiren veya sınıflandıran AI tabanlı sosyal puan sistemlerini yasaklamıştır. Yasak, sosyal bağlamlarda, verilerin veya sosyal davranışın ciddiyetiyle orantısız olanlara bağlı olmayan önyargılı bir muamelenin bundan kaynaklandığı durumlarla ilgilidir.
Hükümetler bu nedenle, vatandaşları yaşamın farklı yönlerinde izleyebilen ve değerlendirebilen IA sistemlerini, faturaların ödenmesinde çevrimiçi faaliyetler ve dakiklik gibi, kamu hizmetlerine erişmede sınırlamalar veya düşük bir puan için daha yüksek faiz oranları sunmaktadır.
Yasak ayrıca özel birey için de geçerlidir: Bu, bir kredi kuruluşunun insanların kredi güvenilirliğini belirlemek ve ilgisiz kişisel özelliklere göre kredi alma olasılığına karar vermek için IA'yı kullanamayacağı anlamına gelir.
Analiz
“IA şu anda Avrupa'nın kazanamayacağı bir oyundur”
Pier Luigi Pisa tarafından
12 Şubat 2025
Öngörücü polis
Kanun ayrıca, bir kişinin sadece profil oluşturmaya veya kişilik özelliklerinin ve özelliklerinin değerlendirilmesine dayalı bir suç işleme riskini değerlendiren veya sağlayan algoritmik sistemleri yasaklar.
Bu nedenle, bir otoritenin, terörizm gibi suçlar için sadece yaş, milliyet, araba türü ve insanların medeni statüsüne dayanan suç davranışlarını tahmin etmek için IA'nın uygulanması mümkün değildir.
Halka açık olarak gerçek zamanlı biyometrik tanımlama
AI Yasası ayrıca, yetkililerin yetkilendirilmesini sağlayan bazı sınırlı istisnalara halel getirmeden, kontrast amaçlı olarak halka erişilebilir alanlarda biyometrik tanımlama sistemlerini gerçek zamanlı olarak yasaklamaktadır.
Polis bu nedenle bir cesedi tanımlamak ve yüz görüntülerini cezai veritabanlarıyla karşılaştırmak için bu algoritmaları kullanamaz. Bu teknolojiler, bazı ciddi suçların veya kaybolan insanların kurbanlarının arama, kamu güvenliği veya terörist saldırılara yönelik tehditlerin önlenmesi ve belirli suçlardan şüphelilerin yeri veya tanımlanması için kabul edilir.
Duyguların tanınması
Okullarda ve işyerlerinde hareketlerle hareket ederken, IA sistemleri tıbbi veya güvenlik nedenleri dışında bir kişinin duygularını çıkarmak için kullanılamaz. Çalışanların duygularını tespit etmek için çağrı merkezinde web kameralarının ve vokal tanıma sistemlerinin kullanımı ve kabul testleri sırasında duyguları tanımak için okullarda algoritmaların kullanılması yasağa dahil edilmiştir.
Röportaj
Markus Reinisch (Meta): “Sana bir kez ve herkes için açıklıyorum çünkü Avrupa geride kalma riskleri”
Pier Luigi Pisa tarafından
04 Ekim 2024
Görüntülerin kazınması
Yüz görüntülerinin internetten doymamış kazınması yoluyla yüz tanıma veritabanlarını oluşturan veya genişleten IA sistemlerini pazarlamak veya kullanmak da yasaktır.
Kapalı devre kameraların filmleri.
Biyometrik kategorizasyon
Son olarak, ırk, siyasi görüşler ve cinsel yönelim gibi hassas özellikleri çıkarmak için insanları biyometrik verilerine göre sınıflandıran biyometrik kategorizasyon sistemlerine izin verilmez. Bu nedenle algoritmalar, bir kişinin etnik kökenini bir dövmeden sesinden veya dini yönelimden çıkarmaya kabul edilmez.