EscapeGPT, BlackhatGPT ve diğerleri: Suçlular yapay zekayı bu şekilde kullanıyor

Suzan

New member
Dolandırıcılığın olduğu zamanlar e-posta yoluyla (Nijeryalı prensinki meşhurdur) çoktan geçmiş oldukları kolayca teşhis edilebiliyordu. Bir zamanlar dilbilgisine aykırı, hatalarla dolu ve bazen neredeyse anlaşılmaz mektupların olduğu yerde, artık doğru bir şekilde yazılmış ve doğrudan bize gönderilen (belki de bazılarından bahseden) e-postalar var. özel hayatımızın bir yönü) ve etkinliğini kaybetmeden birden fazla dile çevrilebilen.

Kredi aynı zamanda ChatGPT'ye de gidiyor: ikinci Siber güvenlik firması SlashNext tarafından yapılan bir araştırmaKimlik avı e-postaları (yani suçluların şifreleri ve diğer özel bilgileri ifşa etmemizi sağlamaya çalıştığı e-postalar), OpenAI'nin geniş dil modelinin ortaya çıkışından bu yana %1265 oranında arttı.


Sahte haberler

Yapay zeka ve Rusya yanlısı propaganda için kullanılan (sahte) hamile Ken bebeği



kaydeden Emanuele Capone

12 Nisan 2024



Profesyonel hizmetler (eğer öyle diyebilirsek) spam oluşturmak için Bazı durumlarda ChatGPT'yi doğrudan içlerine dahil etmişlerdir: örneğin, bu entegrasyon sayesinde yazabilen veya yazabilen GoMail Pro durumudur. daha doğru tercüme et Geçmişle karşılaştırıldığında yüzbinlerce potansiyel mağdura gönderilen mesajlar.

Elbette bu kullanımlar, bu suiistimalleri önlemek için insan incelemecilerden ve otomatik sistemlerden oluşan bir kombinasyon kullanan OpenAI tarafından yasaklanmıştır. Gibi MIT Tech Review'a açıkladı Araştırmacı Vincenzo Ciancaglini, yasakları uygulamaya koymak özellikle zor: çok sayıda komut (ChatGPT ile iletişim kurduğumuz metinsel komutlar ve benzeri) görünüşte zararsız ancak kötü amaçlarla kullanılabilirler.

ChatGPT engellediğinde bile yasa dışı veya yasaklanmış isteklerSiber suçlular ücretli jailbreak hizmetlerine güvenerek istediklerini elde edebilirler. Uygunsuz kullanımı önlemek için, LLM'ler sözde güvenlik önlemlerini kullanır: programcılar tarafından ChatGPT'nin (birkaç örnek vermek gerekirse) bize açıklama yapmasını engelleyen engeller. bomba nasıl yapılır veya kişilerin kimliklerine ilişkin özel bilgilerin ifşa edilmesi.

Bununla birlikte, bu engeller, komutun belirli formülasyonları veya (örneğin, bir araştırmacı ekibi keşfetti) bir şekilde LLM'leri herhangi bir talebe yanıt vermeye zorlayan belirli alfasayısal diziler ekleyerek. EscapeGPT veya gibi ücretli jailbreak hizmetleri BlackhatGPT (aylık 200$ maliyeti)Güvenlik sistemlerini atlamanıza olanak tanıyan çeşitli teknikleri sürekli olarak yayarak ve güncelleyerek tam olarak bununla başa çıkın.

Ve böylece ChatGPT, Llama, Claude ve diğer tüm LLM'leri, kişisel bilgileri ifşa etme veya ifşa etme gibi potansiyel olarak çok tehlikeli uygulamalar için bile kullanmak mümkün hale gelir. sıradan vatandaşların hayatlarının özel detayları (e-posta, telefon numarası, ev adresi, yaş ve daha fazlası gibi): “Bunun nedeni, bu dil modellerinin İnternet'ten alınan çok büyük miktarda veri yoluyla eğitilmiş olması olabilir; bu veriler, diğer şeylerin yanı sıra çıkarım yapmaya olanak tanıyan kişisel bilgileri de içerebilir. , kişinin özel veya iş adresi”, Bunu her zaman MIT Tech Review'da okursunuz.


Rehber

Sahte haberleri nasıl tanıyabilirsiniz ve yapay zeka çağında kendinizi nasıl savunabilirsiniz?



kaydeden Emanuele Capone

27 Kasım 2023



Bütün bunlar pratikte nasıl çalışıyor? Her şeyden önce yapmanız gerekenler jailbreak hizmetlerini kullanın isteğimizin engellenmediğinden emin olmak için. Daha sonra AI sisteminden hedefimizle (veya doğrudan onun tarafından yazılan metinlerle) ilgili verileri analiz etmesini isteyebilirsiniz. veri kümesinde mevcutonlardan çıkarılabilecek tüm bilgileri almak.

Örneğin ETH Zürih'ten bir araştırmacı ekibi şunu başardı: çeşitli dilsel modellerin ortaya çıkardığı gizli bilgilere sahip olmak Sadece sohbet robotlarıyla konuşarak bazı belirli kişiler (adres, etnik köken ve meslek gibi) hakkında bilgi alabilirsiniz. Bu kolay uygulanabilir bir uygulama değil ama korkulan şu ki Yüksek Lisans'lar daha ileri bir gözetim aracı haline gelebilir otoriter hükümetlerin elinde.

Ve bir de kaçınılmaz deepfake'ler var. kesinlikle daha şaşırtıcı bir durum 2023'ün sonunda Hong Kong'da, İngiliz çok uluslu tasarım ve mühendislik şirketi Arup'un bir çalışanı, bir iş görüşmesi sırasında talep aldıktan sonra bir banka hesabına 25 milyon dolar aktarmaya ikna edildiğinde yaşandı. Gibi bir şirket sözcüsü ve polis doğruladıancak çalışan dolandırılacaktı: Görüşme sırasında meslektaşları ve üstleri orada değildi, ancak onların görünüşünü ve sesini taklit eden derin sahtekarlıklar vardı.

Ne oldu Hong Kong bu kesinlikle pek çok teknik detayın açıklığa kavuşturulmayı beklediği istisnai bir durumu temsil ediyor. Ancak daha basit olan, halihazırda yaygın olarak dolaşan ve izin veren sesli deepfake'lerin oluşturulmasıdır. sadece politikacıların sesini yeniden üretmek için değil (Joe Biden'da olduğu gibi) ama aynı zamanda her birimizinkini yeniden yaratmak. Yalnızca WhatsApp'ta gönderilen sesli mesajları kullanarak bile herhangi birinin sesini taklit etmenize olanak tanıyan birçok platformdan birini kullanmanız yeterlidir: bu sesli deepfake'ler daha sonra Sesi klonlanan kişinin anne ve babasını dolandırmak için istismar edildiörneğin kaçırılmış gibi davranarak veya acilen belirli bir banka hesabına para gönderilmesine ihtiyacı varmış gibi davranarak.

Son olarak, derin sahtekarlıklar potansiyel olarak en güvenli kimlik doğrulama sistemlerini bile atlayabilir. Klasik örnek, bankanın kimliği onaylamak istemesidir selfie çekmek Elinizde kişisel bir belge tutarken: Artık bu kontrolleri atlamak için bir kimlik kartı çalmak yeterli, çünkü siber suçlular çalınan belgeyi tutarken kendi fotoğraflarını çekebilir ve daha sonra deepfake kullanarak bu kontrolleri atlayabilirler. kurbanın resmini kendi resminin üzerine yerleştir. Bazı Telegram kanallarında bu sistem halihazırda 70 dolardan başlayan fiyatlarla sunuluyor.

Bunların hepsi rahatsız edici ama şaşırtıcı da olmamalı: evet çeşitli çalışmalar göstermiştir ChatGPT, LLM'ler ve genel olarak yapay zekanın verimliliği nasıl önemli ölçüde artırabildiğini. Çağ kaçınılmaz tüm bunlar suç dünyası için de geçerliydi.