Yapay zekanın gölgeli göbeği

Eda

New member
Yapay zekanın (AI) günlük yaşamlarımızda yaygınlaşması tartışmasız bir nimet oldu; endüstrileri yeniden şekillendirdi ve rutinlerimizin paradigmalarını yeniden tanımladı.

Ancak gölgelere adım atıldığında ve yapay zekanın hangi kötü amaçlı kullanımlara uygun hale getirildiğinin farkına varıldığında bu pembe tablo solmaya başlıyor. Özellikle siber suçlar için tasarlanan WormGPT ve FraudGPT gibi yapay zeka araçlarının ortaya çıkışı, bu gerçeğin çarpıcı bir hatırlatıcısıdır.

WormGPT’nin en son teknoloji kisvesi altında kamufle edilen iğrenç gelişi, siber yeraltı dünyasının karanlık koridorlarında yankı buldu. Bilinmeyen forumlarda satılan WormGPT, hızla karmaşık kimlik avı ve Ticari E-posta Güvenliği (BEC) saldırıları düzenlemek için kötü niyetli kişilerin tercihi haline geldi. Alıcıyı kandırmak için tasarlanmış sahte e-postaların otomasyonunu sağlayan ve böylece başarılı bir siber saldırı olasılığını artıran bir araçtır.

WormGPT’nin kötü niyetini artıran şey erişim kolaylığıdır. Siber silahların bu demokratikleşmesi, yeni yetişen siber suçluların giriş engellerini ortadan kaldırdığı ve siber saldırıların potansiyel büyüklüğünü ve sıklığını arttırdığı için endişe vericidir.

MICROSOFT, ÇİN VE KUZEY KORE’NİN YAPAY GÜÇLÜ OPERASYONLAR İÇİN YENİ STRATEJİLER VE HEDEFLER GELİŞTİRDİĞİ UYARISIYOR

Dahası, WormGPT herhangi bir etik sınır olmaksızın çalışır; bu, daha meşru muadilleriyle tam bir tezat oluşturur.

OpenAI ve Google, yapay zeka araçlarının kötüye kullanımını önlemek için güvenlik önlemleri uygularken, WormGPT bu kısıtlamaları atlayacak ve hassas bilgilerin ifşa edilmesini, uygunsuz içerik üretilmesini ve zararlı kod çalıştırılmasını içerebilecek çıktılar üretmesine olanak sağlayacak şekilde tasarlanmıştır.

WormGPT’nin kötü niyetli mirası, AI’nın başka bir uğursuz ürünü olan FraudGPT’ye ilham vermiş gibi görünüyor. FraudGPT, hedef odaklı kimlik avı e-postaları oluşturmak, kırma araçları oluşturmak, kartlama ve daha fazlası için bir dizi yasa dışı yetenek sunarak siber suiistimalleri bir adım öteye taşıyor.

BAZI MÜŞTERİLERİN DARK WEB’DEKİ YÜZEYLERİNE AİT 23ANDME PROFİLİ BİLGİLERİ

WormGPT ve FraudGPT’nin uğursuz bir şekilde ortaya çıkışı, Pandora’nın siber tehdit hazinesini ortaya çıkardı. Bu kötü niyetli araçlar yalnızca hizmet olarak kimlik avı (PhaaS) modelini yükseltmekle kalmıyor, aynı zamanda geniş ölçekte ikna edici kimlik avı ve BEC saldırıları başlatmayı amaçlayan amatörler için bir sıçrama tahtası görevi de görüyor.

Üstelik uğursuz yaratıcılık burada bitmiyor. ChatGPT gibi yerleşik güvenlik önlemlerine sahip araçlar bile hassas bilgilerin ifşa edilmesi, uygunsuz içerik üretilmesi ve kötü amaçlı kod çalıştırılması gibi kötü amaçlara hizmet etmek üzere “jailbreak” işlemine tabi tutuluyor. Yapay zekanın attığı her adımda, uğursuz tehdit bulutu artık daha da büyüyor.

Yapay zekanın siber suç alanında kötüye kullanılması buzdağının sadece görünen kısmıdır. Yapay zeka araçları yanlış ellere düşerse veya uygun etik hususlar olmadan kullanılırsa, kitle imha silahları yaratmak, kritik altyapıyı bozmak ve hatta kamuoyunu büyük ölçekte manipüle etmek için kullanılabilirler. Bu senaryolar yaygın kaosa, toplumsal çöküşe ve hatta küresel çatışmalara yol açabilir.

FOX HABERİN DİĞER GÖRÜŞLERİ İÇİN TIKLAYIN

Dahası, Yaşamın Geleceği Enstitüsü’nün genel müdürü Anthony Aguirre’nin vurguladığı gibi, yapay zeka sistemlerinin insani değerleri paylaşmadığı hizalanmamış yapay zeka, önemli bir yok olma riski taşıyor. Önemli bir endişe, yeterince gelişmiş yapay zeka sistemlerinin nihai hedeflerinden bağımsız olarak benzer alt hedefleri takip edeceğini öne süren bir teori olan araçsal yakınsamadır.

Örneğin, bir yapay zeka, birincil hedefleri olmasa bile kendini koruma veya kaynak edinme arayışına girebilir ve bu da onun dünyayı ele geçirmesine yol açabilir. Potansiyel felaket sonuçlarını önlemek için yapay zeka sistemlerini acilen insani değerlerle uyumlu hale getirmemiz gerekiyor.

Bu, güçlü yapay zeka yönetimine olan acil ihtiyacı artırıyor. Yapay zekanın kullanımıyla ilgili, etik kurallar, güvenlik önlemleri ve hesap verebilirlik mekanizmaları da dahil olmak üzere açık kurallar ve düzenlemeler oluşturmamız gerekiyor. Ayrıca yapay zeka sistemlerinin amaçlandığı gibi davranmasını ve aşırı riskler oluşturmamasını sağlayacak teknikler geliştirmek için yapay zeka güvenlik araştırmalarına da yatırım yapmamız gerekiyor.

WormGPT ve FraudGPT gibi yapay zeka araçlarının ortaya çıkışı bir uyandırma çağrısıdır. Bunlar, yapay zeka ile ilişkili potansiyel risklerin ve acil eylem ihtiyacının açık bir hatırlatıcısıdır.

Yapay zekanın gücünden yararlanmaya devam ederken, bunu sorumlu bir şekilde ve azami dikkatle yaptığımızdan da emin olmalıyız. Bahisler daha yüksek olamazdı.

GLEB TSIPURSKY’DEN DAHA FAZLASINI OKUMAK İÇİN BURAYA TIKLAYIN