YENİArtık Haberler yazılarını dinleyebilirsiniz!
2020’ye giden yıllar boyunca, bir sonraki ulusal acil durumun – ’08 mali krizi gibi – milyarlarca dolandırıcılık kaybına yol açacağı konusunda uyardım. COVID-19 vurduğunda uyarılarım gerçeğimiz oldu.
Hayati önem taşıyan hükümet programlarının kasalarından yüz milyarlarca dolar yağmalandı – kira yardımı, işsizlik yardımları, SNAP yardımları ve PPP kredileri binlerce yerli ve ulusötesi siber suçlu için domuz kumbarası oldu.
Daha sonra, devlet düzeyindeki çalışma departmanları, yüz milyarlarca dolar değerindeki hileli işsizlik başvurularının ödendiğini fark edince, birçoğu, hak talebinde bulunanların kimliklerini doğrulamak için yüz tanıma sistemlerine yöneldi.
‘BU TEKNOLOJİLERİN NASIL ÇALIŞTIĞINI ANLAMAYAN’ POLİS TARAFINDAN KULLANILAN YAPAY ZEKA ARAÇLARI: ÇALIŞMA
2020 gibi erken bir tarihte yapay zeka tarafından oluşturulan derin sahtekarlıkların bu sistemleri atlatmak için kullanılacağını söyledim ve bakın, olan tam olarak bu.
Yapay zeka, yasal Sosyal Güvenlik faydalanıcılarının profiliyle eşleşen sentetik kimlikler üretebilir ve milyonlarca doları hak eden alıcılardan uzaklaştırabilir. (Kevin Dietsch/Getty Images)
Suçlular artık hükümetten çalmak için yüzlerimizi kullanıyor. Vergi beyannamesi veriyorlar, işsizlik başvuruları yapıyorlar; seslerimizi, yüzlerimizi ve kimliklerimizi taklit ediyorlar ve bu büyük ölçüde fark edilmiyor.
Bugün tekrar alarm veriyorum: Yapay zeka, özellikle üretken yapay zeka, şimdiye kadar karşılaştığımız en hayati devlet kurumlarımızın ve yetkilendirme programlarımızın güvenliği için en büyük riski oluşturuyor. Belki bu sefer liderlerimiz felaket gelmeden önce dinlerler.
Gelişmiş yapay zeka algoritmaları, birden çok sektörde büyük ölçekli dolandırıcılık yapma potansiyeline sahiptir. Kamuya açık veya sızdırılmış veri kümeleri konusunda eğitim almış kişiler, Sosyal Güvenlik numaraları, sentetik kimlikler oluşturma ve sahte sağlık hizmetleri talepleri, savunma sözleşmeleri, vergi beyannameleri ve yardım başvuruları gibi hassas bilgilerin yapısını tahmin edebilirler.
Doğruluk derecesi endişe verici derecede yüksek olabilir ve yapay zeka güdümlü otomasyon, tespit ve önleme sistemlerimizi bir dizi sahte gönderimle boğarak sorunu daha da kötüleştirebilir.
Milyonlarca Amerikalı için bir cankurtaran halatı olan Sosyal Güvenlik yardımlarını düşünün. Yapay zeka, meşru yararlanıcıların profiliyle eşleşen sentetik kimlikler üretebilir ve milyonlarca doları hak eden alıcılardan uzaklaştırabilir.
Medicare ve Medicaid alanında AI, görünüşte meşru tıbbi iddialar üreterek milyarlarca dolarlık kayba yol açabilir – düşük gelirli ailelerin ve yaşlıların hayati sağlık hizmetlerine erişebilmesini sağlamayı amaçlayan fonlar.
Benzer şekilde, savunma sözleşmelerimiz de muaf değildir; AI, ulusal güvenliğe yönelik önemli finansal kaynakları yönlendirerek ikna edici tekliflere sahip sahte şirketler oluşturabilir.
Devlet finansmanımızın bel kemiği olan vergi tahsilatından da taviz verilebilir. Gelişmiş AI algoritmaları, boşluklardan yararlanmak ve hileli geri ödemeleri en üst düzeye çıkarmak için tasarlanmış karmaşık vergi beyannameleri oluşturabilir.
AI, masum kurbanları takip etmek için bir araç olarak kullanılabilir. Üretken yapay zeka, metin ve koddan, hatta resimlere veya videoya kadar yeni içerik türleri oluşturabildiği için özel bir tehdit olabilir. (Fox Haber)
Neyse ki, buradaki riskler önemli olsa da bir umut ışığı var: dolandırıcılara güç veren teknolojinin aynısı, sistemlerimizi korumak için kullanılabilir. Örneğin, “davranışsal biyometri” ile birleştirilmiş çok faktörlü kimlik doğrulama, yapay zeka sahtekarlığıyla mücadele etmek için geleneksel yöntemlerin karşılayamayacağı benzersiz ve sofistike bir yol sunar.
Bu teknoloji yalnızca bir kimlik numarası veya parmak izi gibi statik verilere bakmakla kalmaz, bunun yerine bir kişinin dijital cihazlarla benzersiz etkileşim yollarını analiz eder. Yazma hızı, fare hareket modelleri ve hatta bir akıllı telefonun tutuş şekli gibi faktörleri hesaba katar.
AI, ne kadar gelişmiş olursa olsun, insan dokunuşundan yoksundur – bu son derece kişisel ve incelikli insan davranışlarını ikna edici bir şekilde taklit edemez.
Örneğin, yapay zeka tarafından oluşturulmuş bir kimlik kullanılarak yapılan sahte bir vergi beyannamesini ele alalım. Sıradan bir sistem, sentetik bir Sosyal Güvenlik numarası gibi statik tanımlayıcılara dayalı olarak dönüşü doğrulayabilir. Bununla birlikte, davranışsal biyometri ile donatılmış bir sistem, verilerin girilme şeklini (tuş vuruşlarının zamanlaması, yazma ritmi) inceleyerek daha derine inecektir.
Önemli nokta şudur: Yapay zeka sistemleri, insan incelemeciler tarafından genellikle göz ardı edilen verilerdeki dolandırıcılık kalıplarını ve anormallikleri algılayabilir – yaş, gelir, istihdam geçmişi veya diğer kişisel ayrıntıların olası olmayan kombinasyonları işaretlenebilir.
Uygulamaların hacmini ve modelini izlemek, otomatik dolandırıcılığı gösterebilecek olağandışı bir akışı veya modeli belirlemek için yapay zekayı kullanabiliriz. Proaktif davranarak, büyük ölçekli hasarı azaltabiliriz.
GÖRÜŞ BÜLTENİNE ULAŞMAK İÇİN TIKLAYINIZ
AI’nın dolandırıcılık tespit ve önleme sistemleri üzerindeki etkisini halihazırda düşünmeyen herhangi bir ajans liderinin, bu tür karmaşık dolandırıcılıkların kurbanı olma olasılığını yeterince vurgulayamıyorum.
Yapay zeka destekli bu tehditlerin kurumlarını etkileyip etkilemeyeceği değil, ne zaman ve ne kadar şiddetli etkileneceği artık bir sorudur. Yapay zeka dolandırıcılığının uzak bir tehdit değil, kapımızı çalan bir tehdit olduğu gerçeğini kabul etmeliyiz.
Burada sihirli değnek yok. Yapay zeka dolandırıcılığıyla mücadele, kurumlar arasında uyumlu ve koordineli bir çaba, sürekli inovasyona derin bir bağlılık ve davranışsal biyometri gibi ileri teknolojilere yatırım yapma isteği gerektirecektir.
HABERLER SUNULDU
Dolandırıcılığı önlemeyi sadece idari bir işlev olarak değil, ulusal güvenliğimizin kritik bir yönü olarak düşünmeye başlamalıyız. Bu konuyu stratejik düzeye yükselterek ve bu konuda açık, sağlam bir diyalogu teşvik ederek, sistemlerimizi istismar etmeye çalışanların bir adım önünde olmak için kendimizi güçlendirebiliriz.
Milletimizin bütünlüğü ve vatandaşlarımızın güvenliğinin geleceği buna bağlıdır.
Haywood Talcove, LexisNexis Risk Solutions Devlet Grubu’nun CEO’sudur.
2020’ye giden yıllar boyunca, bir sonraki ulusal acil durumun – ’08 mali krizi gibi – milyarlarca dolandırıcılık kaybına yol açacağı konusunda uyardım. COVID-19 vurduğunda uyarılarım gerçeğimiz oldu.
Hayati önem taşıyan hükümet programlarının kasalarından yüz milyarlarca dolar yağmalandı – kira yardımı, işsizlik yardımları, SNAP yardımları ve PPP kredileri binlerce yerli ve ulusötesi siber suçlu için domuz kumbarası oldu.
Daha sonra, devlet düzeyindeki çalışma departmanları, yüz milyarlarca dolar değerindeki hileli işsizlik başvurularının ödendiğini fark edince, birçoğu, hak talebinde bulunanların kimliklerini doğrulamak için yüz tanıma sistemlerine yöneldi.
‘BU TEKNOLOJİLERİN NASIL ÇALIŞTIĞINI ANLAMAYAN’ POLİS TARAFINDAN KULLANILAN YAPAY ZEKA ARAÇLARI: ÇALIŞMA
2020 gibi erken bir tarihte yapay zeka tarafından oluşturulan derin sahtekarlıkların bu sistemleri atlatmak için kullanılacağını söyledim ve bakın, olan tam olarak bu.
Yapay zeka, yasal Sosyal Güvenlik faydalanıcılarının profiliyle eşleşen sentetik kimlikler üretebilir ve milyonlarca doları hak eden alıcılardan uzaklaştırabilir. (Kevin Dietsch/Getty Images)
Suçlular artık hükümetten çalmak için yüzlerimizi kullanıyor. Vergi beyannamesi veriyorlar, işsizlik başvuruları yapıyorlar; seslerimizi, yüzlerimizi ve kimliklerimizi taklit ediyorlar ve bu büyük ölçüde fark edilmiyor.
Bugün tekrar alarm veriyorum: Yapay zeka, özellikle üretken yapay zeka, şimdiye kadar karşılaştığımız en hayati devlet kurumlarımızın ve yetkilendirme programlarımızın güvenliği için en büyük riski oluşturuyor. Belki bu sefer liderlerimiz felaket gelmeden önce dinlerler.
Gelişmiş yapay zeka algoritmaları, birden çok sektörde büyük ölçekli dolandırıcılık yapma potansiyeline sahiptir. Kamuya açık veya sızdırılmış veri kümeleri konusunda eğitim almış kişiler, Sosyal Güvenlik numaraları, sentetik kimlikler oluşturma ve sahte sağlık hizmetleri talepleri, savunma sözleşmeleri, vergi beyannameleri ve yardım başvuruları gibi hassas bilgilerin yapısını tahmin edebilirler.
Doğruluk derecesi endişe verici derecede yüksek olabilir ve yapay zeka güdümlü otomasyon, tespit ve önleme sistemlerimizi bir dizi sahte gönderimle boğarak sorunu daha da kötüleştirebilir.
Milyonlarca Amerikalı için bir cankurtaran halatı olan Sosyal Güvenlik yardımlarını düşünün. Yapay zeka, meşru yararlanıcıların profiliyle eşleşen sentetik kimlikler üretebilir ve milyonlarca doları hak eden alıcılardan uzaklaştırabilir.
Medicare ve Medicaid alanında AI, görünüşte meşru tıbbi iddialar üreterek milyarlarca dolarlık kayba yol açabilir – düşük gelirli ailelerin ve yaşlıların hayati sağlık hizmetlerine erişebilmesini sağlamayı amaçlayan fonlar.
Benzer şekilde, savunma sözleşmelerimiz de muaf değildir; AI, ulusal güvenliğe yönelik önemli finansal kaynakları yönlendirerek ikna edici tekliflere sahip sahte şirketler oluşturabilir.
Devlet finansmanımızın bel kemiği olan vergi tahsilatından da taviz verilebilir. Gelişmiş AI algoritmaları, boşluklardan yararlanmak ve hileli geri ödemeleri en üst düzeye çıkarmak için tasarlanmış karmaşık vergi beyannameleri oluşturabilir.
AI, masum kurbanları takip etmek için bir araç olarak kullanılabilir. Üretken yapay zeka, metin ve koddan, hatta resimlere veya videoya kadar yeni içerik türleri oluşturabildiği için özel bir tehdit olabilir. (Fox Haber)
Neyse ki, buradaki riskler önemli olsa da bir umut ışığı var: dolandırıcılara güç veren teknolojinin aynısı, sistemlerimizi korumak için kullanılabilir. Örneğin, “davranışsal biyometri” ile birleştirilmiş çok faktörlü kimlik doğrulama, yapay zeka sahtekarlığıyla mücadele etmek için geleneksel yöntemlerin karşılayamayacağı benzersiz ve sofistike bir yol sunar.
Bu teknoloji yalnızca bir kimlik numarası veya parmak izi gibi statik verilere bakmakla kalmaz, bunun yerine bir kişinin dijital cihazlarla benzersiz etkileşim yollarını analiz eder. Yazma hızı, fare hareket modelleri ve hatta bir akıllı telefonun tutuş şekli gibi faktörleri hesaba katar.
AI, ne kadar gelişmiş olursa olsun, insan dokunuşundan yoksundur – bu son derece kişisel ve incelikli insan davranışlarını ikna edici bir şekilde taklit edemez.
Örneğin, yapay zeka tarafından oluşturulmuş bir kimlik kullanılarak yapılan sahte bir vergi beyannamesini ele alalım. Sıradan bir sistem, sentetik bir Sosyal Güvenlik numarası gibi statik tanımlayıcılara dayalı olarak dönüşü doğrulayabilir. Bununla birlikte, davranışsal biyometri ile donatılmış bir sistem, verilerin girilme şeklini (tuş vuruşlarının zamanlaması, yazma ritmi) inceleyerek daha derine inecektir.
Yapay zekanın insan davranışı öykünmesinde duraksadığı ve kırmızı bayrak kaldırdığı yer burasıdır. Bu şekilde davranışsal biyometri, yapay zeka güdümlü dolandırıcılığa karşı mücadelemizde ek, kritik bir savunma katmanı sağlar.
Önemli nokta şudur: Yapay zeka sistemleri, insan incelemeciler tarafından genellikle göz ardı edilen verilerdeki dolandırıcılık kalıplarını ve anormallikleri algılayabilir – yaş, gelir, istihdam geçmişi veya diğer kişisel ayrıntıların olası olmayan kombinasyonları işaretlenebilir.
Uygulamaların hacmini ve modelini izlemek, otomatik dolandırıcılığı gösterebilecek olağandışı bir akışı veya modeli belirlemek için yapay zekayı kullanabiliriz. Proaktif davranarak, büyük ölçekli hasarı azaltabiliriz.
GÖRÜŞ BÜLTENİNE ULAŞMAK İÇİN TIKLAYINIZ
AI’nın dolandırıcılık tespit ve önleme sistemleri üzerindeki etkisini halihazırda düşünmeyen herhangi bir ajans liderinin, bu tür karmaşık dolandırıcılıkların kurbanı olma olasılığını yeterince vurgulayamıyorum.
Yapay zeka destekli bu tehditlerin kurumlarını etkileyip etkilemeyeceği değil, ne zaman ve ne kadar şiddetli etkileneceği artık bir sorudur. Yapay zeka dolandırıcılığının uzak bir tehdit değil, kapımızı çalan bir tehdit olduğu gerçeğini kabul etmeliyiz.
Burada sihirli değnek yok. Yapay zeka dolandırıcılığıyla mücadele, kurumlar arasında uyumlu ve koordineli bir çaba, sürekli inovasyona derin bir bağlılık ve davranışsal biyometri gibi ileri teknolojilere yatırım yapma isteği gerektirecektir.
HABERLER SUNULDU
Dolandırıcılığı önlemeyi sadece idari bir işlev olarak değil, ulusal güvenliğimizin kritik bir yönü olarak düşünmeye başlamalıyız. Bu konuyu stratejik düzeye yükselterek ve bu konuda açık, sağlam bir diyalogu teşvik ederek, sistemlerimizi istismar etmeye çalışanların bir adım önünde olmak için kendimizi güçlendirebiliriz.
Milletimizin bütünlüğü ve vatandaşlarımızın güvenliğinin geleceği buna bağlıdır.
Haywood Talcove, LexisNexis Risk Solutions Devlet Grubu’nun CEO’sudur.