YENİArtık Haberler yazılarını dinleyebilirsiniz!
Amazon, Google, Meta, Microsoft ve OpenAI’nin de aralarında bulunduğu önemli yapay zeka teknolojisi firmalarının yöneticileriyle yaptığı toplantının ardından Başkan Biden, şirketlerin dört taahhüt üzerinde anlaştığını duyurdu. Bunlar, sistem güvenliğini ve ürün testini geliştirmek gibi en iyi uygulamalardan, yapay zeka içeriğine filigran ekleme ve yapay zekayı sağlık hizmetleri gibi alanlardaki kritik toplumsal zorlukları çözmek için kullanmaya yönelik “ayda kalma” hedeflere kadar uzanır.
Toplumsal zorlukları çözmek heyecan verici olsa da, yapay zeka tarafından üretilen içeriğe filigran eklemek zor olabilir. Aynı zamanda ‘yapay zeka tarafından üretilen’ kavramının ne olduğu ve hükümetin teknoloji sağlayıcılarını kendi araçları kullanılarak üretilen içeriği etiketlemeye zorlaması gerekip gerekmediğine ilişkin soruları da gündeme getiriyor.
Filigranlama doğası gereği zordur ve teknikler ortama göre değişir. Çoğu durumda, geliştirici ile geliştiricinin filigranını tespit etmek için araçlar yapanlar arasındaki metinsel desen, özel kelimelerin listesi veya bir dosyadaki filigran konumu veya modeli gibi paylaşılan bir sırra dayanırlar.
Bu sır, bir sızıntı nedeniyle veya ters mühendislik nedeniyle daha yaygın olarak bilinir hale gelirse, filigranı kaldırmak isteyen yapay zeka kullanıcıları bunu kolaylıkla yapabilir.
YAPAY ZEKA (AI) NEDİR?
Bazı filigran teknolojileri için, filigranı kaldırmak için yalnızca çıktıyı analog ortama ve geriye taşımak (ekranda görüntülemek ve oradan kaydetmek gibi) yeterlidir. Filigranı açık kaynaklı ürünlere dahil etmek, kullanıcıların uygulamanın kamuya açık kodundaki filigranlama işlevini kaldırabilmesi veya devre dışı bırakabilmesi nedeniyle özellikle zor olabilir.
Bu tekniklerden bazıları programlama bilgisi gerektirse ve bunların kaldırılmasını zorlaştırsa da, ortalama kullanıcılar için birisinin veya bir grubun bunu otomatik olarak yapacak bir araç yapması yalnızca zaman meselesi gibi görünmektedir.
Devlet aktörleri muhtemelen filigran işlevi içermeyen araçları temin edebilecek veya bunu kaldırma kapasitesine sahip olacak, bu da ulus devlet destekli yanlış bilgilendirme kampanyalarının tespit edilmesinde filigran eklenmesinin etkinliğini sınırlayacaktır.
BIDEN, ABD BİLGİSAYAR KODUNUN GÜVENLİĞİNİ SAĞLAYAN YZ ARAÇLARI İÇİN YAKLAŞIK 20 MİLYON DOLARLIK ÖDÜL KAZANDI
Kameralardan alınan içeriği meşru olarak imzalamaya yönelik alternatif bir yaklaşım önerildi. Ancak bu da kolayca aşılır. Yalnızca imzalama teknolojisinin tehlikeye atılması riski mevcut değildir, aynı zamanda ekrandaki içeriğin resmini veya videosunu çekmek için bir imzalama kamerası kullanmanın nispeten kolay bir yaklaşımı da vardır. İster filigranın yokluğuyla ister dijital imzanın varlığıyla tanımlansın, hâlâ yapay zeka tarafından oluşturulmuş sahte olabilecek bu içerik daha fazla güvenilirliğe sahip olacak.
Filigran teknolojilerindeki sorunların yanı sıra dedektör tarafında da sorunlar yaşanıyor. Önemli zorluklardan biri, yapay zeka içerik algılayıcılarının bunları oluşturmak için hangi yapay zeka aracının kullanıldığını bilmeyecek olmalarıdır; bu nedenle bunları birden fazla filigran teknolojisine göre kontrol etmeleri ve yapay zeka araçları kullanılarak oluşturulan içeriği tanımlamaya çalışmak için diğer teknikleri kullanmaları gerekecek. filigran veya filigranın kaldırıldığı içerik.
INSTAGRAM ETİKETLERİ META YAPAY DESTEK GÖRÜNTÜLERİNİ TANIMLAYACAK: RAPOR
Sorunlu bir şekilde, bu araçlar meşru içeriği tuzağa düşürebilir. Örneğin, yakın zamanda yapılan bir araştırma, ana dili İngilizce olmayan kişiler tarafından yazılan metinlerin neredeyse tamamının yapay zeka tarafından oluşturulduğunu hatalı bir şekilde tespit ettiklerini gösterdi.
Filigranlama aynı zamanda insanların arka plan araştırması yapmak veya bir insanın başka kelimelerle ifade ettiği bir taslak veya metin oluşturmak için bir yapay zeka aracı kullanmasını da engellemez. Aynı zamanda sorunludur çünkü bir insan ve yapay zeka tarafından ortak olarak oluşturulan içeriği yapay zeka tarafından üretilmiş olarak işaretleyebilir ve yaratıcı insanın çalışmaya katkısının tanınmasını azaltabilir.
FOX HABERİN DİĞER GÖRÜŞLERİ İÇİN TIKLAYIN
Sahteleri ve izleyicileri ve okuyucuları manipüle etmeye yönelik girişimleri tespit etmek önemli olsa da, bu alandaki hükümet düzenlemeleri doğası gereği sorunludur ve Birinci Değişiklik ile ilgili temel soruları gündeme getirmektedir.
Daha pratik olarak düzenlemelerin teknolojik ilerlemeye ayak uydurması pek mümkün değildir. Bu, istedikleri hedefe ulaşmada etkisiz olabilecekleri ve teknolojik yeniliğe zarar verebilecekleri anlamına gelir. İster mevzuatla, ister kurum kural koyuculuğuyla, ister teknoloji sağlayıcı anlaşmasıyla yayınlanmış olsun, bu alandaki düzenlemenin etkili ve zararsız olması için çevik olması gerekir. Ne yazık ki, bu genellikle böyle değildir.
FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN
Kaynak güvenilirliği, bu soruna teknolojik olmayan potansiyel bir çözümdür. Sosyal medya ve her yerde bulunan kameralı telefonlardan önce halk, haberleri toplamak için gazetecilere ve gazetecilerin davranışlarını düzenlemek için editörlere güveniyordu. Dikkate değer zaman aşımları olsa da bunlar kural değil istisnadır. İçerik üreticileri kamunun güvenine güvendikleri için, yayınladıkları tüm içerikleri inceleyerek bunu sürdürme konusunda doğal bir çıkarları vardır.
Beyaz Saray’ın duyurusunun olumluluğuna rağmen yapay zeka filigranı teknolojik açıdan zor olacak. En iyi ihtimalle, filigranlama teknikleri geliştirmek ve bunların etrafından dolaşmak arasında bir casus-casus savaşı olacak. Başkanın tıp ve çevre koruma gibi alanlardaki toplumsal sorunları çözmek için yapay zekayı kullanma planı, filigran uygulamaktan daha ulaşılabilir görünüyor.
—Jeremy Straub, Kuzey Dakota Eyalet Üniversitesi Bilgisayar Bilimleri Bölümü’nde doçent, Challey Enstitüsü öğretim üyesi ve NDSU Siber Güvenlik Eğitimi ve Araştırma Enstitüsü’nün yöneticisidir. Yazarın görüşleri kendisine aittir.
Jeremy Straub, Kuzey Dakota Eyalet Üniversitesi Bilgisayar Bilimleri Bölümü’nde doçent, Challey Enstitüsü öğretim üyesi ve NDSU Siber Güvenlik Eğitimi ve Araştırma Enstitüsü’nün direktörüdür.
Amazon, Google, Meta, Microsoft ve OpenAI’nin de aralarında bulunduğu önemli yapay zeka teknolojisi firmalarının yöneticileriyle yaptığı toplantının ardından Başkan Biden, şirketlerin dört taahhüt üzerinde anlaştığını duyurdu. Bunlar, sistem güvenliğini ve ürün testini geliştirmek gibi en iyi uygulamalardan, yapay zeka içeriğine filigran ekleme ve yapay zekayı sağlık hizmetleri gibi alanlardaki kritik toplumsal zorlukları çözmek için kullanmaya yönelik “ayda kalma” hedeflere kadar uzanır.
Toplumsal zorlukları çözmek heyecan verici olsa da, yapay zeka tarafından üretilen içeriğe filigran eklemek zor olabilir. Aynı zamanda ‘yapay zeka tarafından üretilen’ kavramının ne olduğu ve hükümetin teknoloji sağlayıcılarını kendi araçları kullanılarak üretilen içeriği etiketlemeye zorlaması gerekip gerekmediğine ilişkin soruları da gündeme getiriyor.
Filigranlama doğası gereği zordur ve teknikler ortama göre değişir. Çoğu durumda, geliştirici ile geliştiricinin filigranını tespit etmek için araçlar yapanlar arasındaki metinsel desen, özel kelimelerin listesi veya bir dosyadaki filigran konumu veya modeli gibi paylaşılan bir sırra dayanırlar.
Bu sır, bir sızıntı nedeniyle veya ters mühendislik nedeniyle daha yaygın olarak bilinir hale gelirse, filigranı kaldırmak isteyen yapay zeka kullanıcıları bunu kolaylıkla yapabilir.
YAPAY ZEKA (AI) NEDİR?
Bazı filigran teknolojileri için, filigranı kaldırmak için yalnızca çıktıyı analog ortama ve geriye taşımak (ekranda görüntülemek ve oradan kaydetmek gibi) yeterlidir. Filigranı açık kaynaklı ürünlere dahil etmek, kullanıcıların uygulamanın kamuya açık kodundaki filigranlama işlevini kaldırabilmesi veya devre dışı bırakabilmesi nedeniyle özellikle zor olabilir.
Bu tekniklerden bazıları programlama bilgisi gerektirse ve bunların kaldırılmasını zorlaştırsa da, ortalama kullanıcılar için birisinin veya bir grubun bunu otomatik olarak yapacak bir araç yapması yalnızca zaman meselesi gibi görünmektedir.
Devlet aktörleri muhtemelen filigran işlevi içermeyen araçları temin edebilecek veya bunu kaldırma kapasitesine sahip olacak, bu da ulus devlet destekli yanlış bilgilendirme kampanyalarının tespit edilmesinde filigran eklenmesinin etkinliğini sınırlayacaktır.
BIDEN, ABD BİLGİSAYAR KODUNUN GÜVENLİĞİNİ SAĞLAYAN YZ ARAÇLARI İÇİN YAKLAŞIK 20 MİLYON DOLARLIK ÖDÜL KAZANDI
Kameralardan alınan içeriği meşru olarak imzalamaya yönelik alternatif bir yaklaşım önerildi. Ancak bu da kolayca aşılır. Yalnızca imzalama teknolojisinin tehlikeye atılması riski mevcut değildir, aynı zamanda ekrandaki içeriğin resmini veya videosunu çekmek için bir imzalama kamerası kullanmanın nispeten kolay bir yaklaşımı da vardır. İster filigranın yokluğuyla ister dijital imzanın varlığıyla tanımlansın, hâlâ yapay zeka tarafından oluşturulmuş sahte olabilecek bu içerik daha fazla güvenilirliğe sahip olacak.
Filigran teknolojilerindeki sorunların yanı sıra dedektör tarafında da sorunlar yaşanıyor. Önemli zorluklardan biri, yapay zeka içerik algılayıcılarının bunları oluşturmak için hangi yapay zeka aracının kullanıldığını bilmeyecek olmalarıdır; bu nedenle bunları birden fazla filigran teknolojisine göre kontrol etmeleri ve yapay zeka araçları kullanılarak oluşturulan içeriği tanımlamaya çalışmak için diğer teknikleri kullanmaları gerekecek. filigran veya filigranın kaldırıldığı içerik.
INSTAGRAM ETİKETLERİ META YAPAY DESTEK GÖRÜNTÜLERİNİ TANIMLAYACAK: RAPOR
Sorunlu bir şekilde, bu araçlar meşru içeriği tuzağa düşürebilir. Örneğin, yakın zamanda yapılan bir araştırma, ana dili İngilizce olmayan kişiler tarafından yazılan metinlerin neredeyse tamamının yapay zeka tarafından oluşturulduğunu hatalı bir şekilde tespit ettiklerini gösterdi.
Filigranlama aynı zamanda insanların arka plan araştırması yapmak veya bir insanın başka kelimelerle ifade ettiği bir taslak veya metin oluşturmak için bir yapay zeka aracı kullanmasını da engellemez. Aynı zamanda sorunludur çünkü bir insan ve yapay zeka tarafından ortak olarak oluşturulan içeriği yapay zeka tarafından üretilmiş olarak işaretleyebilir ve yaratıcı insanın çalışmaya katkısının tanınmasını azaltabilir.
FOX HABERİN DİĞER GÖRÜŞLERİ İÇİN TIKLAYIN
Sahteleri ve izleyicileri ve okuyucuları manipüle etmeye yönelik girişimleri tespit etmek önemli olsa da, bu alandaki hükümet düzenlemeleri doğası gereği sorunludur ve Birinci Değişiklik ile ilgili temel soruları gündeme getirmektedir.
Daha pratik olarak düzenlemelerin teknolojik ilerlemeye ayak uydurması pek mümkün değildir. Bu, istedikleri hedefe ulaşmada etkisiz olabilecekleri ve teknolojik yeniliğe zarar verebilecekleri anlamına gelir. İster mevzuatla, ister kurum kural koyuculuğuyla, ister teknoloji sağlayıcı anlaşmasıyla yayınlanmış olsun, bu alandaki düzenlemenin etkili ve zararsız olması için çevik olması gerekir. Ne yazık ki, bu genellikle böyle değildir.
FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN
Kaynak güvenilirliği, bu soruna teknolojik olmayan potansiyel bir çözümdür. Sosyal medya ve her yerde bulunan kameralı telefonlardan önce halk, haberleri toplamak için gazetecilere ve gazetecilerin davranışlarını düzenlemek için editörlere güveniyordu. Dikkate değer zaman aşımları olsa da bunlar kural değil istisnadır. İçerik üreticileri kamunun güvenine güvendikleri için, yayınladıkları tüm içerikleri inceleyerek bunu sürdürme konusunda doğal bir çıkarları vardır.
Beyaz Saray’ın duyurusunun olumluluğuna rağmen yapay zeka filigranı teknolojik açıdan zor olacak. En iyi ihtimalle, filigranlama teknikleri geliştirmek ve bunların etrafından dolaşmak arasında bir casus-casus savaşı olacak. Başkanın tıp ve çevre koruma gibi alanlardaki toplumsal sorunları çözmek için yapay zekayı kullanma planı, filigran uygulamaktan daha ulaşılabilir görünüyor.
—Jeremy Straub, Kuzey Dakota Eyalet Üniversitesi Bilgisayar Bilimleri Bölümü’nde doçent, Challey Enstitüsü öğretim üyesi ve NDSU Siber Güvenlik Eğitimi ve Araştırma Enstitüsü’nün yöneticisidir. Yazarın görüşleri kendisine aittir.
Jeremy Straub, Kuzey Dakota Eyalet Üniversitesi Bilgisayar Bilimleri Bölümü’nde doçent, Challey Enstitüsü öğretim üyesi ve NDSU Siber Güvenlik Eğitimi ve Araştırma Enstitüsü’nün direktörüdür.