Apple Google, gerçek kişilerin rızası olmadan sahte çıplak görüntüler oluşturmak için kullanılabilen yapay zeka destekli uygulamalara karşı yeni adımlar. Gelişme, San Francisco Şehir Savcısı David Chiu'nun iki şirkete gönderdiği yasal bildirimlerin ardından gündeme geldi. şirketleri rıza dışı yapay zeka tarafından oluşturulan çıplak görüntülerin üretimini kolaylaştıran uygulamaların dağıtımına katkı sağlamakla suçladı. Yetkililer ayrıca Apple Google'ın uygulamalardan uygulama içi satın alımlar üzerinden mali gelir elde ettiğini savunuyor. Apple, tespit edilen uygulamaların bölümünü zaten kaldırdığını bazı geliştirici hesaplarını kapatma sürecini başlattığını açıkladı. Google benzer şekilde yüzlerce Android uygulamasını askıya aldığını Play Store' tür hizmetleri aramayı zorlaştıran adımlar attığını bildirdi. Ancak tartışmanın merkezinde yalnızca kaldırılan uygulamalar değil, uygulamaların platformların denetim süreçlerinden geçerek kullanıcılara ulaşabilmesi bulunuyor.
Apple, App Store'daki uygulamalardan üçünü kaldırdıApple, San Francisco Şehir Savcılığı tarafından gündeme getirilen uygulamalardan üçünün App Store'dan kaldırıldığını açıkladı. Şirket ayrıca uygulamaların geliştirici hesaplarının Apple'ın geliştirici programından çıkarılması için sürecin devam ettiğini belirtti. Dört farklı geliştiriciyle daha iletişime geçildiği söz konusu uygulamaların politika ihlallerini gidermemesi halinde platformdan kaldırılabilecekleri bildirildi. Apple, App Store kurallarının pornografik içerik üretmek veya dağıtmak amacıyla tasarlanan uygulamalara açıkça izin vermediğini savunuyor. Şirket ayrıca, kullanıcıların uygulama içindeki içerikleri oluşturabildiği durumlarda geliştiricilerin içerikleri denetlemek için gerekli filtreleme mekanizmalarını oluşturması gerektiğini vurguluyor. yükümlülüklerin yerine getirilmemesi, uygulamaların App Store'dan tamamen kaldırılmasına neden olabiliyor. Apple'ın açıklaması, şirketin mevcut kurallarının tür yapay zeka uygulamalarını zaten yasakladığı yönündeki savunmasına dayanıyor.
Google yüzlerce Android uygulamasını askıya aldıGoogle benzer politika izleyerek çıplaklık oluşturma özellikleri sunan yüzlerce Android uygulamasını askıya aldığını açıkladı. Şirket, San Francisco Şehir Savcısı tarafından adı verilen beş Android uygulamasının Play Store politikalarını ihlal ettiği gerekçesiyle kaldırıldığını bildirdi. Google ayrıca Play Store' tür hizmetlerle bağlantılı arama terimlerine yönelik kısıtlamalar getirdi. Ancak uygulamaların kendilerini doğrudan çıplak görüntü oluşturma araçları olarak tanıtmaması, denetim sürecini daha karmaşık hale getiriyor. Bazı uygulamalar kendilerini yapay zeka destekli yüz değiştirme veya fotoğraf düzenleme araçları olarak pazarlarken, daha sonra farklı işlevleri uygulama içi satın alma seçeneklerinin arkasına gizleyebiliyor. nedenle yalnızca uygulama açıklamalarını veya mağaza ekran görüntülerini incelemek, uygulamanın gerçekte neler üretebildiğini anlamak için yeterli olmayabiliyor. Yapay zeka modellerinin yeteneklerinin uygulama kurulduktan sonra değiştirilebilmesi veya farklı özelliklerin sonradan açılabilmesi, platformların otomatik denetim sistemleri için önemli sorun oluşturuyor.
Yapay zeka, rıza dışı sahte görüntü üretimini kolaylaştırıyorÜretken yapay zekanın gelişmesi, gerçek kişilerin bilgisi veya rızası olmadan sahte açık görüntüler oluşturulmasını geçmişe kıyasla çok daha kolay hale getirdi. Geleneksel yöntemlerin aksine, birçok yapay zeka destekli araç için yalnızca tek fotoğraf yeterli olabiliyor. Kullanıcılar, kısa süre içinde gerçek kişiyi tasvir eden sahte çıplak görüntüler veya açık içerikli videolar oluşturabiliyor. Yetkililer araştırmacılar, tür içeriklerin mağdurlar açısından ciddi sonuçlara yol açabileceğini belirtiyor. Rıza dışı görüntüler taciz, şantaj, itibar kaybı ciddi psikolojik sorunlar gibi sonuçlar doğurabiliyor. Daha önceki soruşturmalar, ticari olarak erişilebilen yapay zeka araçlarının reşit olmayanları tasvir eden cinsel içerikli sahte görüntüler oluşturmak için kullanıldığını ortaya koydu. nedenle tartışma, yalnızca uygulama mağazalarının içerik politikalarıyla sınırlı kalmıyor yapay zeka araçlarının kötüye kullanımını önleyecek daha kapsamlı güvenlik mekanizmalarının gerekliliğini gündeme getiriyor.
Uygulamaların kendilerini gizlemesi denetimi zorlaştırıyortür uygulamalarla ilgili en büyük sorunlardan biri, zararlı özelliklerin uygulamanın ana işlevinin arkasına gizlenebilmesi. uygulama mağazada sıradan yüz değiştirme veya fotoğraf düzenleme aracı gibi görünebilirken, kullanıcı uygulamayı yükledikten sonra farklı yapay zeka özellikleri sunabiliyor. Bazı durumlarda açık içerik üretme yetenekleri uygulama içi satın alma seçeneklerinin arkasında tutulabiliyor. durum, platformların uygulamaları mağazaya kabul etmeden önce yalnızca geliştirici açıklamalarını tanıtım görsellerini incelemesini yetersiz hale getiriyor. Daha önce yayımlanan araştırmada kendilerini şekilde pazarlamayan bazı yüz değiştirme uygulamalarının açıkça müstehcen deepfake içerikler üretebildiği ortaya konmuştu. Araştırmacılar, bazı uygulamalarda kötüye kullanımı önlemeye yönelik güvenlik önlemlerinin çok sınırlı olduğunu veya hiç bulunmadığını belirledi. bulgular, Apple Google'ın karşı karşıya olduğu sorunun birkaç uygulamayı kaldırmaktan çok daha kapsamlı olduğunu gösteriyor.
Apple Google üzerindeki sorumluluk tartışması büyüyorApple Google, platform politikalarının pornografik içerik cinsel istismara yönelik materyalleri zaten yasakladığını savunuyor. Eleştirmenler ise yapay zeka uygulamalarının zararlı özellikleri meşru görünen işlevlerin arkasına saklayabildiği ortamda yalnızca kuralların yeterli olmadığını belirtiyor. San Francisco Şehir Savcılığı ayrıca iki şirketin uygulama içi satın alımlardan komisyon alarak uygulamalardan finansal olarak fayda sağladığını iddia ediyor. yaklaşım, platform işletmecilerinin uygulamaları mağazaya kabul etmeden önce daha kapsamlı denetim yapması gerektiği yönündeki tartışmayı güçlendiriyor. Üretken yapay zeka araçları daha ucuz, hızlı gerçekçi hale geldikçe uygulama inceleme süreçlerinin değişmesi gerekiyor. Artık uygulamanın yalnızca mağaza sayfasındaki açıklamasını veya gönderilen ekran görüntülerini kontrol etmek yeterli olmayabilir. Platformların, yapay zeka modelinin uygulama kurulduktan sonra hangi içerikleri oluşturabildiğini test etmesi gerekebilir. nedenle Apple Google'ın son kaldırma kararları kısa vadede baskıyı azaltabilir ancak yapay zeka destekli sahte içeriklerin denetimiyle ilgili daha geniş tartışmanın sona ermesi beklenmiyor.
