Apple, App Store uygulama inceleme yönergelerini güncelleyerek yapay zekâ ile kişilerin izni olmadan cinsel içerikli sahte görüntü oluşturan uygulamaları açıkça yasakladı. Değişiklik yalnız bu tür uygulamaları değil, kullanıcıların ürettiği içeriği barındıran platformları ve inceleme sürecini atlatmaya çalışan geliştiricileri de kapsıyor.
Güncellemenin iki ayağı var. Biri içerik denetiminde geliştiricinin sorumluluğunu genişletiyor, diğeri ise Apple'ın onayladığı sürümde bulunmayan zararlı özelliklerin sonradan eklenmesine karşı yaptırımları ağırlaştırıyor.
1.2 numaralı kural denetimi şikâyetin önüne taşıyor
Yürürlüğe giren 1.2 numaralı içerik denetleme kuralı, kullanıcı içeriği barındıran uygulamalara proaktif sorumluluk yüklüyor. Bu düzenlemeyle geliştiricilerin yalnız bir şikâyet geldiğinde harekete geçmesi yetmiyor. Rıza dışı sahte görüntülerin üretilmesini ve yayılmasını baştan engelleyecek önlemleri önceden almaları gerekiyor.
Onaydan sonra eklenen özelliklere üyelik iptali
2.5.19 numaralı kural, asıl işlevini gizleyerek onay alan ve ardından zararlı özellik ekleyen uygulamaları hedef alıyor. Başlangıçta zararsız görünen, sonradan yapay zekâ ile fotoğraftaki kişinin kıyafetlerini kaldırma gibi işlevler kazanan uygulamalar bu kuralın doğrudan kapsamında.
Onaylanan sürümde bulunmayan böyle bir özellik sonradan eklenirse Apple uygulamayı mağazadan kaldırmakla yetinmeyecek. İhlali yapan geliştiricinin Apple Developer Program üyeliğini de iptal edebilecek. Bu yaptırım, geliştiricinin yalnız tek bir uygulamasını değil, platformdaki varlığını da riske atıyor.
Grok tartışması ve San Francisco başvurusu
Politika değişikliği, X platformunun yapay zekâ aracı Grok üzerinden yayılan rıza dışı sahte görüntüler nedeniyle Apple'a yöneltilen eleştirilerin ardından geldi. Şirket bundan kısa süre önce San Francisco Şehir Savcısı'nın talebi üzerine benzer işlevlere sahip üç uygulamayı mağazadan kaldırmış ve bu uygulamaların geliştirici hesaplarını kapatma sürecini başlatmıştı.
Apple'ın önceki yıla ait paylaştığı verilere göre güvenlik açığı bulunan 150 binden fazla uygulamanın kullanıcılara ulaşması engellendi. Dolandırıcılık ve kötüye kullanım faaliyeti tespit edilen 193 binden fazla geliştirici hesabı da platformdan tamamen çıkarıldı.
