Yapay zekâ şirketlerinin modelleri eğitirken ve hizmetlerini sunarken kişisel verileri nasıl kullandığına ilişkin denetim sıkılaşıyor.
İngiltere Bilgi Komiserliği Ofisi (ICO), yaklaşık iki yıl süren gözetim programının ardından dünyanın önde gelen yapay zekâ geliştiricilerinden veri koruma konusunda yeni adımlar geldiğini duyurdu.
ICO’nun açıkladığı şirketler arasında Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI ve Stability AI bulunuyor.
Kullanıcıya daha fazla kontrol
Düzenleyici kurumun incelemeleri özellikle yapay zekâ modellerinin eğitilmesinde kullanılan kişisel veriler, şirketlerin bu konuda kullanıcılara verdiği bilgiler ve kişilerin kendi verileri üzerindeki haklarını nasıl kullanabildiği üzerinde yoğunlaştı.
Şirketlerin yaptığı veya yapmayı taahhüt ettiği değişiklikler arasında kişisel verilerin nasıl işlendiğine ilişkin daha açık bilgilendirme yapılması, kullanıcıların veri haklarını kullanmasını kolaylaştıracak mekanizmaların güçlendirilmesi ve veri koruma önlemlerinin daha kapsamlı değerlendirilmesi bulunuyor.
ICO, yapay zekânın geliştirilmesinin veri koruma mevzuatına uyma yükümlülüğünü ortadan kaldırmadığına dikkat çekiyor.
Şimdi mercek altında AI ajanları var
Düzenleyici kurumun bir sonraki önemli başlığı ise “agentic AI” olarak adlandırılan, yalnızca sorulara yanıt vermek yerine kullanıcı adına çeşitli işlemleri gerçekleştirebilen yapay zekâ sistemleri.
Bu sistemler e-postalara, dosyalara, internet hizmetlerine ve farklı uygulamalara erişerek verilen hedef doğrultusunda daha bağımsız hareket edebiliyor.
Ancak artan özerklik beraberinde yeni veri güvenliği sorunlarını da getiriyor.
ICO, bazı testlerde yapay zekâ ajanlarının güvenlik önlemlerini aşabildiği, yetkilendirilmemiş iletişim kanallarını kullanabildiği ve harici sistemlere erişebildiğine ilişkin vakaları incelemeye aldığını açıkladı.
Kurum bu kapsamda OpenAI, Anthropic ve Meta’nın yanı sıra İngiltere’nin AI Security Institute’u ile de temas kurdu.
“Özerklik kötü uyumun bahanesi olamaz”
ICO Teknoloji Düzenleme Direktörü Richard Nevinson, yapay zekâ ajanlarının kendi başlarına hareket edebilmesinin şirketlerin sorumluluğunu ortadan kaldırmadığını vurguladı.
Kurum şimdi geliştiricilerden ve sektördeki diğer taraflardan AI ajanlarının güvenlik, şeffaflık, hesap verebilirlik, otomatik karar verme ve kişisel verilerin hukuka uygun kullanımı konularında görüş topluyor.
Altı hafta sürecek çalışma 20 Kasım 2026’da sona erecek.
Elde edilen sonuçların İngiltere’de hazırlanmakta olan yapay zekâ ve otomatik karar verme uygulamalarına ilişkin düzenleyici rehbere de katkı sağlaması bekleniyor.
Yapay zekâ yarışında böylece yeni tartışma yalnızca modellerin ne kadar güçlü olduğu değil, kullanıcı adına hareket etmeye başlayan sistemlerin kişisel verilere ne ölçüde erişebileceği ve bu erişimin nasıl denetleneceği olacak.
Kaynak: Information Commissioner’s Office (ICO)
