Danimarka Veri Koruma Otoritesi (“Datatilsynet”), Faaborg-Midtfyn Belediyesi'nin bir huzurevinde yapay zeka tabanlı izleme sistemini, yeterli bir risk değerlendirmesi ve veri koruma etki değerlendirmesi (“DPIA”) gerçekleştirmeden devreye alması nedeniyle kınama kararı yayımlamıştır.
Otorite tarafından re'sen başlatılan incelemede, belediyenin (“veri sorumlusu”) 18 huzurevi sakini üzerinde altı aylık sınırlı bir deneme süresi boyunca yapay zeka ve kamera tabanlı bir izleme sistemi kullandığı tespit edilmiştir. Sistem, sakinlerin güvenlik hissini artırmak, düşmelerini önlemek ve personelin mesleki değerlendirmelerini desteklemek amacıyla hareket kalıplarını analiz etmektedir. Veri sorumlusu, sistemin kullanımıyla ilgili bir risk değerlendirmesi yaptığını, potansiyel tehditleri belirlediğini ve bunların tamamını "düşük riskli" olarak sınıflandırdığı için ek hafifletici önlemler almadığını veya bir etki değerlendirmesi yapmadığını savunmuştur. Ayrıca işleme faaliyetinin hukuki dayanağı olarak GDPR'nin 6(1)(e) ve 9(2)(g) maddelerine dayanmıştır.
Ancak Otorite, veri sorumlusu tarafından gerçekleştirilen risk değerlendirmesinin son derece yetersiz olduğuna karar vermiştir. Yapay zeka sisteminin huzurevi sakinleri üzerinde oluşturduğu en önemli risklerin uygun şekilde tanımlanıp ele alınmadığını, değerlendirmenin yalnızca genel ve düşük riskli tehditleri kapsadığını belirtmiştir. Otorite ayrıca, savunmasız kişilerin hassas kişisel verilerini işleyen yeni bir teknolojinin kullanımı söz konusu olduğunda, veri sorumlusunun sistemi devreye almadan önce mutlaka yeterli bir veri koruma etki değerlendirmesi (“DPIA”) yapması gerektiğinin altını çizmiştir. Altı aylık sınırlı bir deneme süresi uygulamasının, veri sorumlusunu GDPR kapsamındaki zorunluluklarından kurtarmayacağı açıkça belirtilmiştir.
Sonuç olarak Otorite, veri sorumlusunun dayandığı ulusal yasal zeminin yapay zeka sisteminin kullanımı için yeterli olmadığına karar vermiş; belediyeyi GDPR'nin 5(1)(f), 5(2), 24(1), 32(1) ve 35(1) maddelerini ihlal ettiği gerekçesiyle kınamıştır. Otorite ayrıca, söz konusu yapay zeka sisteminin ileride kullanılmasının planlanması halinde, sistemin gerektirdiği etki ve risk değerlendirmelerinin usulüne uygun şekilde yerine getirilmesi gerektiği uyarısında bulunmuştur.
İlgili habere buradan ulaşabilirsiniz.