Veri Koruma Otoritesi (DPA), tanınmış bir gazetecinin yapay zekayla oluşturulmuş sahte görüntüsünü (deepfake) yapay zeka çıktısı olduğunu yeterince belirtmeden yayınlayan bir medya şirketini, GDPR'ın 5(1)(a) ve 25. maddelerini ihlal ettiği gerekçesiyle uyarmıştır.
Olay, medya şirketi RTI S.p.a. (veri sorumlusu) ve şirketin popüler TV programı Striscia la Notizia ile ilgilidir. Program, tanınmış İtalyan kişilerin yapay zekayla oluşturulmuş hiciv amaçlı deepfake görüntülerinden oluşan bir bölüm yayınlamıştır.
Programda, diğer kişilerin yanı sıra, tanınmış gazeteci ve haber sunucusu Enrico Mentana'nın (ilgili kişi) görüntüleri de yayınlanmıştır. Görüntülerde, ilgili kişi genellikle sunucu olarak çalıştığı stüdyoda haberleri yorumlarken gösterilmiş ve yapay zeka seslendirmesiyle ilgili kişiye hiç söylemediği sözler atfedilmiştir. İlgili kişinin farklı bir TV kanalında yayınlanan gerçek görüntülerine dayanan yapay zeka çıktısı görüntüleri son derece gerçekçi bir şekilde aktarılmıştır. Veri sorumlusu, görüntüleri televizyonda yayınlamanın yanı sıra akış (streaming) platformunda, web sitesinde ve sosyal medya kanallarında da erişime sunmuştur.
İlgili kişi şikayette bulunarak, görüntülerin yapay zeka ile üretildiğinin açıkça belirtilmediği, bunun sonucunda da birçok izleyicinin belirli görüşleri yanlışlıkla kendisine atfettiğini ve bu görüşleri televizyonda dile getirdiğine inandığını iddia etmiştir. Bu gerekçelerle, deepfake görüntüsünün kişisel imajına ve mesleki itibarına ciddi zarar verdiğini öne sürmüştür.
Garante; veri sorumlusunun sunduğu uyarıların, görüntünün yapay zeka üretimi olduğunu açıklamakta yetersiz kaldığına karar vermiştir. Özellikle televizyonda yayınlanan görüntülere ilişkin olarak Garante, yayın sırasında verilen sözel uyarının yetersiz olduğunu, çünkü bazı izleyicilerin kanalı görüntü zaten yayınlanırken açmış olabileceğini belirtmiştir.
Nihayetinde Garante, en az dikkatli olanlar da dahil olmak üzere tüm izleyicileri net bir şekilde bilgilendirmek adına uyarıların daha belirgin olması gerektiğini ifade etmiştir.
Veri sorumlusunun savunmalarının aksine Garante, görüntünün komedi amacının kendiliğinden açık olmadığını da kabul etmiştir. Bu bağlamda Garante, görüntülerde tahrifata dair belirgin bir iz bulunmadığını ve ilgili kişiyi makul/olası bir ortamda gösterdiğini dikkate almıştır.
Sonuç olarak Garante, GDPR'ın 5(1)(a) maddesinin ("hukuka uygunluk, adalet ve şeffaflık") yanı sıra 25. maddesinin de ("tasarım gereği ve varsayılan olarak veri koruma") ihlal edildiğini tespit etmiştir.
Garante bir uyarı yayınlamış ve görüntünün daha fazla işlenmesini yasaklamıştır. Yaptırımı değerlendirirken Garante, deepfake teknolojisinin ortaya çıkardığı hukuki soruların halen nispeten yeni olduğunu göz önünde bulundurmuştur.
İlgili habere buradan ulaşabilirsiniz.