En popüler canlı yayın platformu Twitch, her ne kadar uygunsuz içerikleri gösteren yayıncılara yasaklar uygulasa da bu durum anlık olarak tespit edilemiyor. Birkaç saniye gösterilen görüntüler bile sosyal medyada yayılarak büyük bir gündem oluşturabiliyor. Görüntülerin deepfake ile oluşturulan sahte görüntüler olmasıysa tartışmaları büyütüyor.

Bunun bir örneğini de 30 Ocak’ta Brandon ‘Atrioc’ Ewing’in yayınında görmüştük. Yayıncı, Pokimane, QTCinderella ve Maya Higa’nın yüzlerinin çıplak bir vücuda yerleştirildiği görüntüyü yayınına yansıtmıştı. Görüntüler, kısa sürede internette yayılmıştı. Twitch, bir daha böyle bir deepfake olayının yaşanmaması için kollarını sıvadı.

Deepfake ile oluşturulan çıplaklık görüntüleri kalıcı yasaklamayla sonuçlanacak:

Yayıncıların rızası dışında oluşturulan ve yayılan görüntülerin önüne geçmek isteyen Twitch, yayıncıları ve topluluğu korumak için yeni önlemler alacağını açıkladı. Şirketin politikalarında yaptığı iki güncelleme şu şekilde paylaşıldı:

• Deepfake gibi teknolojilerle oluşturulan ve çıplaklık içeren sahte kasıtlı olarak tanıtılması, oluşturulması veya paylaşılması doğrudan kalıcı yasaklamayla sonuçlanacak. Olay, yayıncının ilk ihlali olsa bile durum değişmeyecek.
• Yetişkin Çıplaklığı politikasına rıza dışı oluşturulan sentetik görüntüler de eklenecek. Bu görüntülerin bir anlığına gösterilmesi bile (amaç görüntüye tepki göstermek olsa da) cezaya tabi tutulacak.

Ne yazık ki bu görüntülerin en başta gösterilmesinin önüne geçmek pek de mümkün değil:

Twich veya herhangi bir canlı yayın platformunda gösterilen görüntüleri önceden tahmin etmek veya görüntülerin saliselik analizini yapmak ne yazık ki mümkün değil. Dolayısıyla platformların yapabilecekleri mevcut teknolojide caydırıcı cezalarla sınırlı kalıyor.