Discord решил бороться с фейковыми порнозвездами

В конце прошлого года пользователь Reddit подарил миру инструмент deepfakes, который благодаря машинному обучению умеет заменять лица порнозвезд на лица знаменитых актрис (да и в принципе любого человека на любом видео). Мувимейкеры стали объединяться в группы, на них начали охоту. В частности, приложение для голосовой связи Discord забанило один из таких чатов, через которые распространяли порнографию со звездами.

Удаление администрация Discord мотивировала своими правилами относительно рассылки порнографического контента. При этом был закрыт как сам сервер, так и перебанены пользователи, которые занимались рассылкой порнографии со звездами. А это порядка 150 человек.

Новые технологии несут новые вызовы и угрозы. Ту же технологию deepfakes могут использовать для травли ни в чем не повинных подростков. Либо для того, чтобы добавить Николаса Кейджа в супергеройское кино.