Год назад 15-летняя жительница Техаса Эллистон Берри стала жертвой дипфейка. Одноклассник Эллистон взял фотографию девочки в инстаграме, а затем обработал ее через программу искусственного интеллекта. Измененное изображение, на котором Эллистон была обнажена, он опубликовал в снэпчате.
«Она вошла в нашу спальню плача и крича: «Мама, ты не поверишь, что только что произошло», — вспоминает мать девочки Анна МакАдамс.
По словам Эллистон, ее фотографии «гуляли» по соцсетям в течении девяти месяцев. Из-за этого ей было тяжело сосредоточиться на экзаменах и волейбольных играх, в которых она принимала участие.
Отмечается, что в 2024 году в США было зафиксировано более 21 тысяч поддельных порнографических видео, что на 460% больше, чем годом ранее.
После случая с Эллистон прокурор Сан-Франциско Ивонн Мере начала собирать другие инциденты, связанные с дипфейк-порнографией. Всего за два года в школах США произошло около 30 подобных случаев.
В настоящее время офис городской прокуратуры подает в суд на владельцев 16 сайтов, которые создают поддельные обнаженные изображения детей и взрослых. За полгода их посетили более 200 миллионов человек.
«Это дело не касается технологий и искусственного интеллекта. Это сексуализированное насилие», — считает Мере.
Законопроект, который обяжет компании и сайты удалять все порнографические изображения, созданные с помощью ИИ, ожидает голосования в Конгрессе. Накануне Эллистон выступила с сенатором Техаса Тедом Крузом и призвала принять закон.