Источник:
Дипфейки заполняют сеть с пугающей скоростью. Благодаря развитию нейронных сетей эффект «Зловещей Долины». Но можем ли мы им противостоять? Давайте разберемся: как работают эти технологии и что говорит закон об использовании чужих образов и авторских прав?
Дипфейк (из двух английских слов «deep learning — глубокое обучение» и «fake — подделка») — это поддельное фото или видео, где ИИ «вживляет» одно лицо в место другого. Используют ваше изображение, голос — любой контент.
Цели часто преступные: финансовое мошенничество, порноместь, фейковые новости и недобросовестная реклама. Технология стала опасным инструментом, который может коснуться каждого.
Интерес к ИИ растёт, а вместе с ним — и споры о его этичности. Проблема в том, что ИИ — это новая и почти не регулируемая сфера. Пока что единственный серьёзный закон в этой области запрещает дипфейки с интимными изображениями. В России использование чужой речи для создания «похожего» голоса в явном виде не запрещено законодательством. При этом специалисты сходятся во мнении: чтобы ИИ служил во благо, сначала нужно договориться о правилах его использования, учитывающих все социальные и этические риски.
Технология дипфейков открывает возможность создавать полностью синтетические личности — изображения и голоса людей, которых никогда не существовало. Компания OpenAI представила инструмент, который клонирует любой голос по 15-секундному образцу. Технология открывает огромные возможности: она поможет невербальным людям общаться, вернёт голос пациентам с тяжёлыми заболеваниями и поможет в обучении.
Однако создатели осознают и риски. Инструмент был разработан ещё в 2022 году, но его релиз откладывали именно из-за опасений, что им могут воспользоваться мошенники для создания дипфейков и обмана.
Клонирование голоса — технология, которая использует ИИ для создания цифровой копии человеческого голоса, — переживает бум. Ожидается, что мировой рынок этой услуги всего за шесть лет вырастет с $461 млн до более чем $1 млрд. Её уже применяют для создания персонализированных голосовых помощников и, что особенно важно, для восстановления уникального голоса людей, потерявших речь из-за болезни.
Технология клонирования голоса стала опасным оружием в руках злоумышленников. Участились случаи, когда мошенники, используя копию голоса близкого человека, вымогают деньги — как в истории с парой, заплатившей выкуп за «похищенного» родственника, которого на самом деле не было.
В марте 2019 года в Великобритании произошел один из первых известных случаев мошенничества с использованием аудиофейка. Злоумышленники применили ИИ-технологии, чтобы сгенерировать голос генерального директора энергетической компании. Сымитировав его речь, они по телефону поручили сотруднику перевести 220 тысяч евро на счета мошенников. Бухгалтер, уверенный, что разговаривает с начальством, выполнил указание. В результате расследования так и не удалось установить виновных.
Но угрозы масштабнее: технология уже используется для дезинформации и политической пропаганды. Яркий пример — фальшивые автоматические звонки с голосом Джо Байдена, призывавшие избирателей не голосовать.
Эти инциденты — жёсткое напоминание: использование технологии требует строгих этических норм. Краеугольный камень защиты — неоспоримое право на согласие человека на использование его голосовых данных.
Но есть и плюсы. Дипфейк-технологии позволяют создавать уникальный контент: искусственный интеллект подстраивается под стиль конкретного артиста и создает собственные мелодии.
Например, в этом году компания Илона Маска SpaceX впервые отправила астронавтов на космическом корабле Crew Dragon к Международной космической станции. Маск принимал поздравления, в том числе дипфейковые. Самым феерическим стало видео, где глава SpaceX в образе участника группы «Земляне» поет песню «Трава у дома», признанную «Роскосмосом» гимном российской космонавтики. При каких еще обстоятельствах мы могли такое увидеть?
Подписывайтесь на наш Telegram-канал — там еще больше важных новостей!
