Сервис по выявлению контента, сгенерированного нейросетями, могут создать в России

Министерство цифрового развития, связи и массовых коммуникаций (Минцифры) России рассматривает возможность создания сервиса для выявления контента, созданного искусственным интеллектом. Об этом сообщил заместитель министра Александр Шойтов на пленарной сессии форума «ИТ-диалог» в Санкт-Петербурге, пишет Агентство городских новостей «Москва».

По словам Шойтова, существуют два основных подхода к решению этой задачи. Первый — это выявление сгенерированного текста. Хотя существуют методы, они не являются полностью надежными. Это создает постоянное противостояние между разработчиками ИИ и методами его обнаружения. Второй подход предполагает предоставление сервиса гражданам, который позволит им отправлять файлы и получать ответ: «Этот файл настоящий или сгенерированный?» Аналогичный принцип работы может быть использован в сервисе «Мультисканер», который проверяет файлы на наличие вирусов.

Шойтов отметил, что проблема сгенерированного ИИ контента актуальна в различных сферах, включая СМИ, социальные сети и создание дипфейков, используемых мошенниками.

«В СМИ у нас есть возможность и время для проверки контента. Однако, когда человек обращается к вам напрямую, необходимо принимать другие меры», — подчеркнул он.