Как GDPR замедлит развитие ИИ

7 сентября мы провели лекцию «Как GDPR замедлит развитие ИИ».

Вы, наверное, спросите, как связаны поправки в европейское законодательство с разработками в сфере ИИ (искусственный интеллект)?

GDPR (Общий регламент по защите данных) регулирует правомочность и правомерность использования персональных данных резидентов Евросоюза. Регламент действует во всем мире и применим к любой организации.

Это может показаться шоком. Но регламент охватывает почти всю информацию о человеке, которую только можно собрать. 

Тем самым, если вы являетесь резидентом ЕС, то регистрируясь на портале по продаже авиабилетов, или бронируя гостиницу, или просто регистрируясь на сайте, вы обязываете владельцев интернет-портала соблюдать GDPR в отношении ваших данных. Везде.

Стоит немного разъяснить, какими правами наделяются резиденты ЕС:

Впрочем, владелец данных вправе потребовать прекратить обработку своих данных. Это может быть выражено и в формате права на забвение (удаление информации).

Поэтому компании и организации, обрабатывающие данные резидента ЕС, обязаны удалить персональные данные по запросу лица. Между тем, данные могут быть не удалены, если они представляют общественный интерес или удаление нарушит фундаментальные права жителей ЕС. 

Мы приводим только сжатую часть информации о регламенте. Более подробно регламент на языке оригинала вы можете найти в официальных ресурсах ЕС. 

Разработки в сфере ИИ так или иначе затрагивают персональные данные пользователей глобальной сети интернет. Ведь задачи, которые исследователи возлагают на ИИ, пока не вышли за рамки понятных человеку алгоритмов, только очень сложных и комплексных. 

Пока не существует полностью машинной логики, непонятной человеку. Кроме систем распознавания объектов на фото и видео, где у нейросетей вырабатывается своеобразная «логика» на основе базы с выборками и степенями от 0 до 100% корректного соответствия образа, распознанного машиной, по сравнению с реальным объектом.

Нейросеть можно обмануть, создав такое изображение, что она будет «видеть» два совершенно разных объекта, хотя для постороннего наблюдателя такая зависимость отдельных паттернов изображения не будет давать схожий с машиной вывод.

Алгоритмы для атаки на нейросети существуют уже сегодня. С их помощью можно исказить ее распознавание. Можно ли создать аналогичные сенсорные стимуляции, с помощью которых смогут «взломать» мозг человека? Вероятно. Более подробно на этот вопрос мы ответим в будущей лекции по ИИ.

Без регламента по защите персональных данных миллионов жителей ЕС, частные компании и государственные институты стран по всему миру могут использовать данные людей без их явного согласия в практически любых целях, ловко описывая функционал в не самых кратких и понятных широкому кругу лиц юридических соглашениях.

Так, например, гаджеты и мобильное ПО могут собирать данные пользователей с помощью камер, микрофонов и иных датчиков для повышения качества обслуживания, работы и других целей. Одной из таких целей могут быть разработки в сфере ИИ. 

Можно говорить об использовании человеческого опыта для машинного обучения. Это открывает большие возможности для бизнеса. Например, чтобы создать систему, которая будет прогнозировать потребности пользователей на основании их поведения в сети и списка покупок. И такие системы, к слову, уже есть. 

Искусственный интеллект - это не повод для шуток и не фантастическое изобретение. Когда о его создании и регуляции говорят первые лица мировых держав, означает, что прогресс движется в этом направлении. И, если в прошлом веке науку очаровывал мирный атом, то сейчас - это ИИ. 

Между тем, процесс создания ИИ и исследования в его сфере закрыты и непубличны. Причины кроются не только в коммерческой тайне, но и в потенциальных военных технологиях. В связи с этим трудно прогнозировать как именно могут использоваться персональные данные, но своеобразная дыра в правовом поле до принятия GDPR в странах ЕС дает возможность предполагать самые фантастические сценарии использования данных для разработки ИИ. 

GDPR позволяет строго регулировать чьи данные, для чего, насколько и в каком объеме, планируются использоваться организацией и\или её партнерами. Кроме того, в случае любого нарушения, сбоя или утечки персональных данных организация обязана уведомить регулирующие органы в течение 72 часов после обнаружения. Иначе ей грозит штраф в размере до 4% от годового оборота.