Эксперт рассказал, как ИИ становится непредсказуемым

17 апреля прошел доклад на тему «Эмерджентность в нейронных сетях искусственного и естественного интеллекта». Его спикером был Константин Анохин из Института перспективных исследований мозга МГУ им. М.В. Ломоносова

Современный искусственный интеллект (ИИ), основанный на нейронных сетях*, открывает все новые горизонты для исследований. От игровых персонажей, полностью контролируемых компьютером, до сложных систем Google и Deep Mind**, где большие языковые модели обнаруживают новые свойства и феномены – все это свидетельствует о возникновении эмерджентности в искусственных системах. 

*Нейронные сети – это ИИ, который подражает мозгу живых существ. Они распознают шаблоны и помогают интерпретировать данные, такие как изображения и звуки.

**Deep Mind – это ИИ от Google, который решает множество задач, от поиска в Интернете до управления процессами. Это как очень умный компьютер, который может учиться и решать задачи самостоятельно.

Эмерджентность – явление, при котором в системе появляются новые свойства или поведение, которые нельзя было предсказать, основываясь только на свойствах отдельных компонентов системы. Эмерджентность становится ключевым понятием в контексте искусственного интеллекта.

Современные инструменты, разработанные Open AI и исследователями, такими как Анджей Ясинский и его коллеги, позволяют глубже понять, что именно кодируют искусственные нейронные сети. Мы можем управлять настроением искусственного интеллекта, перезаписывая значение нейронов, и визуализировать работу нейронов в глубоких нейронных сетях.

Также интересно отметить, что в мозге животных существуют нейроны, способные воспринимать пространство и места. Подобные функции возникают и в искусственных нейронных сетях, представляющих пространство и время.

Схема нейронной сети. Freepik.com

Развитие теории нейронных сетей позволяет нам лучше понять, как возникают эмерджентные свойства в мозге животных и человека. Предполагается, что мозг постоянно генерирует новые функциональные системы для достижения результатов в условиях неожиданности.

В организме человека и других живых существ есть различные функциональные системы, которые решают разные задачи и могут быть связаны с различными аспектами жизни. В процессе обучения и взаимодействия с окружающей средой, эти системы могут приобретать новые качества и свойства, которые не были изначально заложены в них.

Таким образом, эмерджентность может происходить как в естественных, так и в искусственных системах. Искусственные системы, такие как нейронные сети, могут приобретать субъективный опыт и даже иметь сознание, если они обучаются и взаимодействуют с окружающей средой. Однако, в отличие от естественных систем, такие искусственные системы не могут накапливать индивидуальный опыт и развиваться в течение всей жизни.

Источник: data-fusion.ru