Что нужно знать о новой компании Илона Маска по разработке искусственного интеллекта xAI

Илон Маск хочет «понять истинную природу Вселенной». По крайней мере, именно так говорится на сайте его новой компании по разработке искусственного интеллекта xAI, о создании которой он объявил в среду.

Маск зарегистрировал компанию xAI в Неваде в марте этого года и, как сообщается, приобрел около 10 000 графических процессоров – аппаратное обеспечение, необходимое для разработки и запуска современных систем искусственного интеллекта. Нет данных о том, как компания финансируется, но в апреле «Financial Times» сообщила, что Маск обсуждал возможность привлечения финансирования от инвесторов двух возглавляемых им компаний – «SpaceX» и «Tesla».

Компания не сообщила подробностей о своих намерениях, но на своем сайте заявила, что ее сотрудники примут участие в конференции «Twitter Spaces» 14 июля, чтобы ответить на вопросы. xAI будет тесно сотрудничать с Twitter*, который теперь называется X Corp., и «Tesla», а также с другими компаниями, «чтобы добиться прогресса в выполнении нашей миссии», – говорится на сайте компании.

xAI и история Маска с искусственным интеллектом

В команду xAI, возглавляемую Маском, входят бывшие сотрудники известных компаний «OpenAI» и «DeepMind», занимающихся разработкой искусственного интеллекта, а также «Microsoft» и «Tesla». В качестве советника указан Дэн Хендрикс, директор Центра безопасности искусственного интеллекта. Центр безопасности искусственного интеллекта уже не раз высказывался по поводу проблем безопасности. В мае организация опубликовала заявление, подписанное сотнями ученых и экспертов в области ИИ, а также руководителями ряда ведущих ИИ-компаний, в котором говорится, что «снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Среди подписантов были Демис Хассабис, генеральный директор «DeepMind», Сэм Альтман, генеральный директор «OpenAI», и Дарио Амодей, генеральный директор «Anthropic».

Маск не подписал заявление Центра безопасности ИИ, но подписал открытое письмо, опубликованное в марте Институтом будущего жизни, в котором он призвал компании, занимающиеся разработкой ИИ, «немедленно приостановить на срок не менее 6 месяцев обучение систем ИИ, более мощных, чем GPT-4».

Маск был одним из основателей «OpenAI», наряду с Альтманом. Маск входил в группу инвесторов, котрая включает Альтмана, Грега Брокмана, Рида Хоффмана, Джессику Ливингстон, Питера Тиля, «Amazon Web Services», «Infosys» и «YC Research», которые в 2015 году выделили 1 млрд долларов на финансирование «OpenAI». По словам Маска, он внес 100 млн долларов из этого миллиарда, но также называлась и цифра в два раза меньше.

Обстоятельства ухода Маска не совсем ясны. Согласно сообщению в блоге «OpenAI» и последующим твитам Маска, он покинул «OpenAI» в 2018 году, чтобы избежать конфликта интересов, поскольку «Tesla» стала уделять больше внимания искусственному интеллекту. В марте издание «Semafor» сообщило, что Маск предложил возглавить «OpenAI» и ушел после того, как его предложение было отклонено. В апреле газета «Financial Times» сообщила, что уход Маска также связан со столкновениями с другими членами совета директоров и сотрудниками по поводу подхода «OpenAI» к безопасности ИИ.

После своего ухода в 2018 году Маск критически оценивал направление развития «OpenAI». В интервью Такеру Карлсону на телеканале «Fox News» в апреле Маск сказал о компании: «Теперь они с закрытым исходным кодом, они явно коммерческие и тесно связаны с «Microsoft»».

«Microsoft» и «OpenAI» заключили многомиллиардное партнерство, в рамках которого «OpenAI» пользуется облачными вычислительными мощностями «Microsoft» в обмен на использование систем искусственного интеллекта «OpenAI» в продуктах «Microsoft».

Ранее «OpenAI» заявляла, что перешла от некоммерческого статуса к «гибриду коммерческого и некоммерческого», поскольку вычислительные требования, связанные с обучением современных систем искусственного интеллекта, регламентируют, что «OpenAI» необходимо привлекать больше средств, чем это было бы доступно для обычной некоммерческой организации.

В апрельском интервью Карлсону Маск также сказал, что его беспокоит, что модели ИИ обучаются быть «политически корректными», и пообещал создать «Truth GPT», который, по его словам, будет представлять собой «максимально правдоподобный ИИ».

Маск, который в прошлом часто говорил о рисках, связанных с развитием систем искусственного интеллекта, также заявил, что он создает новую организацию по ИИ для предотвращения «антиутопии ИИ». Однако эксперты и исследователи, в том числе советник xAI Хендрикс, высказывают опасения о том, что появление в экосистеме ИИ еще одной компании с большими ресурсами может еще больше подстегнуть гонку за разработкой мощных систем ИИ в ущерб усилиям по обеспечению их безопасности.

«Подход к созданию безопасного ИИ будет основан на том, что ИИ будет стремиться к истине. С точки зрения безопасности ИИ, максимально любопытный ИИ, который пытается понять Вселенную, будет выступать за человечество», – сказал Маск. «С той точки зрения, что человечество гораздо интереснее, чем нечеловечество».

Джесс Уиттлстоун, руководитель отдела политики в области ИИ Центра долгосрочной устойчивости, аналитического центра, расположенного в Великобритании, сообщил, что это «довольно неортодоксальный подход к безопасности ИИ».

«Я не уверен, что можно четко сказать, что значит для ИИ быть «максимально любопытным», и это огромный скачок – предполагать, что это означает, что ИИ будет выступать за человечество. Вся проблема сейчас заключается в том, что мы не можем полностью понять эти модели ИИ или предсказать их поведение, и я не вижу в подходе Маска ничего, что позволило бы решить это».

*компания признана экстремистской и запрещена на территории РФ

Источник: TIME

Фото: unsplash.com Maxim Tolchinskiy