Что нужно знать о новой компании Илона Маска по разработке искусственного интеллекта xAI

Что нужно знать о новой компании Илона Маска по разработке искусственного интеллекта xAI

21 июля
19:35

Источник:

Илон Маск хочет «понять истинную природу Вселенной». По крайней мере, именно так говорится на сайте его новой компании по разработке искусственного интеллекта xAI, о создании которой он объявил в среду.

Маск зарегистрировал компанию xAI в Неваде в марте этого года и, как сообщается, приобрел около 10 000 графических процессоров – аппаратное обеспечение, необходимое для разработки и запуска современных систем искусственного интеллекта. Нет данных о том, как компания финансируется, но в апреле «Financial Times» сообщила, что Маск обсуждал возможность привлечения финансирования от инвесторов двух возглавляемых им компаний – «SpaceX» и «Tesla».

Компания не сообщила подробностей о своих намерениях, но на своем сайте заявила, что ее сотрудники примут участие в конференции «Twitter Spaces» 14 июля, чтобы ответить на вопросы. xAI будет тесно сотрудничать с Twitter*, который теперь называется X Corp., и «Tesla», а также с другими компаниями, «чтобы добиться прогресса в выполнении нашей миссии», – говорится на сайте компании.

xAI и история Маска с искусственным интеллектом

В команду xAI, возглавляемую Маском, входят бывшие сотрудники известных компаний «OpenAI» и «DeepMind», занимающихся разработкой искусственного интеллекта, а также «Microsoft» и «Tesla». В качестве советника указан Дэн Хендрикс, директор Центра безопасности искусственного интеллекта. Центр безопасности искусственного интеллекта уже не раз высказывался по поводу проблем безопасности. В мае организация опубликовала заявление, подписанное сотнями ученых и экспертов в области ИИ, а также руководителями ряда ведущих ИИ-компаний, в котором говорится, что «снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Среди подписантов были Демис Хассабис, генеральный директор «DeepMind», Сэм Альтман, генеральный директор «OpenAI», и Дарио Амодей, генеральный директор «Anthropic».

Маск не подписал заявление Центра безопасности ИИ, но подписал открытое письмо, опубликованное в марте Институтом будущего жизни, в котором он призвал компании, занимающиеся разработкой ИИ, «немедленно приостановить на срок не менее 6 месяцев обучение систем ИИ, более мощных, чем GPT-4».

Маск был одним из основателей «OpenAI», наряду с Альтманом. Маск входил в группу инвесторов, котрая включает Альтмана, Грега Брокмана, Рида Хоффмана, Джессику Ливингстон, Питера Тиля, «Amazon Web Services», «Infosys» и «YC Research», которые в 2015 году выделили 1 млрд долларов на финансирование «OpenAI». По словам Маска, он внес 100 млн долларов из этого миллиарда, но также называлась и цифра в два раза меньше.

Обстоятельства ухода Маска не совсем ясны. Согласно сообщению в блоге «OpenAI» и последующим твитам Маска, он покинул «OpenAI» в 2018 году, чтобы избежать конфликта интересов, поскольку «Tesla» стала уделять больше внимания искусственному интеллекту. В марте издание «Semafor» сообщило, что Маск предложил возглавить «OpenAI» и ушел после того, как его предложение было отклонено. В апреле газета «Financial Times» сообщила, что уход Маска также связан со столкновениями с другими членами совета директоров и сотрудниками по поводу подхода «OpenAI» к безопасности ИИ.

После своего ухода в 2018 году Маск критически оценивал направление развития «OpenAI». В интервью Такеру Карлсону на телеканале «Fox News» в апреле Маск сказал о компании: «Теперь они с закрытым исходным кодом, они явно коммерческие и тесно связаны с «Microsoft»».

«Microsoft» и «OpenAI» заключили многомиллиардное партнерство, в рамках которого «OpenAI» пользуется облачными вычислительными мощностями «Microsoft» в обмен на использование систем искусственного интеллекта «OpenAI» в продуктах «Microsoft».

Ранее «OpenAI» заявляла, что перешла от некоммерческого статуса к «гибриду коммерческого и некоммерческого», поскольку вычислительные требования, связанные с обучением современных систем искусственного интеллекта, регламентируют, что «OpenAI» необходимо привлекать больше средств, чем это было бы доступно для обычной некоммерческой организации.

В апрельском интервью Карлсону Маск также сказал, что его беспокоит, что модели ИИ обучаются быть «политически корректными», и пообещал создать «Truth GPT», который, по его словам, будет представлять собой «максимально правдоподобный ИИ».

Маск, который в прошлом часто говорил о рисках, связанных с развитием систем искусственного интеллекта, также заявил, что он создает новую организацию по ИИ для предотвращения «антиутопии ИИ». Однако эксперты и исследователи, в том числе советник xAI Хендрикс, высказывают опасения о том, что появление в экосистеме ИИ еще одной компании с большими ресурсами может еще больше подстегнуть гонку за разработкой мощных систем ИИ в ущерб усилиям по обеспечению их безопасности.

«Подход к созданию безопасного ИИ будет основан на том, что ИИ будет стремиться к истине. С точки зрения безопасности ИИ, максимально любопытный ИИ, который пытается понять Вселенную, будет выступать за человечество», – сказал Маск. «С той точки зрения, что человечество гораздо интереснее, чем нечеловечество».

Джесс Уиттлстоун, руководитель отдела политики в области ИИ Центра долгосрочной устойчивости, аналитического центра, расположенного в Великобритании, сообщил, что это «довольно неортодоксальный подход к безопасности ИИ».

«Я не уверен, что можно четко сказать, что значит для ИИ быть «максимально любопытным», и это огромный скачок – предполагать, что это означает, что ИИ будет выступать за человечество. Вся проблема сейчас заключается в том, что мы не можем полностью понять эти модели ИИ или предсказать их поведение, и я не вижу в подходе Маска ничего, что позволило бы решить это».

*компания признана экстремистской и запрещена на территории РФ

Источник: TIME

Фото: unsplash.com Maxim Tolchinskiy


Читайте также
12 декабря
19:30
«Питер Пэн: Кошмар в Нетландии» — новый ужастик во вселенной Пухвёрса
12 декабря
18:10
Роспотребнадзор: Птичий грипп может стать еще опаснее
12 декабря
17:00
«Яндекс» расширил возможности управления умным телевизором, внедрив GPT