Сэм Альтман: «В не слишком отдаленном будущем ИИ реально сможет причинять глобальный вред»

Сэм Альтман Фото: Markus Schreiber / AP/TASS

«Мы еще на очень ранней стадии понимания, как это работает»

Крупные технологические компании — Amazon, Microsoft, Google, Meta* и Apple — в ближайшую пятилетку вложат $1 трлн в гонку ИИ-вооружений, пишет Business Insider со ссылкой на аналитиков исследовательской компании Bernstein. «Microsoft с ее крупными инвестициями в такие стартапы в области ИИ, как OpenAI, Inflection и Mistral AI, стала крупнейшим конкурентом Alphabet в самом бешеном технологическом цикле со времен бума доткомов. Обе компании борются за победу в гонке искусственных интеллектов», — подмечает Bloomberg. И в этой борьбе начались настоящие раунды: презентации новых моделей теперь проходят с интервалом буквально в несколько дней, а то и часов: Open AI триумфально показала GPT-4o 13 мая, на следующий день презентацию устроила Google, а в понедельник удивить всех попробует Microsoft. Еще интереснее следить за тем, какой образ будущего формируют лидеры этих компаний, благо они теперь выступают на разных площадках тоже друг за другом.

Так, генеральный директор OpenAI Сэм Альтман пришел в подкаст ALL-IN и в промежутке между анонсами GPT-5 в неопределенном будущем, внедрением в смартфоны и оправданиями за платный доступ к новым моделям традиционно рассуждал о миссии компании. «Мы все еще на очень ранней стадии развития науки и понимания того, как все это работает… Так что я не знаю, когда мы дойдем до уровня интеллекта, который будет достаточно дешевым и настолько быстрым, что будет казаться мгновенным. Но мы правда хотим найти способ, как предоставить более продвинутые технологии и бесплатным пользователям тоже. Это важная часть нашей миссии», — говорил он.

GPT-5 будет величайшим ассистентом или альтер эго хозяина? Фото: © Avishek Das / Keystone Press Agency / www.globallookpress.com

Остается вопрос: к чему все это? По словам Альтмана, есть два подхода к роли ИИ. Первый воспринимает технологию как расширенную версию самого человека, «вроде альтер эго или призрака». «Он действует от моего имени, отвечает на письма, не сообщая мне об этом, как бы становится больше мной, чем есть я сам», — привел пример спикер. Второй подход — отдельный сотрудник, которому можно делегировать задачи. «Это мощно выглядит, когда ты включаешь камеру и спрашиваешь у помощника: „На что я смотрю? Какой это вид растения?“ — а он отвечает. И мне хочется, чтобы появился помощник, с которым я могу использовать и голос, и текст. Который помогал бы мне в течение для, был всегда включен. Как величайший в мире ассистент, который помогает мне становиться лучше и лучше», — добавил гендиректор.

«Мне больше нравится подход с отдельной сущностью, и именно в этом направлении мы будем двигаться… Я хочу, чтобы ИИ в моем смартфоне вел себя как старший, опытный сотрудник, который иногда может и не выполнить то, что я прошу. То есть он не делает задачи бездумно. Может возражать и рассуждать. У него должно быть такое отношение ко мне, какого я ожидаю от действительно компетентного человека. Что, как вы понимаете, отличается от подобострастия», — заключил он.

Sora, ведущая модель OpenAI для генерации коротких видео, все еще остается довольно таинственным проектом Фото: © Cfoto / Keystone Press Agency / www.globallookpress.com

Очень остро стоит вопрос и об обучении модели — в какой момент начинается нарушение авторских прав? «Например, ты говоришь модели: „Создай мне песню в стиле Тейлор Свифт“. И даже если она (нейросеть) никогда не была обучена на ее песнях, все равно она могла читать о Тейлор Свифт, знать о ее занятии и так далее. Вопрос в том, имеет ли право эта модель создавать подобную музыку, даже если она никогда не была обучена на авторских композициях? И если да, то как Тейлор должна получать оплату?» — рассуждает Альтман.

Он объявил, что принял решение не заниматься генерацией музыки, потому что не знает, «где проходит эта красная линия». Впрочем, вопрос, на чем обучал Альтман собственную видеомодель Sora, остается открытым. У общества до сих пор нет никакой уверенности в том, что ИИ тренируют исключительно на открытых или приобретенных по всем правилам источниках.

«В не слишком отдаленном будущем системы ИИ реально смогут причинять глобальный вред»

Недавно власти Калифорнии — родины Кремниевой долины — якобы приняли решение об обязательном тестировании моделей ИИ на предмет «небезопасного поведения», а генеральный прокурор штата сможет возбуждать иски к компаниям, чьи системы искусственного интеллекта наносят «критический вред». «Меня все это беспокоит, — признался Альтман. — Но еще больше меня волнует другое. Я думаю, в не слишком отдаленном будущем придут передовые системы ИИ, которые уже реально могут причинять глобальный вред. И для таких систем, как у нас работает с тем же ядерным оружием <…>, необходима международная организация, которая следила бы за ними, обеспечивала бы разумное тестирование безопасности <…>, чтобы эти системы не вышли из-под контроля и не начали самосовершенствоваться рекурсивно».

Калифорнийское же регулирование, которое позволяет правительству штата проверять модель, ПО и только после положительного заключения пускать продукт в коммерческое использование, является в большей степени бессмысленным, убежден Альтман. Мол, модели ИИ претерпевают постоянные обновления. А значит, что документы на проверку придется отправлять постоянно. К тому же он убежден, что модели уровня GPT-4 попросту не могут нести предварительных рисков и существует множество достаточно безопасных способов их развертывания.

Альтман анонсировал, что совсем скоро выйдет их пятилетнее исследование, касающееся рабочих мест. При этом фактически глава компании выступил с критикой действий американской власти Фото: © Rafael Henrique / Keystone Press Agency / www.globallookpress.com

Доказать свою безопасность, в том числе и для рынка труда, OpenAI решила на практике. Альтман анонсировал, что совсем скоро выйдет их пятилетнее исследование, касающееся рабочих мест. При этом фактически глава компании выступил с критикой действий американской власти.

«Мы начали думать об этом в 2016 году, примерно в то же время, когда стали серьезно заниматься ИИ. Теория заключалась в том, что масштаб изменений в обществе и экономике может быть настолько велик, что нам просто необходимо проводить исследования, а также изучать способы перевести это в организованное русло. Мне не очень нравится, как правительство справляется с политикой, направленной на помощь бедным. Я не верю, что, если просто дать людям деньги, они начнут принимать верные решения, а рынок сделает свое дело», — перешел он на риторику в духе Билла Гейтса.

Как определить реальное в мире, полном синтетического контента?

Google же на этом фоне чувствует себя догоняющей, что, впрочем, не очень смущает возглавляющего ее Сундара Пичаи: мол, первый поисковик тоже не они создали, главное, кто в итоге окажется лидером. В интервью журналисту Bloomberg Эмили Чанг он признал, что поиск тоже придется трансформировать, поскольку лучший формат будет включать в себя «комбинацию описательных ответов и ссылок на другие веб-сайты».

Но главную проблему он видит в другом. В интернете появляется все больше контента, созданного искусственным интеллектом, и всем поисковым системам придется выяснить, показывать его пользователям или нет. Например, прошлогодние алгоритмы Google подняли в топ выдачи изображение, созданное ИИ: сгенерированная картинка показывалась первой при поиске «танкиста» — китайца, стоявшего перед танками на площади Тяньаньмэнь в 1989 году. Google удалила это изображение из своей таблицы знаний и панелей знаний, но сам факт сбоя дал людям новый взгляд на историю. «Задача для всех — как определить, что является объективным и реальным в мире, где будет много синтетического контента?» — говорит Пичаи, убежденный, что решение этой проблемы и станет определять поиск в следующем десятилетии.

О судьбе поиска серьезно переживает и генеральный директор Microsoft Сатья Наделла. Во время антимонопольного процесса в США он заявил, что эксклюзивные многомиллиардные сделки Google с такими компаниями, как Apple Inc., которые по умолчанию используются в смартфонах и браузерах, по сути, заблокировали Microsoft Bing. Google смогла улучшить свою поисковую систему, потому что по умолчанию она получает больше пользовательских запросов, что в свою очередь, приводит к лучшим результатам поиска, утверждает Наделла.

«Люди склонны сосредотачиваться на этом микромоменте, но он настолько мал в контексте того, что их ждет впереди, — парирует Пичаи. — Когда я смотрю на предстоящие возможности во всем, что мы делаем, я вкладываю много фишек, по крайней мере с моей точки зрения, в Google».

Пора готовиться делить Землю с новым цифровым видом?

В марте Microsoft сообщила о создании подразделения Microsoft AI, которое будет развивать Copilot, Edge и Bing. Его возглавил Мустафа Сулейман, соучредитель DeepMind и Inflection — известных ИИ-компаний. И уже в апреле он выступил с визионерской TED-лекцией о том, куда все идет, где пожаловался, что его 6-летний племянник поставил его в тупик вопросом, что же такое искусственный интеллект. «Очевидно, что мы находимся на переломном этапе истории человечества. Мы на пути к появлению чего-то, что мы все изо всех сил пытаемся описать. И все же мы не можем контролировать то, чего не понимаем, — рассуждал он. — Я думаю, что ИИ лучше всего понимать как нечто вроде нового цифрового вида. Не воспринимайте это слишком буквально, но я предсказываю, что мы увидим в них цифровых компаньонов, новых партнеров в путешествиях всей нашей жизни. На мой взгляд, это наиболее точный и честный способ описать то, что на самом деле произойдет. И прежде всего это позволяет каждому подготовиться к тому, что будет дальше».

Сулейман вписывает этот цифровой вид в контекст эволюции жизни на земле. Мол, одно изобретение породило тысячу других, человечество стало homo technologicus, а изобретение искусственного интеллекта — это новая волна истории, более быстрая и значимая, чем когда-либо.

И все это подстегивается растущей экспонентой данных и вычислений. «В прошлом году Inflection 2.5, наша последняя модель, использовала в 5 миллиардов раз больше вычислений, чем искусственный интеллект DeepMind, который победил в играх на приставке Atari чуть более 10 лет назад», — говорит он.

По словам спикера, все идет к тому, что у всех появится персональный ИИ с идеальным IQ, который при этом будет добрым, поддерживающим, сочувствующим. Персональный репетитор, врач, юрист, бизнес-стратег и тренер — все в вашем кармане 24 часа в сутки. Сулейман прогнозирует, что ИИ будут иметь все организации, от стартапов до правительств, и модели станут решать задачи от заказа еды до управления электростанцией, поскольку обрабатывают «потоки информации, намного превосходящие то, что любой из нас мог бы усвоить за тысячу жизней».

«Чтобы смягчить неизбежные непредвиденные последствия, которые могут возникнуть, мы должны начать думать о них как о новом виде, — призывает он. — Просто сделайте паузу на мгновение и по-настоящему задумайтесь о том, что они уже делают. Они общаются на наших языках. Они видят то же, что и мы. Они потребляют невообразимо большие объемы информации. У них есть память. У них есть индивидуальность. У них есть творческий потенциал. Они могут даже в некоторой степени рассуждать и формулировать элементарные планы. Они способны действовать автономно, если мы им позволим. И все это они делают на уровне сложности, далеко превосходящем все, что мы когда-либо знали».

«Иногда люди говорят, что данные или чипы — это новая нефть XXI века, но это совершенно неверный образ. ИИ для разума то же самое, что ядерный синтез для энергетики. Безграничный меняющийся мир. И ИИ действительно устроен иначе, а это означает, что мы должны думать о нем творчески и честно. Мы должны довести наши аналогии и метафоры до предела, чтобы справиться с тем, что нас ждет. Потому что это не просто очередное изобретение. ИИ сам по себе является бесконечным изобретателем. И да, это захватывающе, многообещающе, тревожно и интригующе одновременно. Честно говоря, это довольно сюрреалистично», — заключил Сулейман.