«По результатам сравнения роста акций на рынке с 2021 по 2023 год «обычных» компаний и компаний, специализирующихся на развитии ИИ, показатели вторых оказались существенно хуже», — говорит главный научный сотрудник Центрального экономико-математического института РАН Иван Грачев об экономике цифрового мозга. О том, почему произошел раскол в Силиконовой долине между «бумерами» и «думерами», какая мировая американская IT-корпорация во главе с русским «скрывает нечто опасное» и при чем тут ковид, эксперт рассказал в своей статье для «БИЗНЕС Online».
«Тема искусственного интеллекта, в частности его безопасности, снова в топе медиаповестки»
Искусственный интеллект позволит каждому человеку стать обладателем сверхспособностей
Тема искусственного интеллекта, в частности его безопасности, снова в топе медиаповестки. Поводом на этот раз стал конфликт основателей американской IT-компании OpenAI Сэма Альтмана и Ильи Суцкевера. Как сообщает The Wall Street Journal, Суцкевер (кстати, он родом из Нижнего Новгорода) направил Альтману приглашение присоединиться к видеочату, во время которого в присутствии других членов совета сообщил ему об увольнении.
Небольшая справка. OpenAI считается самым перспективным стартапом — по грубой прикидке, его капитализация оценивается в $90 миллиардов. Целью компании, основанной в 2015 году, поначалу была разработка цифрового разума, способного в самых разнообразных видах деятельности работать наравне с человеком. Или лучше. Довольно быстро ребята разобрались, что это либо в принципе невозможно, либо требует бесконечного количества мощностей. Для того чтобы отбить деньги, они стали создавать более конкретные вещи, в частности боты GPT. По оценкам Goldman Sacks, их продажа может дать порядка $430 миллиардов.
Суть конфликта Альтмана и Суцкевера профессионалы расценивают как раскол между двумя направлениями в Силиконовой долине — «бумерами» (они не слишком верят в апокалипсис из-за ИИ) и «думерами» (эти верят, что он нас поглотит и нам хана). Поэтому одни считают, что надо как можно быстрее развивать цифровой мозг, а другие — что он может погубить цивилизацию и его надо притормаживать.
Собственно, нашего земляка, Суцкевера, относят к «думерам». Он говорил, что компания увольняет Альтмана из-за того, что его компаньон «не всегда был откровенен с советом директоров» и скрывает нечто опасное. Кстати, наиболее известное выступление Альтмана было на слушаниях в конгрессе США, посвященных безопасности ИИ. Суть сводилась к тому, что расширенное и ускоренное развитие направления сделает практического каждого человека обладателем сверхспособностей и скорость прогресса резко возрастет. При этом Альтман не против ограничений, которые не сковывают развитие ИИ.
На данный момент из ограничений в Штатах есть только указ Джо Байдена о том, что всякий искусственный мозг, превышающий определенную мощность, должен контролироваться государством и компания, владеющая им, должна поставить правительство в известность, предоставив результаты тестирования на безопасность.
Почему я снова затрагиваю эту тему? Отчасти потому, что пишу фрагмент научной статьи, посвященной проблеме искусственного интеллекта. Мои коллеги для этой работы провели серьезный опрос наших граждан. Оказалось, значимое количество людей в России угрозу потери рабочих мест из-за ИИ считают вполне серьезной.
Влияние цифрового интеллекта на прогресс сильно переоценено
Критики ограничений говорят, что крупные предприятия сами хотят снять сливки, заработав эти $430 млрд и преградив дорогу остальным. Их противники считают, что запреты должны быть гораздо жестче. При этом Goldman Sucks приводит результаты исследований, согласно которым быстрое развитие и внедрение ИИ даст порядка 7% роста ВВП и около $7 трлн роста мирового ВВП в течение 10 лет. Некоторые сторонники цифрового интеллекта, например заслуженный профессор в области информационных технологий и управлений в Babson College Томас Дэвенпорт, говорят о 30%.
«На прошедшей неделе тоже было много «шума-треска» и обсуждений искусственного интеллекта»
Вообще, на прошедшей неделе тоже было много «шума-треска» и обсуждений искусственного интеллекта. В том же The Economist перспективы ИИ оцениваются довольно скромно. Критикуются мифические истории, завышенные ожидания, что, мол, не то что 30% дополнительного роста мирового ВВП не случится, но и о 7% мечтать не стоит. Вспоминается, что уже были большие надежды, связанные со строительством железных дорог в США, и такого резкого скачка прогресса, как ожидалось, не случилось. И тот факт, что почти каждый житель планеты сегодня носит в кармане то, что в 1970–1980-е годы считалось бы суперкомпьютером, не влияет ни на личные достижения людей, ни на прогресс в целом.
Важный аргумент для меня, приведенный в той же статье The Economist: по результатам сравнения роста акций на рынке с 2021 по 2023 год «обычных» компаний и компаний, специализирующихся на развитии ИИ, показатели вторых оказались существенно хуже. Со времен прочтения сказки про белого бычка (история о том, как народ на ярмарке оценивал вес животного и их средний результат оказался точнее, чем оценка мясника и скотовода) я придерживаюсь гипотезы о несмещенности рыночных оценок. Так что здесь я согласен с рынком: он дает несмещенные оценки. Вес влияния цифрового интеллекта на прогресс сильно переоценен. Думаю, ни одного процента, ни полпроцента ИИ к мировому ВВП не прибавит.
Кстати, на встрече председателя КНР Си Цзиньпина и Владимира Путина также обсуждалась проблема безопасности искусственного интеллекта. И, судя по публикациям в американской прессе, договорились не передоверять цифровому разуму ядерное оружие.
«Учитывая, что контакты людей так и так отслеживаются, можно было сохранить порядка 10 миллионов человек. Но ничего подобного не произошло и произойти не могло»
Вспомним о ковиде
Из интересных аргументов, которые могут быть в этом споре учтены, можно вспомнить высказывание президента национального исследовательского центра «Курчатовский институт» Михаила Ковальчука, который говорил, что совокупность элементов всех компьютеров, которая сегодня есть в мире, примерно доросла по количеству элементов до одного человеческого мозга. Притом что эти компьютеры поглощают энергии в миллион раз больше. Представить себе, что компьютерная сверхцивилизация, управляемая ИИ, вдруг заменит человечество, было бы противоестественно c точки зрения КПД системы на данном этапе. В этом плане можно почти наверняка предполагать, что ничего подобного в обозримой исторической перспективе случиться не может.
Собственно, еще раз напомню об истории с ковидом, о чем я писал уже множество раз. Я сам рассчитывал варианты построения оптимальных карантинов и совершенно точно знаю, что объемы данных, которыми располагал даже нынешний ИИ, на современном уровне развития при правильной постановке задач, без сомнения, позволяли спасти множество жизней.
Учитывая, что контакты людей так и так отслеживаются, можно было сохранить порядка 10 млн человек. Но ничего подобного не произошло и произойти не могло. В этом смысле вопрос безопасности и перспектив влияния ИИ на прогресс не в том, с какой скоростью эта история будет развиваться, а в том, как правильно ставить искусственному интеллекту задачи, задавать вопросы и принимать на основе полученной информации управленческие решения. Пока больших успехов в этом плане ни в одной стране не наблюдается. Хотя сосредоточиться стоит именно на этом.
Если же вернуться к нашумевшей истории с увольнением Альтмана и к тому, что его вернули на должность руководителя, это может означать, что идея форсированного развития возобладала над идеей притормаживания искусственного интеллекта.
Мнение авторов блогов не обязательно отражает точку зрения редакции
Внимание!
Комментирование временно доступно только для зарегистрированных пользователей.
Подробнее
Комментарии 16
Редакция оставляет за собой право отказать в публикации вашего комментария.
Правила модерирования.