Алексей Лопатин: «В научные издания идут работы молодых авторов, частично или целиком сгенерированные ИИ»

Завкафедрой реактивных двигателей и энергетических установок КНИТУ-КАИ Алексей Лопатин Фото: «БИЗНЕС Online»

Система образования абсолютно не готова к повсеместному применению искусственного интеллекта

Искусственный интеллект (ИИ) за последние два года плотно вошел в нашу повседневную жизнь. Его применяют практически все и везде. Сегодня я хотел бы посвятить статью (уже третью по тематике ИИ) вопросам применения искусственного интеллекта в науке и образовании. Сначала я хотел бы отметить, что с течением времени мое отношение к ИИ трансформируется от сдержанно восхищенного к настороженно прагматичному. В этой статье, как всегда, я буду транслировать сугубо личное мнение, основанное на моей экспертности. Поэтому любые возможные совпадения позиций с другими экспертами считаю случайными, но вполне свидетельствующими о реалистичности обозначенных рассуждений.

Начнем с того, что я в принципе не вижу смысла обсуждать возможность применения ИИ в образовании и науке. Это абсолютно бесполезное дело и потеря времени, поскольку ИИ уже плотно вошел в повседневную жизнь и школьников, и студентов, и преподавателей. Сейчас мы можем лишь рассматривать влияние и его последствия, а также предлагать или, лучше сказать, предполагать некоторые пути развития. Стоит помнить, что человек в своей жизни всегда идет по пути наименьшего сопротивления. А значит, пользовательская аудитория ИИ будет расти экспоненциально, побивая каждый месяц все новые и новые рекорды. При этом области применения ИИ продолжат расширяться. Что же это означает для образования и науки?

Начнем с образования. По моему мнению, система образования абсолютно не готова к такому «идеальному шторму», как повсеместное применение искусственного интеллекта. Вся эта ситуация напоминает молниеносное и полное поражение в некой битве, когда одна из сторон даже еще не осознала своего фиаско. Последние два месяца не без удовольствия читаю абсолютно безликие и в основном пустые комментарии и выступления экспертов и чиновников на всевозможных форумах о том, как будет прекрасно жить и учиться в этом прекрасном новом мире ИИ.

Создается впечатление, что часть этих комментариев и высказываний написано как раз с помощью больших языковых моделей. Невольно вспоминаешь знаменитый указ императора Петра I: «В сенатах и прочих собраниях говорить не по написанному, дабы дурь каждого была видна всем». Суть большинства комплементарных выступлений по поводу ИИ сводится к тому, что мы вот-вот оседлаем этот тренд и будем его вовсю эксплуатировать на общее благо, получая только сплошные бонусы и удовольствие. Думаю, ситуация в конструкции «образование vs ИИ» несколько иная.

«Совершенно точно, что число активных пользователей ИИ в школах стремительно приближается к 100 процентам (школьники — примерно с третьего класса)» Фото: «БИЗНЕС Online»

ИИ скармливает школьникам «пюре» из информации

Давайте рассмотрим, как же молодежь может использовать ИИ и в каких целях. Совершенно точно, что число активных пользователей ИИ в школах стремительно приближается к 100% (школьники — примерно с третьего класса). При этом применение ИИ с натяжкой можно назвать помощью в обучении. Школьники используют ИИ сугубо утилитарно: найти ответ здесь и сейчас, подготовить реферат, эссе или презентацию, помочь с домашним заданием. Точнее, даже не помощь, а просто подготовка домашних заданий, что называется, под ключ. Для этих целей ИИ используют примерно 95–97% учеников. Остальные 3–5%, по моей оценке, приходятся на ребят, которые действительно использую нейросети для качественного скачка, а не простого количественного результата.

Чем это грозит? Все очень просто: если ребенок начиная с младшей школы получает информацию в предварительно «обработанном» состоянии, у него не формируется критическое мышление и еще как минимум творческие способности (и в социокультурной, и естественнонаучной, и в технической сферах).

В качестве аналогии (возможно, не совсем корректной) можно привести такой пример. Представьте, что ребенка с раннего детства будут кормить только предварительно измельченной пищей, иначе говоря — пюре. Что с ним будет с точки зрения нормального развития организма во взрослом возрасте? Я не врач, но, думаю, ничего хорошего из такого режима питания точно не получится.

Так и школьник, воспитанный в «стерильной» ИИ-среде, просто не сможет учиться дальше в иных условиях, например без доступа в интернет. А ведь учиться в жизни придется много и часто. А что же будет делать дальше такой выпускник на рабочем месте, когда от скорости и правильности его решения будет зависеть чья-то жизнь или финансовое благополучие организации? Что касается учителей, то из прямого общения с ними создается впечатление, что далеко не все пользуются возможностями ИИ. Вполне возможно, сказывается нехватка времени или квалификации.

«Если студенты используют ИИ по прямому назначению — для облегчения образовательного процесса, а также иногда для шуток и розыгрышей, то профессорско-преподавательский состав использует нейросети более полно и системно» Фото: ru.freepik.com

ППС может смело заявлять о победе над бюрократией — и все благодаря ИИ

Двигаемся дальше и переходим в вузы. Тут с глубиной проникновения технологий в массы все в полном порядке. Уверен, что 99% студентов с высокой периодичностью пользуются благами современных нейросетей. Не сильно отстают и преподаватели. Если студенты используют ИИ по прямому назначению — для облегчения образовательного процесса, а также иногда для шуток и розыгрышей, то профессорско-преподавательский состав использует нейросети более полно и системно. Есть очевидные направления — подготовка лекций, презентаций, контрольно-измерительных материалов и т. д. И здесь все равно качество материала будет зависеть от уровня подготовки и профессионализма самого преподавателя. Ну не сможет даже самый продвинутый ИИ углубить системные знания ППС и дать ему практическую составляющую подготовленного учебного материала. Интерпретация образовательного контента все равно остается за человеком.

Еще одним относительно новым (примерно полтора-два года) и крайне полезным направлением практического применения ИИ университетскими преподавателями является подготовка полного перечня учебно-методического обеспечения. Части рабочих программ дисциплин (РПД), курсы лекций, практических и лабораторных работ, комплекты оценочных материалов (КОМ) — все это уже сейчас с успехом делается с помощью ИИ. Наше академическое сообщество может абсолютно смело заявлять, что методические материалы совершенно не связаны с качеством образования. Наличие различного рода бумаг, на которые раньше делали ставку контролирующие органы при аккредитационных проверках, сегодня вообще перестали о чем-либо свидетельствовать. В этом плане ППС может смело заявлять о полной победе над бюрократией.

Теперь кафедрам не страшны никакие актуализированные стандарты: два часа у компьютера с доступом в интернет — и образовательная программа полностью обеспечена «новыми» материалами, которые, к сожалению, при ближайшем рассмотрении не будут иметь ничего общего с реальным образовательным процессом. При этом, несмотря на мой наносной оптимизм, все это очень грустно, поскольку мы сейчас наблюдаем падение последнего «колосса» нашего образования — учебно-методической системы. Думаю, образовательному сообществу вместе с органами государственной власти, курирующими образование, нужно задуматься о том, каким образом хотя бы попытаться приостановить полную формализацию (читай, деградацию) учебно-методической работы в вузах. А сделать это будет очень сложно. Попробовав единожды легкий путь, молодому или даже опытному преподавателю будет очень сложно снова вернуться в этот непростой мир РПД, КОМ и прочего.

Что же можно сделать, чтобы повысить реальный уровень владения современными технологиями ИИ у уже немолодого поколения ППС вузов? Результат может дать только кропотливое и последовательное обучение абсолютно всех преподавателей. Причем это обучение должно носить не формальный характер, когда деньги выделяются какому-то оператору программы, а дальше он для галочки устраивает раздачу сертификатов.

Уже сейчас во многие научные издания направляются работы молодых авторов, частично или даже полностью сформулированные нейросетямиФото: ru.freepik.com

В потоке информационного шума и лженауки не потерять новое поколение ученых

Ну и немного по поводу науки. ИИ крайне быстро и в основном крайне неблагоприятно влияет на исследовательскую работу. Не могу судить о зарубежных университетах, но, к сожалению, в наших вузах ИИ зачастую способствует фальсификации научных результатов. Говорю не только о так называемых обзорах современного состояния вопроса, являющихся неотъемлемой частью научной работы. Я имею в виду непосредственно основные результаты, которые уже сегодня генерируются большими языковыми моделями и выдаются за новые знания. Такая ситуация опасна не только с точки зрения прямой фальсификации науки, здесь просматривается еще и скрытый, не совсем очевидный эффект: молодые исследователи, только делающие первые шаги в науке, получают совершенно ложный посыл о структуре и формах научных исследований. Им начинает казаться, что генерация результатов в ИИ и есть настоящая наука.

Уже сейчас во многие научные издания направляются работы молодых авторов, частично или даже полностью сформулированные нейросетями. Если не противопоставить этому потоку информационного шума и лженауки четкую позицию академического сообщества, мы можем вообще потерять для науки новое поколение исследователей.

Что можно и нужно делать в данной ситуации? Для начала обязательно подробно и обоснованно объяснять молодежи очевидные для старшего поколения основы исследовательской деятельности, ее этику и культуру. А дальше двигаться по пути динамичного развития систем антиплагиата, выполненных тоже на базе ИИ, способных различать сгенерированную фальшивку от реальной исследовательской работы.

«Сэм Альтман заявил, что в ближайшие несколько лет за пользование крупнейшими дата-центрами компания заплатит 1,4 триллиона долларов. Только вдумайтесь в масштаб этой суммы» Фото: © Sven Hoppe / dpa / www.globallookpress.com

Не ИИ, а языковая модель

Теперь что касается ИИ. По сути, это продвинутый поисковик с возможностью интерпретации результата по заданным алгоритмам. Поэтому название — искусственный интеллект — не совсем подходит существующим нейросетям. Для них есть достаточно четкая формулировка — большая языковая модель. Все же традиционно под интеллектом, хотя бы и искусственным, понимается наличие некой свободной воли, способности самостоятельно не только анализировать материал, но и принимать решения, руководствуясь нормами нравственности, морали, а главное, особенностями культуры, распространенной в среде проживания субъекта. Пока ни один так называемый ИИ наличием этих характеристик похвастаться не может.

При этом чем больше и качественнее вы обучаете ИИ, тем более релевантный результат получаете. Обучение ИИ — это отнюдь не дешевое удовольствие. Не так давно сооснователь и директор OpenAI Сем Альтман заявил, что в ближайшие несколько лет за пользование крупнейшими дата-центрами компания заплатит $1,4 триллиона. Только вдумайтесь в масштаб этой суммы. А ведь речь идет в том числе об обучении ИИ. Еще раз отмечу, качество ИИ будет напрямую зависеть от масштаба обучения. Можем ли мы позволить себе тратить подобные средства на IT-инфраструктуру и обучение собственных моделей ИИ? Наверное, нет.

Тем не менее в нашей стране есть достаточно успешные примеры создания собственных нейросетей. Моя принципиальная позиция — люди для своего личного применения должны самостоятельно выбирать то оборудование или ПО, которые им нравятся. При этом использование отечественных продуктов в коммерческих целях выходит намного дороже, чем их зарубежных аналогов. Сказывается значительная разница в стоимости железа. Однако на стороне наших приложений неоспоримое преимущество — обработка персональных данных, которая должна проходить исключительно в российской юрисдикции. На этом остановимся более подробно. Применение больших языковых моделей для личного пользования не гарантирует никакой конфиденциальности, поскольку все запросы используются в обучении ИИ. Если хотите, что называется, эксклюзивного отношения, используйте коммерческий доступ через интерфейс API и получайте некую анонимность.

Кроме того, судя по последним отраслевым обзорам и, главное, суммам, вкачиваемым в связанные с ИИ направления, данный рынок сильно перегрет и переоценен. При этом до сих пор ИИ не выходит за рамки помощника или эффективного секретаря, решающего важные, но все же тривиальные, не требующие творческого подхода задачи. Однако от него ждут уже иного, качественного скачка, а не количественного равноускоренного развития. А этого, к сожалению, нет, и неизвестно, когда появится.

В ближайшее время мы можем ожидать схлопывания ИИ

Следовательно, скоро можно ждать падения интереса к данным технологиям наподобие того, что был в 2000 году, когда лопнул «пузырь доткомов» (Dot-com bubble). Даже такой технологический гигант, как Oracle, очень непросто пережил тот кризис. И, если основные интересанты будут не очень удовлетворены результатами развития ИИ, в ближайшее время мы можем ожидать схлопывания и этого пузыря. Тем более, возвращаясь к теме искусственного интеллекта в образовании и науке, необходимо отметить, что за последнее время мир не увидел реального прорыва в этих сегментах.

Проводя параллели, можно вспомнить, как во время COVID-19 мы наблюдали лавинообразный интерес к электронному образованию. Профессиональное сообщество было увлечено этим трендом и делало очень оптимистичные и даже сверхкомплиментарные прогнозы нашего прекрасного и недалекого образовательного чуда, когда обучение станет удобным и даже легким. Несмотря на ожидания прорыва в этом направлении, чуда не случилось. Люди массово не стали переходить на онлайн-площадки, и сейчас можно наблюдать охлаждение. Фактически различные образовательные продукты возвращаются к доковидным цифрам в 7–9% аудитории, заканчивающей обучение. Следовательно, я бы рискнул предположить, что проблема не в самих технологиях, используемых в обучении (они склонны к появлению и накапливанию), а в методологии некой новой модели образования, которой по факту на сегодня не создано.

Не стоит идеализировать ИИ и абсолютизировать масштаб его влияния на нашу экономику. ИИ — это всего лишь очередной инструмент, и в руках человека он может приобретать совершенно разный смысл. Например, на IT-отрасль совершенно точно ИИ уже оказывает существенное влияние: молодые и неопытные программисты вчистую проигрывают конкуренцию современным нейросетям. К чему это приведет? Все очень просто: если не будет притока новых «джунов», кто тогда потом станет «сеньором»? ИИ пока даже в перспективе не сможет показать тот уровень, который требуется от профессионалов-программистов.

«ИИ действительно в значительной степени способен облегчить жизнь специалистов в совершенно различных областях за счет решения рутинных вопросов» Фото: ru.freepik.com

ИИ превращает педагога-интерпретатора в «говорящую голову»

Уже сейчас стали проявляться отрицательные эффекты от активной имплементации нейросетей в ежедневный обиход школьников, студентов и преподавателей. Большинство вопросов, касающихся выполнения школьных и университетских заданий, решается не в библиотеке или путем поиска и аналитического обобщения информации в глобальной сети, а простым запросом по известным всем адресам. К чему это приведет? Молодежь привыкает получать информацию в уже обработанном и «разжеванном» алгоритмами ИИ виде. Следовательно, у ребят не формируется собственное мнение, они используют ответ, подсказанный умной машиной.

Если посмотреть глубже, то мы увидим еще более неприглядную картину. Школьные и вузовские педагоги в массовом порядке используют умных помощников в качестве некоего интеллектуального костыля, который очень быстро расхолаживает и превращает педагога-интерпретатора в простую «говорящую голову». А дальше можно поднять вопросы о пустых сгенерированных ИИ научных статьях и таких же диссертациях. Что делать с этим явлением, которое уже сейчас вовсю атакует нас?

Нужно отчетливо понимать, что ИИ действительно в значительной степени способен облегчить жизнь специалистов в совершенно различных областях за счет решения рутинных вопросов. Что же касается промышленности, то тут все зависит от доминирующего технологического уклада. И если на промпредприятиях стоят универсальные станки, а не пятикоординатные обрабатывающие центры, то я даже представить себе не могу, где тут можно применить ИИ. То же касается и других отраслей. Думаю, сейчас крайне важно повышать производительность труда, а она в значительной степени пока все же лежит не в плоскости повсеместного внедрения ИИ. Таким образом, по моему мнению, на сегодня ИИ — это модный тренд, о котором все говорят, но только немногие знают, где действительно он может быть применен с пользой.

***

Несмотря на некоторый пессимизм, завершить статью я хотел бы на оптимистично-реалистичной ноте. Искусственный интеллект в той форме, в которой мы его сейчас видим, с нами надолго, точнее, навсегда. Он все дальше и все больше будет проникать в нашу повседневную жизнь и бороться с этим — значит обрекать себя на бессмысленную войну с ветряными мельницами. Уверен, что, если образовательная система хочет сохраниться, у нее просто нет иного выбора, кроме как научиться работать с учетом ИИ, пользуясь всеми огромными возможностями, которые он дает. Но нужно отчетливо понимать, что сами преподаватели должны научиться уверенно владеть этими технологиями, окунуться в огромный мир больших языковых моделей. В противном случае уже через два года преподавание в традиционной форме практически во всех школах и университетах будет просто не нужно. При этом уверен, что место хорошего (современного, активного, интересующегося, развивающегося) преподавателя — интерпретатора знаний, а не просто «говорящей головы» еще очень долго останется за человеком.