Бесконтрольное развитие искусственного интеллекта (ИИ) может иметь катастрофические последствия для всех. Мир может оказаться в ситуации, схожей с гонкой ядерного вооружения. Мировые лидеры должны действовать сейчас, в этом им поможет опыт ядерного сдерживания. Об этом написал бывший госсекретарь США Генри Киссинджер в своей статье для Foreign Affairs.

Фото: ©  Christoph Soeder / dpa / www.globallookpress.com

Киссинджер задался вопросом о том, даст ли ИИ возможность кому-то разрабатывать смертоносные вирусы, которые «убьют столько людей, сколько супердержавы не смогли бы при всем желании» и «разрушит ли ИИ систему ядерного сдерживания».

«Сейчас никто не может ответить на эти вопросы. Но мы исследовали их с группой лидеров в сфере ИИ, и нам представляется, что бесконтрольное развитие этой отрасли может иметь катастрофические последствия для США и всего мира. Так что лидеры государств должны действовать сейчас», — пишет он.

Киссинджер считает, что мировым лидерам может помочь опыт ядерного сдерживания. «Он показал, что общие интересы можно найти даже в гонке вооружений, способной убить миллионы людей. США и СССР понимали, что их технологии могут попасть в руки террористам из других стран, так что обезопасили свои арсеналы. А еще они понимали, что террористы могли получить технологии с подачи либо США, либо СССР. Так что они начали взаимодействовать друг с другом, чтобы этого не случилось», — отметил бывший госсекретарь США.

Также, пишет Киссинджер, в мире сейчас всего два лидера в сфере ИИ — США и Китай, у которых есть достаточно специалистов и технологий.

«И только они могут предотвратить сценарий, когда ИИ будет использоваться в самых плохих целях. Джо Байдену и Си Цзиньпину нужно провести саммит — возможно, сразу после их встречи в Сан-Франциско в ноябре — и развернуто обсудить там один из самых важных вопросов для них сегодня», — считает он.

Миллиардер Илон Маск требует остановить на полгода все разработки, исследователь ИИ Элиезер Юдковский предложил вообще запретить ИИ, психолог Гэри Маркус считает нужным создание новой международной организации, которая контролировала бы ИИ, добавил Киссинджер.

«Все это напоминает предложения из прошлого по сдерживанию ядерного оружия. Они не воплотились в жизнь потому, что нарушали суверенитет государств. Еще ни одна страна в истории, зная, что враг овладел технологией, которая может ее уничтожить, не отказывалась от разработки этой же технологии. Даже близкие союзники США Великобритания и Франция разработали свои программы, лишь согласившись быть под ядерным зонтиком американцев», — считает политик.

Полный перевод статьи Киссинджера можно прочитать по ссылке.