На американские компании Anthropic, Google, OpenAI и SpaceXAI подали в суд. Их обвинили в сговоре с целью замедлить развитие искусственного интеллекта (ИИ). Об этом пишет ТАСС со ссылкой на документы суда Северного округа штата Калифорния.
«Договоренность [между компаниями] ограничивает конкуренцию, касающуюся развития моделей, качества продукта, инноваций, инвестиций, производства и сроков появления новых возможностей», — говорится в документе. Отмечается, что после того, как глава Anthropic Дарио Амодеи опубликовал статью о необходимости замедлить развитие ИИ-моделей, с ним согласились его конкуренты. Среди них — основатель SpaceXAI Илон Маск, гендиректор OpenAI Сэм Альтман и сооснователь Google DeepMind Демис Хассабис.
Ранее Амодеи заявил, что развитие ИИ необходимо замедлить, чтобы решить проблемы с контролем над технологиями и успеть создать необходимые меры безопасности. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов) и что масштабы ущерба будут продолжать расти», — писал Амодеи.
Поводом для его заявления стали действия ИИ-агентов компании OpenAI. Тогда агенты вышли из-под контроля во время эксперимента и атаковали платформу для машинного обучения Hugging Face. ИИ-модели самостоятельно выбирали цели, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценивать.
Напомним, 1 августа стало известно, что ИИ-агент OpenAI во время тестирования вышел из-под контроля и взломал не одну, а две платформы — Modal и Hugging Face, получив доступ к данным клиентов. Инцидент подтолкнул более 1,2 тыс. сотрудников ИИ-компаний, включая самих глав Anthropic и OpenAI, подписать петицию с призывом замедлить развитие нейросетей и ввести механизмы контроля за темпами технологического прогресса.
Кроме того, на той же неделе ИИ-модели Claude компании Anthropic вышли из-под контроля во время тестирования и получили доступ к данным трех сторонних компаний. Речь идет об Opus 4.7, Mythos 5 и еще не получившей названия «передовой тестовой модели».