OpenAI и Anthropic: почему гонка ИИ начала пугать самих разработчиков

Гонка искусственного интеллекта вышла на новый уровень. OpenAI одновременно запустила около 10 000 ИИ-агентов на решение одной из самых сложных математических задач, а глава Anthropic Дарио Амодей почти сразу призвал крупнейшие AI-компании сознательно замедлить развитие моделей. На одной стороне — резкое ускорение возможностей ИИ, на другой — растущее опасение, что безопасность уже не успевает за технологическим прогрессом.

Ещё недавно главной мерой успеха AI-компаний были новые модели, тесты и количество пользователей. Теперь речь идёт уже о другом масштабе: тысячи автономных агентов могут одновременно атаковать одну научную проблему, проверять разные гипотезы и работать параллельно там, где человеку потребовались бы годы.

OpenAI на этой неделе показала, как это может выглядеть на практике.

10 000 агентов против одной математической задачи

Компания направила около 10 000 ИИ-агентов на задачу Навье — Стокса, входящую в список Millennium Prize Problems. Это одна из фундаментальных математических проблем, над которой исследователи работают десятилетиями.

Вместо одного ИИ OpenAI использовала массовый параллельный подход. Тысячи агентов одновременно проверяли различные варианты решения, после чего результат дополнительно проходил отдельную проверку.

По данным The Guardian, вычислительная стоимость эксперимента могла составить около $15 млн.

Главное здесь даже не сама сумма и не количество агентов. Важнее то, что OpenAI продемонстрировала новый принцип научной работы: сложную задачу можно не только отдать более умной модели, но и масштабировать количество цифровых исследователей практически как вычислительный ресурс.

Это уже совсем другая модель науки.

Теперь преимущество можно купить вычислениями

До появления AI-агентов исследовательская работа почти всегда упиралась в количество специалистов. Можно было собрать сильную команду, купить оборудование и привлечь финансирование, но невозможно было за несколько дней создать ещё десять тысяч математиков.

С ИИ это ограничение постепенно исчезает.

Если агенты способны независимо проверять разные гипотезы, компания с большим вычислительным бюджетом получает возможность запускать тысячи попыток одновременно. Большинство из них могут закончиться ничем, но при достаточном масштабе вероятность найти рабочее решение резко возрастает.

Именно поэтому эксперимент OpenAI важнее очередного технологического рекорда.

Он показывает, что в научной конкуренции появляется новый фактор: не только качество интеллекта, но и количество интеллекта, которое компания может одновременно запустить.

Для крупнейших AI-компаний это огромное преимущество. Для университетов и независимых исследователей — серьёзная проблема.

Математики увидели обратную сторону

Результат OpenAI вызвал не только восторг.

Часть исследователей обратила внимание на то, что научная работа начинает зависеть от ресурсов, которые доступны только нескольким крупнейшим корпорациям. Университетская группа просто не может потратить миллионы долларов на несколько дней вычислений ради одной гипотезы.

Отдельный спор возник вокруг неопубликованных исследований. Математики начали задаваться вопросом, насколько безопасно обсуждать ещё не опубликованные идеи внутри коммерческих AI-систем, если теоретически модель способна быстро развить полученную концепцию дальше.

OpenAI отвергла обвинения в неправомерном использовании чужих исследований. Однако сама проблема никуда не исчезла.

Если ИИ становится полноценным исследовательским инструментом, вопрос о том, кому принадлежат данные, гипотезы и промежуточные результаты, становится намного серьёзнее.

И в этот момент Anthropic предлагает тормозить

На фоне этой гонки заявление Дарио Амодея прозвучало особенно показательно.

Глава Anthropic призвал крупнейшие AI-компании сознательно замедлить рост возможностей моделей, чтобы работа над безопасностью успевала за их развитием.

Речь не идёт о прекращении прогресса. Амодей прямо говорит, что даже при более осторожном темпе ИИ всё равно будет развиваться чрезвычайно быстро.

Фактически Anthropic ставит вопрос иначе: не можем ли мы сделать ИИ мощнее, а успеваем ли мы контролировать последствия этого роста.

И судя по всему, такой вопрос появляется внутри индустрии всё чаще.

Проблема: тормозить должен не один

Главный недостаток идеи замедления очевиден.

Она работает только в том случае, если крупные игроки действуют примерно одинаково.

Если одна компания решит задержать новую модель на полгода ради дополнительных проверок, а конкурент продолжит развитие, рынок быстро накажет осторожного. Пользователи, инвестиции, специалисты и внимание уйдут к тому, кто оказался быстрее.

Поэтому AI-индустрия попала в довольно странную ловушку.

Разработчики могут понимать, что скорость становится опасной, но ни одна компания не хочет первой добровольно уступить конкурентам.

Безопасность начинает конкурировать с экономикой.

И пока экономика выигрывает.

OpenAI тоже заговорила о безопасности

Важно и другое: призывы к ограничению скорости идут уже не только от Anthropic.

OpenAI также выступает за более жёсткие требования безопасности к наиболее мощным AI-системам и обсуждает сценарии, при которых развитие отдельных возможностей моделей должно проходить медленнее.

Получается парадоксальная ситуация.

Те же компании, которые тратят миллиарды на ускорение ИИ, начинают одновременно строить механизмы, способные это ускорение ограничить.

На первый взгляд здесь есть противоречие. На деле всё проще.

Именно они первыми видят, насколько быстро растут возможности новых систем.

Следующий шаг — не 10 000 агентов

Сегодня 10 000 агентов выглядят огромным числом.

Но сама логика развития говорит о том, что это только начало.

Модели становятся дешевле, эффективнее и быстрее. Стоимость вычислений постепенно снижается, а специализированное оборудование позволяет запускать всё больше параллельных процессов.

То, что сегодня требует миллионов долларов, через несколько лет может стоить значительно дешевле.

И тогда речь пойдёт уже не о десяти тысячах агентов, а о сотнях тысяч систем, одновременно работающих над одной задачей.

Это может ускорить разработку лекарств, материалов, программного обеспечения, микросхем и новых моделей ИИ.

Но ровно тот же подход способен ускорить поиск уязвимостей, создание вредоносного кода и разработку технологий, которые сложно контролировать.

Именно поэтому разговор о безопасности начинается сейчас, а не после очередного технологического скачка.

Гонка ИИ изменилась

Раньше соревнование выглядело просто: кто создаст более умную модель.

Теперь всё сложнее.

Важна не только сама модель, но и количество агентов, доступ к дата-центрам, стоимость электричества, вычислительные мощности и способность координировать тысячи автономных систем.

ИИ превращается из отдельного инструмента в масштабируемую рабочую силу.

И именно этот переход меняет правила игры.

OpenAI показала, насколько далеко уже можно масштабировать такой подход.

Anthropic почти одновременно предупредила, что двигаться дальше, возможно, стоит осторожнее.

Вывод КЛЁ

Гонка ИИ дошла до странной точки.

Компании научились запускать тысячи цифровых исследователей одновременно и направлять их на задачи, которые люди не могли решить десятилетиями. Но чем успешнее становится этот подход, тем громче сами разработчики говорят о необходимости ограничений.

Проблема уже не в том, сможет ли ИИ стать ещё мощнее.

Судя по темпам развития — сможет.

Проблема в другом: кто согласится замедлиться первым, если остальные продолжат разгоняться.

И пока ответа на этот вопрос нет.

Источники

Reuters — Anthropic CEO urges AI companies to slow model development

The Guardian — Mathematicians uneasy at OpenAI’s latest scalp

The Guardian — OpenAI claims to have solved maths problem that stumped humans for decades

Reuters — OpenAI pushes for mandatory national AI safety requirements