Свыше 1100 сотрудников крупных технологических компаний обратились к правительству США с призывом поддержать международные усилия по разработке инструментов, способствующих контролю за темпами прогресса в области передового искусственного интеллекта (ИИ). Это заявление сделано на фоне стремительного развития мощных ИИ-систем, вызывающего озабоченность о том, что существующие механизмы безопасности и надзора могут не успевать за темпами их эволюции.
Инициатива, известная как «Pacing the Frontier», объединяет работников таких компаний, как Meta Platforms, Anthropic, OpenAI и Google (Alphabet), а также представителей некоммерческих организаций Guidelight AI Standards и Encode AI.
Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного ускорения развития автоматизированного ИИ.
В числе подписавших заявление находятся генеральный директор компании Anthropic Дарио Амодей, вице-президент Meta по исследованиям в области ИИ Доун Сонг и главный научный сотрудник OpenAI Якуб Пачоцкий.
В ответ на это заявление OpenAI разместила сообщение на X, в котором звучит:
Мы считаем, что в какой-то момент в будущем ускорение разработки передовых моделей ИИ может быть настолько высоким, что миру потребуется регулировать темпы их развития.
Также из своего аккаунта на X Anthropic добавила:
Наше собственное исследование рекурсивного самосовершенствования, опубликованное в прошлом месяце, подчеркивает необходимость создания инструментов для целенаправленного регулирования темпов развития ИИ, чтобы общество могло быть готово.
Напомним, что в прошлом месяце создатель Claude Code призвал крупнейшие ИИ-лаборатории рассмотреть возможность введения координированной паузы в исследованиях, настороженно отмечая, что технологические достижения могут позволить ИИ-системам развиваться быстрее, чем общество сможет управлять связанными с этим рисками.
Кроме того, в понедельник компания Nvidia объявила о создании коалиции с Adobe, CrowdStrike и другими организациями для разработки инструментов обеспечения безопасности, связанных с ИИ и кибербезопасностью, в ответ на недавний инцидент с киберугрозами приложением Hugging Face, который еще больше усилил опасения по поводу автономных агентов ИИ.