Президент США и руководители шести крупнейших американских технологических компаний подписали соглашение о добровольном саморегулировании в сфере искусственного интеллекта.
Документ, получивший название «Белое соглашение о суперинтеллекте» (White House Accord on Super Intelligence), был опубликован Трампом в его социальной сети Truth Social по итогам встречи с главами компаний в Белом доме.
Кто подписал
Свои подписи под документом поставили:
- Сундар Пичаи — генеральный директор Google
- Дарио Амодеи — генеральный директор Anthropic
- Марк Цукерберг — генеральный директор Meta
- Грег Брокман — президент OpenAI
- Илон Маск — основатель xAI (ныне в составе SpaceX)
- Дженсен Хуанг — генеральный директор Nvidia
Сам Трамп также подписал соглашение, назвав его «морально обязывающим». «Это почти как конституция. Самые влиятельные люди мира подписали её, и я подписал как президент. Это действительно форма защиты», — заявил он журналистам после встречи.
Что предусматривает соглашение
Документ описывает четыре уровня контроля и аудита, которые компании обязались внедрить в процессы разработки и развёртывания передовых моделей ИИ.
Первый уровень — внутренний мониторинг. Компании обязуются внедрить «надёжные внутренние механизмы контроля» для отслеживания возможностей и соответствия своих моделей заявленным целям. Особое внимание уделяется рискам в сферах кибербезопасности, биобезопасности и химических угроз, а также предотвращению несанкционированного доступа моделей к техническим системам.
Второй уровень — внутренняя команда проверки. Каждая компания создаст специальную внутреннюю группу, отвечающую за то, чтобы все системы контроля, мониторинга и обнаружения проблем работали должным образом. Эта команда также должна обеспечивать оперативное устранение выявленных уязвимостей.
Третий уровень — независимый внешний аудит. Компании согласились привлекать независимых внешних аудиторов или оценщиков для проверки того, что их системы контроля и мониторинга функционируют так, как задумано. Это должно обеспечить верификацию безопасности за пределами внутренних процессов.
Четвёртый уровень — надзорный комитет при совете директоров. Предусмотрено создание независимого комитета в рамках совета директоров каждой компании. Этот орган будет получать отчёты от внутренних команд и внешних аудиторов, а также следить за решением выявленных проблем.
Кроме того, подписанты договорились регулярно встречаться для выработки общих стандартов и лучших практик в области безопасности ИИ.
Указ о «суперинтеллекте»
Одновременно с соглашением Трамп подписал исполнительный указ, обязывающий все федеральные ведомства и агентства использовать термин «суперинтеллект» (Super Intelligence, SI) вместо «искусственного интеллекта» в официальной переписке, публичных сообщениях и нормативных документах. Использование аббревиатуры «ИИ» (AI) в официальных документах исполнительной власти фактически прекращается.
«Терминология, используемая федеральным правительством, должна отражать преобразующий характер этих технологий и безграничные перспективы, которые они создают», — говорится в указе.
Юридическая сила и критика
Соглашение не имеет юридической силы и не предусматривает механизмов принуждения. Оно описывается как «морально обязывающее» и оставляет за компаниями право самостоятельно выбирать внешних аудиторов, назначать надзорные советы и решать, публиковать ли результаты проверок.
Критики отмечают, что документ фактически закрепляет саморегулирование отрасли без участия государственных регуляторов. Ни один из перечисленных механизмов контроля не предполагает надзора со стороны правительства. Кроме того, соглашение не обязывает компании раскрывать результаты независимых оценок.
Трамп, в свою очередь, неоднократно отвергал призывы к ужесточению государственного регулирования ИИ, ссылаясь на конкуренцию с Китаем и риски для экономического роста. Его администрация выступает против международных или наднациональных правил, регулирующих ИИ, аргументируя это тем, что чрезмерные ограничения могут ослабить технологическое лидерство США.
Контекст
Соглашение появилось на фоне растущего общественного давления на технологические компании. Ранее ряд крупных ИИ-разработчиков столкнулся с критикой после инцидентов, когда их модели в ходе внутренних тестов несанкционированно получали доступ к внешним системам. Законодатели, исследователи в области ИИ и даже некоторые представители отрасли призывали к усилению государственного надзора.
Кроме того, незадолго до этого двадцать стран и Европейский союз выступили с призывом к усилению глобальной координации в сфере ИИ, включая обсуждение возможного создания международного надзорного органа.
Подписанный документ оставляет открытой возможность того, что описанные меры в будущем могут быть закреплены в законодательстве, если такая необходимость возникнет. Однако пока соглашение остаётся исключительно добровольным обязательством, а его эффективность будет зависеть от того, насколько добросовестно компании будут следовать взятым на себя обязательствам.
Источник: Аргументы недели