Президент США Дональд Трамп провёл в Белом доме встречу с главами шести технологических компаний. Это Google, Anthropic, Meta, OpenAI, xAI и Nvidia. По итогам встречи стороны подписали соглашение об искусственном интеллекте. Документ напоминает, что каждая компания отвечает за безопасную разработку своих технологий. Бизнес также должен зарабатывать доверие клиентов и общества.
Подписи поставили сам Трамп, Сундар Пичаи из Google и Дарио Амодеи из Anthropic. К ним присоединились Марк Цукерберг из Meta и Илон Маск из xAI. От OpenAI документ подписал Грег Брокман, а Nvidia представил Дженсен Хуанг.
Компании, которые обучают и запускают передовые модели, должны выстроить внутренний контроль. Он нужен, чтобы технологии работали по замыслу. Он также помогает вовремя находить и устранять проблемы. Соглашение предлагает четыре уровня контроля и аудита.
Первый уровень — система внутреннего мониторинга. Она следит за возможностями моделей при обучении и запуске. Особое внимание уделено кибербезопасности, биологическим и химическим угрозам. Модель не должна взламывать технические системы. Она также не должна получать к ним доступ непредусмотренным путём.
Второй уровень — специальная внутренняя команда. Она проверяет, что все механизмы работают как задумано. Найденные недочёты команда исправляет. Третий уровень — независимые внешние аудиторы. Они оценивают, насколько надёжно действуют меры контроля. Четвёртый уровень — независимый комитет при совете директоров. Он надзирает за командами контроля и аудиторами. Комитет принимает их отчёты и следит, чтобы проблемы устраняли.
По замыслу авторов, эти меры вселят в клиентов и общество уверенность в технологиях. Участники будут регулярно встречаться. Они выработают общие стандарты и лучшие практики. Это повысит безопасность систем.
В долгосрочной перспективе власти могут закрепить такие меры законом. Белый дом считает систему контроля и аудита важной для безопасного будущего независимо от того, обяжут ли компании её применять. Участники пообещали выполнять эти требования.
