- 27,251
- 46
- 8 Ноя 2022
Хотел проверять все модели за 90 дней до релиза. Отказался за несколько часов до подписания.
Дональд Трамп подписал указ об ИИ и кибербезопасности, который даёт федеральным ведомствам ранний доступ к самым мощным моделям перед выпуском. Белый дом выбрал более мягкий вариант, чем готовил в мае: вместо добровольной проверки за 90 дней до релиза в финальный текст вошёл доступ на срок до 30 дней.
Документ не вводит лицензирование ИИ-моделей и отдельно запрещает трактовать указ как предварительный государственный допуск. Разработчики смогут добровольно открывать правительству доступ к системам из категории covered frontier model. В эту группу попадут передовые модели с серьёзными кибервозможностями. Федеральные специалисты будут смотреть, какие риски они создают для критической инфраструктуры, национальной безопасности, финансовых систем и защищённых компьютерных сетей.
Трамп подписал указ без привычной публичной церемонии. Накануне в Белом доме прошло закрытое совещание о дальнейшей судьбе документа. К тому моменту администрация уже несколько недель спорила с представителями индустрии о том, как снизить системные риски от новых моделей и не превратить проверку в жёсткий федеральный контроль.
Майская версия выглядела заметно жёстче. Трамп должен был подписать её 21 мая, а на церемонию уже приглашали руководителей крупных технологических компаний. За несколько часов до подписания президент отказался от проекта: в администрации опасались, что ранняя проверка помешает американским разработчикам в гонке с Китаем.
Проект к тому моменту прошёл согласование на высоком уровне и был показан OpenAI, Anthropic и Google. Бывший советник Белого дома по ИИ Дэвид Сакс предупредил Трампа, что процедура может затормозить выпуск новых моделей. Позже Сакс также участвовал в закрытом обсуждении обновлённого варианта указа.
После отказа от майской версии текст переписали, но главную идею сохранили: власти хотят заранее видеть опасные возможности передовых ИИ-систем, не требуя от компаний обязательного разрешения на релиз. Для индустрии это стало важной уступкой. Часть представителей технологического сектора добивалась, чтобы Белый дом вообще не усиливал федеральный надзор за выпуском новых моделей.
Финальный указ запускает закрытый процесс тестирования. Правила должны подготовить Минфин, Пентагон, Агентство национальной безопасности, CISA, Национальный институт стандартов и технологий и другие структуры. NSA получит важную роль в определении порога, после которого модель попадёт под новую политику. Проверки будут засекреченными, потому что кибервозможности передовых ИИ-систем могут интересовать иностранные спецслужбы и преступные группы.
Отдельный раздел посвящён обмену данными о киберугрозах. В течение 30 дней Минфин вместе с национальным кибердиректором, NSA, CISA и представителями отрасли должен создать AI cybersecurity clearinghouse. Через этот механизм разработчики ИИ и операторы критической инфраструктуры смогут вместе искать уязвимости , проверять найденные проблемы, определять срочность исправлений и распространять патчи.
Указ также требует быстрее укрепить государственные сети. Пентагон должен защитить свои информационные системы в течение 30 дней. Федеральные структуры по кибербезопасности подготовят обязательные директивы и рекомендации для гражданских ведомств. Отдельно указ требует облегчить доступ к защитным ИИ-инструментам для федеральных агентств, властей штатов и муниципалитетов, больниц, банков, коммунальных служб и других операторов критической инфраструктуры.
Минюсту поручено активнее преследовать людей и группы, которые используют ИИ для незаконного доступа к компьютерам, повреждения систем или кражи данных. В документе отдельно упомянуты ИИ-агенты: такие инструменты могут помогать при несанкционированном проникновении и дальнейшем использовании украденной информации.
Поводом для спешки стали модели, которые умеют искать уязвимости быстрее обычных специалистов. В исходном материале отдельно упоминается Anthropic Mythos. Исследователи утверждали, что система уже находила давно скрытые проблемы в распространённых компьютерных системах. После апрельского анонса федеральные ведомства начали добиваться доступа к модели, чтобы использовать её для защиты государственных сетей.
Власти США опасаются, что противники страны смогут применять похожие инструменты быстрее, чем защитники будут закрывать найденные дыры. Из-за этого внутри и вокруг правительства росла тревога: часть чиновников и представителей бизнеса считала, что государство реагирует на развитие ИИ слишком медленно и плохо координирует работу с частным сектором.
Администрация уже рассматривала более жёсткий вариант: обязательную федеральную проверку передовых ИИ-моделей. Один из высокопоставленных экономических чиновников сравнивал такую процедуру с проверками лекарств перед выходом на рынок. Белый дом быстро отступил от этой идеи, а финальный указ оставил только добровольный формат.
Критики считают итоговый документ слишком слабым или, наоборот, опасаются, что он станет первым шагом к более тяжёлому надзору. Бывший советник Трампа по ИИ Дин Болл удивился, что в финальном тексте осталось много положений из прежнего проекта, и усомнился, что разведсообщество сможет заметно повысить безопасность моделей за 30 дней. Индустрия получила главный результат: Белый дом не ввёл обязательное предварительное разрешение на выпуск передовых ИИ-систем.
Теперь ведомствам нужно за месяц запустить два процесса: закрытую проверку передовых моделей и центр обмена данными о киберугрозах. Компании сохраняют контроль над релизами, а государство получает шанс заранее увидеть инструменты, которые способны помочь в защите населения.
Дональд Трамп подписал указ об ИИ и кибербезопасности, который даёт федеральным ведомствам ранний доступ к самым мощным моделям перед выпуском. Белый дом выбрал более мягкий вариант, чем готовил в мае: вместо добровольной проверки за 90 дней до релиза в финальный текст вошёл доступ на срок до 30 дней.
Документ не вводит лицензирование ИИ-моделей и отдельно запрещает трактовать указ как предварительный государственный допуск. Разработчики смогут добровольно открывать правительству доступ к системам из категории covered frontier model. В эту группу попадут передовые модели с серьёзными кибервозможностями. Федеральные специалисты будут смотреть, какие риски они создают для критической инфраструктуры, национальной безопасности, финансовых систем и защищённых компьютерных сетей.
Трамп подписал указ без привычной публичной церемонии. Накануне в Белом доме прошло закрытое совещание о дальнейшей судьбе документа. К тому моменту администрация уже несколько недель спорила с представителями индустрии о том, как снизить системные риски от новых моделей и не превратить проверку в жёсткий федеральный контроль.
Майская версия выглядела заметно жёстче. Трамп должен был подписать её 21 мая, а на церемонию уже приглашали руководителей крупных технологических компаний. За несколько часов до подписания президент отказался от проекта: в администрации опасались, что ранняя проверка помешает американским разработчикам в гонке с Китаем.
Проект к тому моменту прошёл согласование на высоком уровне и был показан OpenAI, Anthropic и Google. Бывший советник Белого дома по ИИ Дэвид Сакс предупредил Трампа, что процедура может затормозить выпуск новых моделей. Позже Сакс также участвовал в закрытом обсуждении обновлённого варианта указа.
После отказа от майской версии текст переписали, но главную идею сохранили: власти хотят заранее видеть опасные возможности передовых ИИ-систем, не требуя от компаний обязательного разрешения на релиз. Для индустрии это стало важной уступкой. Часть представителей технологического сектора добивалась, чтобы Белый дом вообще не усиливал федеральный надзор за выпуском новых моделей.
Финальный указ запускает закрытый процесс тестирования. Правила должны подготовить Минфин, Пентагон, Агентство национальной безопасности, CISA, Национальный институт стандартов и технологий и другие структуры. NSA получит важную роль в определении порога, после которого модель попадёт под новую политику. Проверки будут засекреченными, потому что кибервозможности передовых ИИ-систем могут интересовать иностранные спецслужбы и преступные группы.
Отдельный раздел посвящён обмену данными о киберугрозах. В течение 30 дней Минфин вместе с национальным кибердиректором, NSA, CISA и представителями отрасли должен создать AI cybersecurity clearinghouse. Через этот механизм разработчики ИИ и операторы критической инфраструктуры смогут вместе искать уязвимости , проверять найденные проблемы, определять срочность исправлений и распространять патчи.
Указ также требует быстрее укрепить государственные сети. Пентагон должен защитить свои информационные системы в течение 30 дней. Федеральные структуры по кибербезопасности подготовят обязательные директивы и рекомендации для гражданских ведомств. Отдельно указ требует облегчить доступ к защитным ИИ-инструментам для федеральных агентств, властей штатов и муниципалитетов, больниц, банков, коммунальных служб и других операторов критической инфраструктуры.
Минюсту поручено активнее преследовать людей и группы, которые используют ИИ для незаконного доступа к компьютерам, повреждения систем или кражи данных. В документе отдельно упомянуты ИИ-агенты: такие инструменты могут помогать при несанкционированном проникновении и дальнейшем использовании украденной информации.
Поводом для спешки стали модели, которые умеют искать уязвимости быстрее обычных специалистов. В исходном материале отдельно упоминается Anthropic Mythos. Исследователи утверждали, что система уже находила давно скрытые проблемы в распространённых компьютерных системах. После апрельского анонса федеральные ведомства начали добиваться доступа к модели, чтобы использовать её для защиты государственных сетей.
Власти США опасаются, что противники страны смогут применять похожие инструменты быстрее, чем защитники будут закрывать найденные дыры. Из-за этого внутри и вокруг правительства росла тревога: часть чиновников и представителей бизнеса считала, что государство реагирует на развитие ИИ слишком медленно и плохо координирует работу с частным сектором.
Администрация уже рассматривала более жёсткий вариант: обязательную федеральную проверку передовых ИИ-моделей. Один из высокопоставленных экономических чиновников сравнивал такую процедуру с проверками лекарств перед выходом на рынок. Белый дом быстро отступил от этой идеи, а финальный указ оставил только добровольный формат.
Критики считают итоговый документ слишком слабым или, наоборот, опасаются, что он станет первым шагом к более тяжёлому надзору. Бывший советник Трампа по ИИ Дин Болл удивился, что в финальном тексте осталось много положений из прежнего проекта, и усомнился, что разведсообщество сможет заметно повысить безопасность моделей за 30 дней. Индустрия получила главный результат: Белый дом не ввёл обязательное предварительное разрешение на выпуск передовых ИИ-систем.
Теперь ведомствам нужно за месяц запустить два процесса: закрытую проверку передовых моделей и центр обмена данными о киберугрозах. Компании сохраняют контроль над релизами, а государство получает шанс заранее увидеть инструменты, которые способны помочь в защите населения.
- Источник новости
- www.securitylab.ru
