- 27,154
- 46
- 8 Ноя 2022
IT-корпорациям навязали правила игры, которые практически невозможно соблюсти.
Индия решила резко ускорить борьбу с дипфейками и другим незаконным синтетическим контентом, что означает для глобальных социальных сетей жёсткую проверку на прочность уже в ближайшие дни. Новые требования вступают в силу 20 февраля, а значит сервисам предстоит за считаные дни выстроить маркировку и более жёсткую модерацию материалов, созданных или изменённых с помощью ИИ, чтобы не попасть под штраф.
Речь идёт об обновлении индийских правил в сфере информационных технологий, которые обязывают цифровые платформы применять «разумные и уместные технические меры», чтобы пользователи не публиковали и не распространяли незаконные ИИ-ролики и аудиозаписи.
Если такой контент не блокируется, он должен сопровождаться механизмами для выявления происхождения, например, постоянными метаданными, позволяющими понять, как именно материал был создан или отредактирован. Для соцсетей отдельно прописаны требования к самодекларации, проверке таких отметок и заметной маркировке , чтобы синтетическое происхождение было очевидно сразу, включая голосовые пометки для ИИ-аудио.
На практике выполнить это требование непросто. Даже наиболее продвинутые подходы к атрибуции, такие как C2PA, опираются на метаданные, которые добавляются в момент создания или редактирования. Крупные компании уже внедряют этот стандарт, но он не закрывает проблему полностью.
Метки нередко остаются малозаметными, часть материалов с нужными метаданными теряется, а синтетический контент из открытых моделей или приложений, которые игнорируют добровольные стандарты, изначально не содержит признаков происхождения. Дополнительная боль — совместимость и сохранность данных, поскольку метаданные легко удалить, а некоторые платформы способны случайно «срезать» их при загрузке файлов. При этом индийские требования настаивают, что маркировку и метаданные нельзя скрывать, менять или удалять.
Страны с большой аудиторией задают тон для всей индустрии, и Индия здесь особенно важна: интернетом там пользуется около 1 млрд человек. По данным DataReportal, на индийском рынке насчитывается порядка 500 млн пользователей YouTube , 481 млн Instagram*, 403 млн <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span>* и 213 млн Snapchat, а X называют третьим по величине рынком для платформы.
Давление также усиливает ещё одна норма: срок удаления незаконных материалов сокращён до 3 часов с момента обнаружения или жалобы вместо прежних 36 часов. В Internet Freedom Foundation считают , что такой темп подталкивает платформы к автоматическому и избыточному удалению без полноценной человеческой проверки .
При этом сами формулировки индийских поправок допускают внедрение механизмов выявления происхождения «в пределах технической реализуемости», что косвенно признаёт незрелость текущих технологий детектирования и маркировки. Для индустрии это превращается в короткий, но показательный тест: либо инструменты атрибуции начнут работать заметно лучше, либо платформам придётся публично признать необходимость новых подходов.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Индия решила резко ускорить борьбу с дипфейками и другим незаконным синтетическим контентом, что означает для глобальных социальных сетей жёсткую проверку на прочность уже в ближайшие дни. Новые требования вступают в силу 20 февраля, а значит сервисам предстоит за считаные дни выстроить маркировку и более жёсткую модерацию материалов, созданных или изменённых с помощью ИИ, чтобы не попасть под штраф.
Речь идёт об обновлении индийских правил в сфере информационных технологий, которые обязывают цифровые платформы применять «разумные и уместные технические меры», чтобы пользователи не публиковали и не распространяли незаконные ИИ-ролики и аудиозаписи.
Если такой контент не блокируется, он должен сопровождаться механизмами для выявления происхождения, например, постоянными метаданными, позволяющими понять, как именно материал был создан или отредактирован. Для соцсетей отдельно прописаны требования к самодекларации, проверке таких отметок и заметной маркировке , чтобы синтетическое происхождение было очевидно сразу, включая голосовые пометки для ИИ-аудио.
На практике выполнить это требование непросто. Даже наиболее продвинутые подходы к атрибуции, такие как C2PA, опираются на метаданные, которые добавляются в момент создания или редактирования. Крупные компании уже внедряют этот стандарт, но он не закрывает проблему полностью.
Метки нередко остаются малозаметными, часть материалов с нужными метаданными теряется, а синтетический контент из открытых моделей или приложений, которые игнорируют добровольные стандарты, изначально не содержит признаков происхождения. Дополнительная боль — совместимость и сохранность данных, поскольку метаданные легко удалить, а некоторые платформы способны случайно «срезать» их при загрузке файлов. При этом индийские требования настаивают, что маркировку и метаданные нельзя скрывать, менять или удалять.
Страны с большой аудиторией задают тон для всей индустрии, и Индия здесь особенно важна: интернетом там пользуется около 1 млрд человек. По данным DataReportal, на индийском рынке насчитывается порядка 500 млн пользователей YouTube , 481 млн Instagram*, 403 млн <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span>* и 213 млн Snapchat, а X называют третьим по величине рынком для платформы.
Давление также усиливает ещё одна норма: срок удаления незаконных материалов сокращён до 3 часов с момента обнаружения или жалобы вместо прежних 36 часов. В Internet Freedom Foundation считают , что такой темп подталкивает платформы к автоматическому и избыточному удалению без полноценной человеческой проверки .
При этом сами формулировки индийских поправок допускают внедрение механизмов выявления происхождения «в пределах технической реализуемости», что косвенно признаёт незрелость текущих технологий детектирования и маркировки. Для индустрии это превращается в короткий, но показательный тест: либо инструменты атрибуции начнут работать заметно лучше, либо платформам придётся публично признать необходимость новых подходов.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
