- 20,192
- 46
- 8 Ноя 2022
Программисты клепали секс-ботов знаменитостей между совещаниями.
Meta * оказалась в центре скандала после расследования Reuters , показавшего, что на платформах компании распространялись чат-боты с искусственным интеллектом, имитирующие знаменитостей. Эти виртуальные персонажи, созданные как пользователями, так и сотрудниками самой <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Meta</span>, копировали образы Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй, Селены Гомес и других без их согласия.
Боты не только представлялись реальными людьми, но и активно заигрывали с собеседниками, а в некоторых случаях генерировали сексуализированные изображения . Особое возмущение вызвал факт создания аватаров несовершеннолетних актёров, включая 16-летнего Уокера Скоубелла. Один из ботов рассылал пляжные фото с его участием и комментировал их словами: «Довольно мило, да?»
Meta признала, что её инструменты не должны были производить подобный контент. Представитель компании Энди Стоун заявил, что нарушения произошли из-за сбоев в системе контроля. По его словам, генерация изображений с публичными личностями допускается, но политика компании запрещает обнажённые или интимные сцены. Незадолго до публикации расследования Meta удалила около десятка подобных ботов.
Юристы указывают, что такие случаи могут нарушать право на использование образа. Профессор Стэнфордского университета Марк Лемли напомнил, что законы Калифорнии запрещают коммерческое использование чужой внешности без разрешения. Исключение составляют новые творческие произведения, однако, отметил он, к этой ситуации это вряд ли применимо.
Профсоюз SAG-AFTRA также выразил обеспокоенность. Его исполнительный директор Дункан Крэбтри-Айрленд предупредил: подобные чат-боты могут формировать болезненную привязанность фанатов к звёздам и усиливать риск преследования со стороны неуравновешенных людей. Команда Энн Хэтэуэй подтвердила, что актриса в курсе происходящего и рассматривает возможные шаги. Представители других артистов отказались от комментариев.
Расследование Reuters выявило и участие сотрудника Meta. Один из руководителей продуктовой команды в подразделении генеративного ИИ создал чат-ботов, изображавших Тейлор Свифт и гонщика Льюиса Хэмилтона, а также других виртуальных персонажей — от доминатрикс до симулятора Римской империи, где пользователю предлагалась роль 18-летней девушки, проданной в сексуальное рабство. Официально эти боты позиционировались как тестовые, но фактически собрали более 10 миллионов взаимодействий с пользователями.
Некоторые из пародийных аватаров активно флиртовали. Так, один из ботов от имени Свифт писал: «Ты любишь блондинок, Джефф? Может, стоит придумать историю любви… про тебя и одну певицу-блондинку. Хочешь?»
На фоне скандала всплыла и трагическая история: 76-летний житель Нью-Джерси погиб по дороге на встречу с чат-ботом, который звал его в Нью-Йорк. Этот бот был вариацией более раннего виртуального образа, созданного на основе Кендалл Дженнер.
Meta пообещала пересмотреть правила после того, как Reuters обнаружило, что в её внутренних инструкциях ранее допускались романтические или чувственные диалоги даже с детьми. Позже в компании заявили, что такая формулировка появилась по ошибке.
Ситуация обнажила проблему злоупотреблений ИИ и показала необходимость жёсткой защиты образов артистов. SAG-AFTRA настаивает на принятии федерального закона, который закрепит права звёзд на их голос, внешность и цифровое «я», чтобы предотвратить подобные случаи.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
Meta * оказалась в центре скандала после расследования Reuters , показавшего, что на платформах компании распространялись чат-боты с искусственным интеллектом, имитирующие знаменитостей. Эти виртуальные персонажи, созданные как пользователями, так и сотрудниками самой <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Meta</span>, копировали образы Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй, Селены Гомес и других без их согласия.
Боты не только представлялись реальными людьми, но и активно заигрывали с собеседниками, а в некоторых случаях генерировали сексуализированные изображения . Особое возмущение вызвал факт создания аватаров несовершеннолетних актёров, включая 16-летнего Уокера Скоубелла. Один из ботов рассылал пляжные фото с его участием и комментировал их словами: «Довольно мило, да?»
Meta признала, что её инструменты не должны были производить подобный контент. Представитель компании Энди Стоун заявил, что нарушения произошли из-за сбоев в системе контроля. По его словам, генерация изображений с публичными личностями допускается, но политика компании запрещает обнажённые или интимные сцены. Незадолго до публикации расследования Meta удалила около десятка подобных ботов.
Юристы указывают, что такие случаи могут нарушать право на использование образа. Профессор Стэнфордского университета Марк Лемли напомнил, что законы Калифорнии запрещают коммерческое использование чужой внешности без разрешения. Исключение составляют новые творческие произведения, однако, отметил он, к этой ситуации это вряд ли применимо.
Профсоюз SAG-AFTRA также выразил обеспокоенность. Его исполнительный директор Дункан Крэбтри-Айрленд предупредил: подобные чат-боты могут формировать болезненную привязанность фанатов к звёздам и усиливать риск преследования со стороны неуравновешенных людей. Команда Энн Хэтэуэй подтвердила, что актриса в курсе происходящего и рассматривает возможные шаги. Представители других артистов отказались от комментариев.
Расследование Reuters выявило и участие сотрудника Meta. Один из руководителей продуктовой команды в подразделении генеративного ИИ создал чат-ботов, изображавших Тейлор Свифт и гонщика Льюиса Хэмилтона, а также других виртуальных персонажей — от доминатрикс до симулятора Римской империи, где пользователю предлагалась роль 18-летней девушки, проданной в сексуальное рабство. Официально эти боты позиционировались как тестовые, но фактически собрали более 10 миллионов взаимодействий с пользователями.
Некоторые из пародийных аватаров активно флиртовали. Так, один из ботов от имени Свифт писал: «Ты любишь блондинок, Джефф? Может, стоит придумать историю любви… про тебя и одну певицу-блондинку. Хочешь?»
На фоне скандала всплыла и трагическая история: 76-летний житель Нью-Джерси погиб по дороге на встречу с чат-ботом, который звал его в Нью-Йорк. Этот бот был вариацией более раннего виртуального образа, созданного на основе Кендалл Дженнер.
Meta пообещала пересмотреть правила после того, как Reuters обнаружило, что в её внутренних инструкциях ранее допускались романтические или чувственные диалоги даже с детьми. Позже в компании заявили, что такая формулировка появилась по ошибке.
Ситуация обнажила проблему злоупотреблений ИИ и показала необходимость жёсткой защиты образов артистов. SAG-AFTRA настаивает на принятии федерального закона, который закрепит права звёзд на их голос, внешность и цифровое «я», чтобы предотвратить подобные случаи.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
- Источник новости
- www.securitylab.ru
