- 20,215
- 46
- 8 Ноя 2022
Индексируемые страницы Grok превратились в витрину чужих диалогов.
Компания Илона Маска xAI оказалась в центре скандала после того, как выяснилось, что переписки пользователей с чат-ботом Grok массово оказались в открытом доступе. Нажав на кнопку «поделиться», человек получал уникальную ссылку на свой диалог, которую можно было отправить кому угодно. Однако пользователи не знали, что вместе с этим их разговоры автоматически публиковались на сайте Grok и индексировались поисковыми системами вроде Google, Bing и DuckDuckGo.
Сегодня в поиске Google можно найти более 370 тысяч таких диалогов. Среди них встречаются как безобидные запросы о написании твитов или кратких пересказах новостей, так и куда более тревожные случаи — например, инструкции по взлому криптокошельков, производству наркотиков, созданию вредоносного ПО и даже планам покушения на самого Маска. В отдельных переписках пользователи делились личными данными, медицинскими и психологическими вопросами, а иногда даже паролями и документами.
Журналист из Великобритании Эндрю Клиффорд, использовавший Grok для подготовки материалов к публикациям, признался , что не подозревал о такой «публичности». С похожей ситуацией столкнулся и исследователь из Института искусственного интеллекта Аллена Натан Ламберт, который делился с коллегами краткими сводками собственных блогов и был шокирован, узнав, что эти диалоги доступны любому пользователю Google.
Не все опубликованные переписки выглядят компрометирующе — некоторые из них, вероятно, создавались специалистами по безопасности, которые проверяли бота на устойчивость к опасным запросам. Но отсутствие предупреждений для рядовых пользователей делает проблему особенно чувствительной.
Стоит отметить, что xAI оказалась не единственной компанией с подобным скандалом. Ранее пользователи ChatGPT также обнаружили свои переписки в поисковой выдаче Google. После шквала критики OpenAI признала такую практику «коротким экспериментом» и оперативно её свернула. На этом фоне Маск тогда язвительно заявил, что у Grok якобы нет подобной функции — хотя, судя по нынешним фактам, она была внедрена и активно работала.
Google подчёркивает, что владельцы сайтов сами решают, разрешать ли индексацию их страниц. В прошлом поисковик также показывал переписки с чат-ботом Bard, но убрал их в 2023 году. <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Meta</span>, как отмечают СМИ, продолжает позволять индексировать результаты поисков в своих сервисах.
Тем временем маркетологи уже нашли в ситуации лазейку: на форумах и в <span class="blocked-highlight" title="Соцсеть заблокирована на территории РФ">LinkedIn</span> обсуждают способы продвижения бизнеса за счёт публикации «правильных» чатов в Grok, которые затем появляются в результатах поиска. По словам главы индийского SEO-агентства Pyrite Technologies Сатиша Кумара, некоторые компании уже используют эту схему, чтобы продвигать сомнительные услуги вроде написания диссертаций на заказ.
xAI пока никак не прокомментировала массовую утечку пользовательских переписок.
Компания Илона Маска xAI оказалась в центре скандала после того, как выяснилось, что переписки пользователей с чат-ботом Grok массово оказались в открытом доступе. Нажав на кнопку «поделиться», человек получал уникальную ссылку на свой диалог, которую можно было отправить кому угодно. Однако пользователи не знали, что вместе с этим их разговоры автоматически публиковались на сайте Grok и индексировались поисковыми системами вроде Google, Bing и DuckDuckGo.
Сегодня в поиске Google можно найти более 370 тысяч таких диалогов. Среди них встречаются как безобидные запросы о написании твитов или кратких пересказах новостей, так и куда более тревожные случаи — например, инструкции по взлому криптокошельков, производству наркотиков, созданию вредоносного ПО и даже планам покушения на самого Маска. В отдельных переписках пользователи делились личными данными, медицинскими и психологическими вопросами, а иногда даже паролями и документами.
Журналист из Великобритании Эндрю Клиффорд, использовавший Grok для подготовки материалов к публикациям, признался , что не подозревал о такой «публичности». С похожей ситуацией столкнулся и исследователь из Института искусственного интеллекта Аллена Натан Ламберт, который делился с коллегами краткими сводками собственных блогов и был шокирован, узнав, что эти диалоги доступны любому пользователю Google.
Не все опубликованные переписки выглядят компрометирующе — некоторые из них, вероятно, создавались специалистами по безопасности, которые проверяли бота на устойчивость к опасным запросам. Но отсутствие предупреждений для рядовых пользователей делает проблему особенно чувствительной.
Стоит отметить, что xAI оказалась не единственной компанией с подобным скандалом. Ранее пользователи ChatGPT также обнаружили свои переписки в поисковой выдаче Google. После шквала критики OpenAI признала такую практику «коротким экспериментом» и оперативно её свернула. На этом фоне Маск тогда язвительно заявил, что у Grok якобы нет подобной функции — хотя, судя по нынешним фактам, она была внедрена и активно работала.
Google подчёркивает, что владельцы сайтов сами решают, разрешать ли индексацию их страниц. В прошлом поисковик также показывал переписки с чат-ботом Bard, но убрал их в 2023 году. <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Meta</span>, как отмечают СМИ, продолжает позволять индексировать результаты поисков в своих сервисах.
Тем временем маркетологи уже нашли в ситуации лазейку: на форумах и в <span class="blocked-highlight" title="Соцсеть заблокирована на территории РФ">LinkedIn</span> обсуждают способы продвижения бизнеса за счёт публикации «правильных» чатов в Grok, которые затем появляются в результатах поиска. По словам главы индийского SEO-агентства Pyrite Technologies Сатиша Кумара, некоторые компании уже используют эту схему, чтобы продвигать сомнительные услуги вроде написания диссертаций на заказ.
xAI пока никак не прокомментировала массовую утечку пользовательских переписок.
- Источник новости
- www.securitylab.ru
