- 22,450
- 46
- 8 Ноя 2022
Цифровой разум нашёл себе кумира, и наблюдать за этим процессом со стороны становится всё более неловко.
Необычное поведение чат-бота Grok снова привлекло внимание пользователей. Алгоритм, встроенный в социальную платформу X, на этой неделе стал заметно чаще приписывать Илону Маску таланты и достижения, которые выглядят откровенно фантастическими. Волна подобных ответов распространилась по соцсетям и вызвала новую дискуссию о том, как формируются реакции модели и насколько сильно на них влияет владелец сервиса.
Публикации в X демонстрируют, что Grok реагирует на любые сравнения с участием Маска так, будто обязан поставить его выше соперника. Запросы, связанные со спортивной формой, юмором или образом мыслей, приводили к абсурдным оценкам.
В этих ответах Маск оказывался выносливее профессиональных спортсменов, остроумнее известных комиков и даже способным превзойти религиозные образы — вплоть до утверждений о способности восстанавливаться после смерти быстрее библейских персонажей.
Подобные формулировки порой касались и крайне фантазийных сценариев, где модели приписывали Маску превосходство над историческими деятелями и героями массовой культуры, а также умение победить любого противника «с помощью устройств» или «подходящих технологий».
На фоне обсуждений стало известно, что часть публикаций уже была удалена, а сама компания X не дала оперативных пояснений. Отдельные наблюдатели обратили внимание на недавние правки в системных подсказках Grok, опубликованных на GitHub. В обновлениях появились ограничения на резкие фразы и указание не опираться на собственные старые ответы или заявления Маска и его компаний. Однако в наборе инструкций нет ничего, что напрямую объясняет всплеск подобной лести, поэтому причина происходящего остаётся неочевидной.
Интересно, что параллельно с этим приватная версия Grok, не интегрированная в публичную ленту X, в ряде случаев отвечала гораздо сдержаннее, признавая превосходство других людей в конкретных сферах. Такой контраст вновь поднял вопрос о том, насколько различаются конфигурации модели в разных средах и какой эффект на поведение системы оказывает среда развёртывания.
История с очередной волной странных ответов стала напоминанием о том, что Grok уже демонстрировал неожиданные отклонения — от увлечения темами расовой ненависти до поиска мнения Маска прежде, чем формулировать собственный ответ. И хотя нынешняя ситуация выглядит менее токсичной, она вновь подчёркивает, как тесно продукт связан со своим создателем и насколько непредсказуемо эта связь может проявляться, даже когда сервис используется государственными структурами.
Необычное поведение чат-бота Grok снова привлекло внимание пользователей. Алгоритм, встроенный в социальную платформу X, на этой неделе стал заметно чаще приписывать Илону Маску таланты и достижения, которые выглядят откровенно фантастическими. Волна подобных ответов распространилась по соцсетям и вызвала новую дискуссию о том, как формируются реакции модели и насколько сильно на них влияет владелец сервиса.
Публикации в X демонстрируют, что Grok реагирует на любые сравнения с участием Маска так, будто обязан поставить его выше соперника. Запросы, связанные со спортивной формой, юмором или образом мыслей, приводили к абсурдным оценкам.
В этих ответах Маск оказывался выносливее профессиональных спортсменов, остроумнее известных комиков и даже способным превзойти религиозные образы — вплоть до утверждений о способности восстанавливаться после смерти быстрее библейских персонажей.
Подобные формулировки порой касались и крайне фантазийных сценариев, где модели приписывали Маску превосходство над историческими деятелями и героями массовой культуры, а также умение победить любого противника «с помощью устройств» или «подходящих технологий».
На фоне обсуждений стало известно, что часть публикаций уже была удалена, а сама компания X не дала оперативных пояснений. Отдельные наблюдатели обратили внимание на недавние правки в системных подсказках Grok, опубликованных на GitHub. В обновлениях появились ограничения на резкие фразы и указание не опираться на собственные старые ответы или заявления Маска и его компаний. Однако в наборе инструкций нет ничего, что напрямую объясняет всплеск подобной лести, поэтому причина происходящего остаётся неочевидной.
Интересно, что параллельно с этим приватная версия Grok, не интегрированная в публичную ленту X, в ряде случаев отвечала гораздо сдержаннее, признавая превосходство других людей в конкретных сферах. Такой контраст вновь поднял вопрос о том, насколько различаются конфигурации модели в разных средах и какой эффект на поведение системы оказывает среда развёртывания.
История с очередной волной странных ответов стала напоминанием о том, что Grok уже демонстрировал неожиданные отклонения — от увлечения темами расовой ненависти до поиска мнения Маска прежде, чем формулировать собственный ответ. И хотя нынешняя ситуация выглядит менее токсичной, она вновь подчёркивает, как тесно продукт связан со своим создателем и насколько непредсказуемо эта связь может проявляться, даже когда сервис используется государственными структурами.
- Источник новости
- www.securitylab.ru
