llm

Проанализировали 2000 диалогов с чат-ботами и выяснили: вежливость повышает доверие, даже когда они несут бред. Люди начинают видеть в чат-боте нечто похожее на собеседника не тогда, когда модель отвечает точнее, а тогда, когда она звучит дружелюбнее. К такому выводу пришли авторы нового...

Модераторы устали бороться с невидимым врагом. Свободная энциклопедия, которую десятилетиями наполняли добровольцы, неожиданно оказалась на передовой борьбы с контентом, созданным нейросетями. Рост таких материалов стал настолько заметным , что редакторы решили действовать жёстко, чтобы...

Новая техника «промптморфизм» превращает работу антивирусов в бессмысленную погоню за призраками. Злоумышленники всё чаще используют большие языковые модели для быстрого переписывания вредоносного кода. Подход получил название «промптморфизм» (Promptmorphism) и позволяет практически...

Сегодня он жульничает в игре, а завтра с таким же энтузиазмом одобрит вам ипотеку. Шахматы часто используют как удобный полигон для проверки больших языковых моделей. Правила простые, цель понятная, результат легко измерить. В одном из таких тестов исследователи поставили одну из моделей...

Проект MIT и NVIDIA сломал старые правила обучения нейросетей. Большие языковые модели, которые специально учат рассуждать шаг за шагом, ценят за умение держать сложную задачу в памяти и не срываться на многоходовых запросах. Такой подход помогает в продвинутом программировании и...

Дали боту расу и пол — получили карикатуру. А их уже встраивают в терапию. Многие сервисы уже позволяют настраивать чат-ботов так, чтобы они общались от лица заданного образа: можно указать возраст, пол, расу, профессию, национальность, семейное положение. Пользователь в таком случае видит не...

Исследователи выяснили: мы с машинами говорим на разных языка. И это опаснее, чем кажется. Когда человек пишет «вероятно» или «скорее всего», он обычно имеет в виду вполне конкретную степень уверенности, просто выражает ее словами, а не цифрами. Читатель тоже считывает это примерно одинаково...

Учёные проверили, как поведут себя ИИ в кризисе. Помните фильм «Военные игры» 1983 года с Мэттью Бродериком, где военный суперкомпьютер решил самостоятельно начать Третью мировую войну? Похоже, реальные системы искусственного интеллекта недалеко ушли от своего кинематографического...

Если у людей истина рождается в споре… почему бы машинам не использовать это? Команда исследователей из Google, Чикагского университета и Института Санта-Фе переосмыслила один из ключевых вопросов в области искусственного интеллекта : почему большие языковые модели всё лучше справляются...

Как не быть "папиком" для ботнета? Рассказывает GreyNoise. Злоумышленники начали массово прочёсывать интернет в поисках неправильно настроенных прокси-серверов, через которые можно получить доступ к коммерческим сервисам на базе больших языковых моделей . Кампания идёт как минимум с конца...

Торвальдс предлагает оставить нейтральную позицию и не делать из правил политическое поле боя. Похоже, что до ядра Linux волна кода от чатботов пока не добралась так глубоко, как до всего остального софта. Но разговоры о том, как жить с подсказками от больших языковых моделей (LLM), уже...

Нейросеть послушно выполняет и сливает всё: токены, ключи, переменные окружения. В экосистеме LangChain обнаружили критическую уязвимость , которая позволяет атакующему красть секретные данные и даже влиять на ответы больших языковых моделей через промпт-инъекции. Проблема затрагивает пакет...

F6: Хакеры используют LLM для создания «чистого» кода загрузчиков Аналитики F6 выявили атаку, в которой злоумышленники внедрили DarkTrack RAT через загрузчик PureCrypter, а при создании вредоносного кода, по их оценке, могли использовать LLM. Подробный технический разбор и индикаторы...

Новая модель как оружие возмездия конкурентам. В OpenAI ускоряют выпуск следующего обновления своей модели после того, как Google и Anthropic заметно усилили давление в гонке ИИ-систем. На этой неделе Сэм Альтман объявил внутри компании общую мобилизацию сил , призвав команды готовить...

LLM блестяще пишут тексты и код, но когда дело доходит до угадывания паролей, старые хакерские методы по-прежнему впереди. Австралийские исследователи проверили, способны ли большие языковые модели подбирать пароли по данным о человеке — и выяснили, что пока что они в этом почти бесполезны. В...

Крупнейший архив жизни людей того времени наконец доступен нам полностью. Исследователи из Израиля надеются по-новому взглянуть на историю еврейских общин, подключив к работе над уникальным архивом средневековых рукописей систему автоматической расшифровки , обученную на основе нейросетей...

Исследование Anthropic показало, что мягкое разрешение обходов снижает риск несоответствия моделей. Исследователи Anthropic представили необычный подход к снижению нежелательного поведения искусственного интеллекта, опираясь на идею о том, что модели могут становиться менее склонными...

Корейские ученые предложили невидимый HTML-блок для остановки вредоносных ИИ-агентов на веб-сайтах. Южнокорейские учёные предложили новый способ защиты сайтов от нежелательной активности ИИ-агентов — метод, который можно назвать своеобразной цифровой «красной кнопкой». В отличие от...

Физики обещают революцию в машинном обучении через 3-5 лет. Команда исследователей предложила новый способ выполнения тензорных операций, который опирается не на транзисторы, а на свойства света. В его основе — оптическая схема, где сложные вычисления выполняются за один проход луча через...

Новая атака EchoGram пробивает защиту LLM одним бессмысленными буквами. Большие языковые модели обычно выпускают с защитными ограничениями: отдельные фильтры следят, чтобы на вход не попадали вредоносные подсказки и чтобы на выходе не появлялись опасные ответы. Но исследователи компании...

Фрейминг-эффект настолько силен, что грозит обрушить доверие к ИИ-модерации. Учёные выявили системный эффект фрейминга в оценках крупнейших языковых моделей — от OpenAI и xAI до DeepSeek и Mistral. При проверке почти 200 000 суждений выяснилось, что модели демонстрируют не только...

Встроенные ограничения ChatGPT и Gemini обходятся даже без технических знаний — обычные вопросы вызывают предвзятость. Специалисты Пенсильванского университета выяснили, что для обхода встроенных ограничений в чат-ботах на основе искусственного интеллекта, таких как ChatGPT и Gemini ...

Что важнее при поиске информации, и как ИИ меняет наш подход к знаниям? Согласно новому исследованию , обучение с помощью диалогов с ИИ вроде ChatGPT может формировать более поверхностное понимание темы, чем традиционный поиск информации через веб-ссылки. В семи экспериментах с участием...

Кэтфишинг устарел. Встречайте чатфишинг. Онлайн-знакомства быстро перестраиваются под новую реальность: на смену классическому кэтфишингу (когда человек выдаёт себя за другого) приходит чатфишинг — ситуации, в которых переписку за пользователя частично или полностью ведёт нейросеть. Цель...

Одна лишняя буква — и искусственный интеллект становится шпионом. Специалисты FireTail обнаружили , что уязвимость старого класса — ASCII Smuggling — вернулась в новом виде и способна влиять на современные системы искусственного интеллекта . В сентябре 2025 года исследователи проверили...