llm

Как не быть "папиком" для ботнета? Рассказывает GreyNoise. Злоумышленники начали массово прочёсывать интернет в поисках неправильно настроенных прокси-серверов, через которые можно получить доступ к коммерческим сервисам на базе больших языковых моделей . Кампания идёт как минимум с конца...

Торвальдс предлагает оставить нейтральную позицию и не делать из правил политическое поле боя. Похоже, что до ядра Linux волна кода от чатботов пока не добралась так глубоко, как до всего остального софта. Но разговоры о том, как жить с подсказками от больших языковых моделей (LLM), уже...

Нейросеть послушно выполняет и сливает всё: токены, ключи, переменные окружения. В экосистеме LangChain обнаружили критическую уязвимость , которая позволяет атакующему красть секретные данные и даже влиять на ответы больших языковых моделей через промпт-инъекции. Проблема затрагивает пакет...

F6: Хакеры используют LLM для создания «чистого» кода загрузчиков Аналитики F6 выявили атаку, в которой злоумышленники внедрили DarkTrack RAT через загрузчик PureCrypter, а при создании вредоносного кода, по их оценке, могли использовать LLM. Подробный технический разбор и индикаторы...

Новая модель как оружие возмездия конкурентам. В OpenAI ускоряют выпуск следующего обновления своей модели после того, как Google и Anthropic заметно усилили давление в гонке ИИ-систем. На этой неделе Сэм Альтман объявил внутри компании общую мобилизацию сил , призвав команды готовить...

LLM блестяще пишут тексты и код, но когда дело доходит до угадывания паролей, старые хакерские методы по-прежнему впереди. Австралийские исследователи проверили, способны ли большие языковые модели подбирать пароли по данным о человеке — и выяснили, что пока что они в этом почти бесполезны. В...

Крупнейший архив жизни людей того времени наконец доступен нам полностью. Исследователи из Израиля надеются по-новому взглянуть на историю еврейских общин, подключив к работе над уникальным архивом средневековых рукописей систему автоматической расшифровки , обученную на основе нейросетей...

Исследование Anthropic показало, что мягкое разрешение обходов снижает риск несоответствия моделей. Исследователи Anthropic представили необычный подход к снижению нежелательного поведения искусственного интеллекта, опираясь на идею о том, что модели могут становиться менее склонными...

Корейские ученые предложили невидимый HTML-блок для остановки вредоносных ИИ-агентов на веб-сайтах. Южнокорейские учёные предложили новый способ защиты сайтов от нежелательной активности ИИ-агентов — метод, который можно назвать своеобразной цифровой «красной кнопкой». В отличие от...

Физики обещают революцию в машинном обучении через 3-5 лет. Команда исследователей предложила новый способ выполнения тензорных операций, который опирается не на транзисторы, а на свойства света. В его основе — оптическая схема, где сложные вычисления выполняются за один проход луча через...

Новая атака EchoGram пробивает защиту LLM одним бессмысленными буквами. Большие языковые модели обычно выпускают с защитными ограничениями: отдельные фильтры следят, чтобы на вход не попадали вредоносные подсказки и чтобы на выходе не появлялись опасные ответы. Но исследователи компании...

Фрейминг-эффект настолько силен, что грозит обрушить доверие к ИИ-модерации. Учёные выявили системный эффект фрейминга в оценках крупнейших языковых моделей — от OpenAI и xAI до DeepSeek и Mistral. При проверке почти 200 000 суждений выяснилось, что модели демонстрируют не только...

Встроенные ограничения ChatGPT и Gemini обходятся даже без технических знаний — обычные вопросы вызывают предвзятость. Специалисты Пенсильванского университета выяснили, что для обхода встроенных ограничений в чат-ботах на основе искусственного интеллекта, таких как ChatGPT и Gemini ...

Что важнее при поиске информации, и как ИИ меняет наш подход к знаниям? Согласно новому исследованию , обучение с помощью диалогов с ИИ вроде ChatGPT может формировать более поверхностное понимание темы, чем традиционный поиск информации через веб-ссылки. В семи экспериментах с участием...

Кэтфишинг устарел. Встречайте чатфишинг. Онлайн-знакомства быстро перестраиваются под новую реальность: на смену классическому кэтфишингу (когда человек выдаёт себя за другого) приходит чатфишинг — ситуации, в которых переписку за пользователя частично или полностью ведёт нейросеть. Цель...

Одна лишняя буква — и искусственный интеллект становится шпионом. Специалисты FireTail обнаружили , что уязвимость старого класса — ASCII Smuggling — вернулась в новом виде и способна влиять на современные системы искусственного интеллекта . В сентябре 2025 года исследователи проверили...

Ты должна была бороться со злом, а не примкнуть к нему… Американская певица Тейлор Свифт оказалась в центре новой волны споров — фанаты заподозрили её в использовании искусственного интеллекта при продвижении альбома The Life of a Showgirl. Поводом стала масштабная маркетинговая игра...

Можем ли мы верить тому, что читаем? В течение всего лишь двух лет после выхода ChatGPT искусственный интеллект успел стать незаметным соавтором миллионов текстов — от жалоб в финансовые организации до пресс-релизов корпораций и сообщений ООН. Исследование учёных из Стэнфордского университета...

Экономика больших языковых моделей отныне изменится навсегда. Китайская компания DeepSeek представила экспериментальную версию своей языковой модели DeepSeek-V3.2-Exp, в которой впервые реализовала собственный вариант разреженного внимания — техники, позволяющей значительно сократить...

Как LQM-модели изменят мир в ближайшие годы. Учёные и инженеры всё чаще говорят не только о больших языковых моделях, но и о новой категории искусственного интеллекта — LQM (Large Quantitative Models). В отличие от привычных LLM, которые обучаются на текстах из интернета, LQM строятся на...

Хакеры научили нейросеть создавать вредоносный код на лету. Специалисты SentinelLABS обнаружили то, что они называют самым ранним из известных на сегодня образцов вредоносного ПО со встроенными возможностями LLM-моделей — образец получил кодовое имя MalTerminal. В докладе, представленном на...

Раскрыта новая схема атаки через ИИ-ассистентов. Специалисты Unit 42 представили анализ уязвимостей, связанных с использованием помощников для написания кода на основе больших языковых моделей. Эти инструменты встраиваются в IDE наподобие GitHub Copilot и способны выполнять широкий спектр...

Сэм Альтман тонет в ботах, которых сам и породил. Глава OpenAI и акционер Reddit Сэм Альтман заявил, что лента «ИИ-твиттера» и «ИИ-Реддита» стала ощущаться нарочито неестественной — и это стало для него личным сигналом тревоги. Поводом послужили публикации в сабреддите r/Claudecode, где в...

Ваши LLM открыты для любого, кто знает IP-адрес. Специалисты Cisco Talos обнаружили свыше 1100 экземпляров Ollama — фреймворка для локального запуска LLM-моделей — доступных из интернета. Около 20% из них активны и обслуживают модели, уязвимые для несанкционированного доступа, а значит, могут...

ChatGPT нарушает запреты под действием поведенческих триггеров. Предприниматель Дэн Шапиро столкнулся с неожиданной проблемой: популярный ИИ-чатбот отказался расшифровывать деловые документы, сославшись на авторские права. Но вместо того чтобы сдаться, Шапиро решил попробовать один старый...