llm

LLM блестяще пишут тексты и код, но когда дело доходит до угадывания паролей, старые хакерские методы по-прежнему впереди. Австралийские исследователи проверили, способны ли большие языковые модели подбирать пароли по данным о человеке — и выяснили, что пока что они в этом почти бесполезны. В...

Крупнейший архив жизни людей того времени наконец доступен нам полностью. Исследователи из Израиля надеются по-новому взглянуть на историю еврейских общин, подключив к работе над уникальным архивом средневековых рукописей систему автоматической расшифровки , обученную на основе нейросетей...

Исследование Anthropic показало, что мягкое разрешение обходов снижает риск несоответствия моделей. Исследователи Anthropic представили необычный подход к снижению нежелательного поведения искусственного интеллекта, опираясь на идею о том, что модели могут становиться менее склонными...

Корейские ученые предложили невидимый HTML-блок для остановки вредоносных ИИ-агентов на веб-сайтах. Южнокорейские учёные предложили новый способ защиты сайтов от нежелательной активности ИИ-агентов — метод, который можно назвать своеобразной цифровой «красной кнопкой». В отличие от...

Физики обещают революцию в машинном обучении через 3-5 лет. Команда исследователей предложила новый способ выполнения тензорных операций, который опирается не на транзисторы, а на свойства света. В его основе — оптическая схема, где сложные вычисления выполняются за один проход луча через...

Новая атака EchoGram пробивает защиту LLM одним бессмысленными буквами. Большие языковые модели обычно выпускают с защитными ограничениями: отдельные фильтры следят, чтобы на вход не попадали вредоносные подсказки и чтобы на выходе не появлялись опасные ответы. Но исследователи компании...

Фрейминг-эффект настолько силен, что грозит обрушить доверие к ИИ-модерации. Учёные выявили системный эффект фрейминга в оценках крупнейших языковых моделей — от OpenAI и xAI до DeepSeek и Mistral. При проверке почти 200 000 суждений выяснилось, что модели демонстрируют не только...

Встроенные ограничения ChatGPT и Gemini обходятся даже без технических знаний — обычные вопросы вызывают предвзятость. Специалисты Пенсильванского университета выяснили, что для обхода встроенных ограничений в чат-ботах на основе искусственного интеллекта, таких как ChatGPT и Gemini ...

Что важнее при поиске информации, и как ИИ меняет наш подход к знаниям? Согласно новому исследованию , обучение с помощью диалогов с ИИ вроде ChatGPT может формировать более поверхностное понимание темы, чем традиционный поиск информации через веб-ссылки. В семи экспериментах с участием...

Кэтфишинг устарел. Встречайте чатфишинг. Онлайн-знакомства быстро перестраиваются под новую реальность: на смену классическому кэтфишингу (когда человек выдаёт себя за другого) приходит чатфишинг — ситуации, в которых переписку за пользователя частично или полностью ведёт нейросеть. Цель...

Одна лишняя буква — и искусственный интеллект становится шпионом. Специалисты FireTail обнаружили , что уязвимость старого класса — ASCII Smuggling — вернулась в новом виде и способна влиять на современные системы искусственного интеллекта . В сентябре 2025 года исследователи проверили...

Ты должна была бороться со злом, а не примкнуть к нему… Американская певица Тейлор Свифт оказалась в центре новой волны споров — фанаты заподозрили её в использовании искусственного интеллекта при продвижении альбома The Life of a Showgirl. Поводом стала масштабная маркетинговая игра...

Можем ли мы верить тому, что читаем? В течение всего лишь двух лет после выхода ChatGPT искусственный интеллект успел стать незаметным соавтором миллионов текстов — от жалоб в финансовые организации до пресс-релизов корпораций и сообщений ООН. Исследование учёных из Стэнфордского университета...

Экономика больших языковых моделей отныне изменится навсегда. Китайская компания DeepSeek представила экспериментальную версию своей языковой модели DeepSeek-V3.2-Exp, в которой впервые реализовала собственный вариант разреженного внимания — техники, позволяющей значительно сократить...

Как LQM-модели изменят мир в ближайшие годы. Учёные и инженеры всё чаще говорят не только о больших языковых моделях, но и о новой категории искусственного интеллекта — LQM (Large Quantitative Models). В отличие от привычных LLM, которые обучаются на текстах из интернета, LQM строятся на...

Хакеры научили нейросеть создавать вредоносный код на лету. Специалисты SentinelLABS обнаружили то, что они называют самым ранним из известных на сегодня образцов вредоносного ПО со встроенными возможностями LLM-моделей — образец получил кодовое имя MalTerminal. В докладе, представленном на...

Раскрыта новая схема атаки через ИИ-ассистентов. Специалисты Unit 42 представили анализ уязвимостей, связанных с использованием помощников для написания кода на основе больших языковых моделей. Эти инструменты встраиваются в IDE наподобие GitHub Copilot и способны выполнять широкий спектр...

Сэм Альтман тонет в ботах, которых сам и породил. Глава OpenAI и акционер Reddit Сэм Альтман заявил, что лента «ИИ-твиттера» и «ИИ-Реддита» стала ощущаться нарочито неестественной — и это стало для него личным сигналом тревоги. Поводом послужили публикации в сабреддите r/Claudecode, где в...

Ваши LLM открыты для любого, кто знает IP-адрес. Специалисты Cisco Talos обнаружили свыше 1100 экземпляров Ollama — фреймворка для локального запуска LLM-моделей — доступных из интернета. Около 20% из них активны и обслуживают модели, уязвимые для несанкционированного доступа, а значит, могут...

ChatGPT нарушает запреты под действием поведенческих триггеров. Предприниматель Дэн Шапиро столкнулся с неожиданной проблемой: популярный ИИ-чатбот отказался расшифровывать деловые документы, сославшись на авторские права. Но вместо того чтобы сдаться, Шапиро решил попробовать один старый...

В голове — Гегель и рассуждения о душе. В руках — тремор и 404. Учёные из Калифорнийского университета в Беркли опубликовали сразу два материала в Science Robotics, где поставили под сомнение самые смелые прогнозы о скором появлении универсальных гуманоидов . Руководитель исследований...

Пока модели учатся писать рекомендации для ядра, комьюнити спорит, можно ли ему верить. Генеративный ИИ теперь помогает отбирать исправления для обратного портирования (бэкпорта) в актуальные стабильные ветки Linux, включая долгосрочные ветви LTS. Сопровождающий LTS Саша Левин недавно...

Контекстное окно удвоилось, но главная битва только начинается. Компания DeepSeek представила обновлённую версию своей флагманской языковой модели — V3.1, которая, по заявлениям разработчиков, адаптирована под использование с грядущими китайскими чипами. В основе новой версии лежит...

Брешь в Ollama позволяет читать ваши чаты с ИИ и подсовывать "отравленные" модели. Уязвимость в популярном инструменте для запуска ИИ-моделей Ollama открывала путь для «drive-by» атак , позволяя злоумышленникам через специально подготовленный сайт незаметно вмешиваться в работу локального...

Ошибки, таймауты и сбои — теперь под вашим контролем. Компания Zipstack представила Rubberduck — локальный обратный прокси-сервер с кэшированием, который позволяет эмулировать работу популярных поставщиков LLM вроде OpenAI, Anthropic, Azure OpenAI, AWS Bedrock и Google Vertex AI. Инструмент...