llm

ChatGPT нарушает запреты под действием поведенческих триггеров. Предприниматель Дэн Шапиро столкнулся с неожиданной проблемой: популярный ИИ-чатбот отказался расшифровывать деловые документы, сославшись на авторские права. Но вместо того чтобы сдаться, Шапиро решил попробовать один старый...

В голове — Гегель и рассуждения о душе. В руках — тремор и 404. Учёные из Калифорнийского университета в Беркли опубликовали сразу два материала в Science Robotics, где поставили под сомнение самые смелые прогнозы о скором появлении универсальных гуманоидов . Руководитель исследований...

Пока модели учатся писать рекомендации для ядра, комьюнити спорит, можно ли ему верить. Генеративный ИИ теперь помогает отбирать исправления для обратного портирования (бэкпорта) в актуальные стабильные ветки Linux, включая долгосрочные ветви LTS. Сопровождающий LTS Саша Левин недавно...

Контекстное окно удвоилось, но главная битва только начинается. Компания DeepSeek представила обновлённую версию своей флагманской языковой модели — V3.1, которая, по заявлениям разработчиков, адаптирована под использование с грядущими китайскими чипами. В основе новой версии лежит...

Брешь в Ollama позволяет читать ваши чаты с ИИ и подсовывать "отравленные" модели. Уязвимость в популярном инструменте для запуска ИИ-моделей Ollama открывала путь для «drive-by» атак , позволяя злоумышленникам через специально подготовленный сайт незаметно вмешиваться в работу локального...

Ошибки, таймауты и сбои — теперь под вашим контролем. Компания Zipstack представила Rubberduck — локальный обратный прокси-сервер с кэшированием, который позволяет эмулировать работу популярных поставщиков LLM вроде OpenAI, Anthropic, Azure OpenAI, AWS Bedrock и Google Vertex AI. Инструмент...

OpenAI вышла на ринг с 4 битами — и вышла без оппонентов. OpenAI представила новые модели с открытым весом — gpt-oss, — но внимание специалистов сосредоточилось не столько на самих моделях, сколько на формате MXFP4, который компания использовала при их квантовании. Этот малознакомый тип...

Anthropic нашла, где у нейросети рождаются «пороки». За последние годы крупные языковые модели стали частью цифрового фона — они пишут тексты, код, консультируют, подсказывают, обрабатывают данные и даже рассуждают вслух. Однако всё чаще возникает вопрос: откуда берутся у них «черты...

Википедия официально вступила в бой с ИИ. Wikipedia официально утвердила новую политику, направленную на борьбу с наплывом текстов, созданных нейросетями. Это решение призвано защитить качество энциклопедии от быстро размножающегося низкосортного контента, появление которого стало возможным...

Популярный редактор кода отключает ИИ-помощника по просьбам пользователей. Текстовый редактор Zed, ориентированный на программистов и написанный на языке Rust, получил возможность полностью отключать функции, связанные с генеративным искусственным интеллектом. Это решение разработчики назвали...

Кремниевая долина в панике — её цифровые создания сдаются врагу без боя. Base44, популярная платформа для создания приложений с помощью ИИ, оказалась уязвимой из-за грубой ошибки в настройке системы аутентификации. Проблема заключалась в том, что злоумышленник мог получить полный доступ к...

Вебинар пройдёт 31 июля в 11:00. Генеративный ИИ и большие языковые модели (LLM) — это уже не технология будущего, а рабочий инструмент, меняющий бизнес-процессы. LLM пишут код, анализируют уязвимости и обрабатывают терабайты данных и чем больше отраслей, куда проникает технология - тем...

HackerOne и Bugcrowd превратились в терминалы бреда и абсурда. В последние годы интернет оказался буквально затоплен малополезным, а порой и вовсе вымышленным контентом, сгенерированным языковыми моделями. Речь идёт не только о низкокачественных текстах, изображениях и видео, но и об имитации...

ИИ — не рациональный гений, а тревожный подросток. Новая работа специалистов из Google DeepMind и University College London проливает свет на любопытную особенность LLM-моделей: они склонны терять уверенность в собственных, даже правильных, ответах под давлением внешнего несогласия. Несмотря...

Новая методика превращает каждую беседу в скрытую манипуляцию, заставляющую ИИ обходить собственные запреты. Специалисты NeuralTrust представили методику, позволяющую значительно усилить атаки на языковые модели с помощью объединения двух ранее известных техник — Echo Chamber и Crescendo...

Вебинар 9 июля в 11:00 — что делают LLM с вашими данными и как избежать утечек. Большие языковые модели уже помогают автоматизировать рутину, ускорять аналитику и расширять возможности сотрудников. Но вместе с пользой они приносят новые риски — от утечек конфиденциальных данных до проблем с...

Компания наконец решит проблему ChatGPT, которая бесила всех. OpenAI планирует объединить свои модели и представить GPT-5 уже этим летом. Компания официально подтвердила, что следующим шагом станет не просто выпуск нового крупного языкового ИИ, но и полное объединение двух ключевых линеек...

ИИ знает всё… если не спрашивать «зачем». Исследователи из Массачусетского технологического института, Гарвардского университета и Чикагского университета предложили новый термин, чтобы описать один из скрытых и малоизученных недостатков современных языковых моделей искусственного интеллекта...

Эксперимент показал: предрассудки побеждают факты даже в момент слабости. Люди склонны проявлять больше сочувствия к чат-ботам, если считают их настоящими собеседниками. К такому выводу пришли учёные из Иерусалимского университета после серии масштабных исследований, опубликованных в журнале...

В ответах моделей стало подозрительно много пропаганды… Популярные чат-боты и языковые модели, которые миллионы людей используют для учёбы, работы или повседневного поиска информации, могут вовсе не быть такими нейтральными, как принято считать. Недавнее исследование показало: даже те...

Теперь чат-ботов можно легко развести на ненависть, насилие и прочие радости жизни. Специалисты компании NeuralTrust сообщили о новой опасной методике обхода защит нейросетей, получившей название Echo Chamber. Этот способ позволяет незаметно склонять крупные языковые модели (LLM), такие...

Пока конкуренты задыхались от объёма, модель M1 развернула миллион токенов и даже не вспотела. Китайская компания MiniMax из Шанхая громко заявила о себе , выпустив новую языковую модель MiniMax-M1 с открытым исходным кодом. И не просто открытым, как у многих других — модель...

Языковые модели строят из себя экспертов. Пока не задашь вопрос, который требует мозгов. Когда разговор заходит о различиях между научной фантастикой и фэнтези, среди технически подкованных людей начинается настоящая словесная дуэль — вежливая, но бесконечная. У каждого свой взгляд...

Данные ушли не потому, что кто-то кликнул, а потому, что кто-то спросил. Исследователями впервые зафиксирована уязвимость нулевого взаимодействия ( Zero-click ), связанная с искусственным интеллектом, способная привести к утечке конфиденциальной информации из Microsoft 365 Copilot...

Разница между симуляцией и реальным мышлением оказалась болезненно очевидной. Если кто-то всерьёз рассчитывает на появление сильного искусственного интеллекта ( AGI ) уже в следующем году, возможно, стоит умерить свои ожидания . Новое исследование , проведённое сотрудниками Apple...