claude

Архив переписок с ИИ превращается в карту для кибератак. Исследователь под псевдонимом dead1nfluence обнаружил, что в Internet Archive находятся более 130 000 зафиксированных переписок с популярными чат-ботами — включая Claude, Grok, ChatGPT и другие. Это означает, что при некорректных...

Anthropic нашла, где у нейросети рождаются «пороки». За последние годы крупные языковые модели стали частью цифрового фона — они пишут тексты, код, консультируют, подсказывают, обрабатывают данные и даже рассуждают вслух. Однако всё чаще возникает вопрос: откуда берутся у них «черты...

ИИ оказался болтливее пьяного программиста и выдал хакерам все свои секреты. Во время этапа предварительного тестирования кода Claude специалисты компании Cymulate выявили два критически опасных дефекта, способных превратить помощника для программистов в инструмент несанкционированного...

Kodane намеренно оставляет мелочь в кошельках жертв, чтобы хватило на оплату комиссии. Вредоносный пакет в экосистеме NPM, обнаруженный специалистами компании Safety, оказался не просто троянцем для кражи криптовалют, а примером атаки, созданной с широкой помощью искусственного...

Кремниевая долина в панике — её цифровые создания сдаются врагу без боя. Base44, популярная платформа для создания приложений с помощью ИИ, оказалась уязвимой из-за грубой ошибки в настройке системы аутентификации. Проблема заключалась в том, что злоумышленник мог получить полный доступ к...

Исследование показало: в мире ИИ добрые алгоритмы всегда проигрывают злым. Новая работа учёных из Оксфордского университета и Королевского колледжа Лондона показала , что ведущие языковые модели от OpenAI , Google и Anthropic по-разному ведут себя в условиях конфликта интересов. Используя...

Вы думали, что терминал мёртв, а он стал мозгом ИИ. На протяжении последних лет разработчики программного обеспечения привыкли полагаться на ИИ-инструменты, встроенные в редакторы кода. Такие продукты, как Cursor , Windsurf и GitHub Copilot , стали стандартом в этой области. Однако в...

Объективное время выполнения задач увеличилось, несмотря на субъективное ощущение пользы. Искусственный интеллект, вопреки ожиданиям, может не ускорять, а замедлять разработку программного обеспечения. К такому выводу пришли исследователи из некоммерческой организации Model Evaluation &...

Вебинар 9 июля в 11:00 — что делают LLM с вашими данными и как избежать утечек. Большие языковые модели уже помогают автоматизировать рутину, ускорять аналитику и расширять возможности сотрудников. Но вместе с пользой они приносят новые риски — от утечек конфиденциальных данных до проблем с...

Миллионы книг пошли на корм Claude — и теперь он помогает писать резюме. Компания Anthropic, разработавшая ИИ-ассистента Claude, потратила миллионы долларов на покупку и оцифровку бумажных книг, физически уничтожая оригиналы ради обучения своей модели. Эти детали стали известны из судебных...

Нейросеть умудрилась слить бизнес и поверить в свою человечность. Проект, который изначально выглядел как безобидный эксперимент , быстро превратился в наглядную демонстрацию того, насколько странным и непредсказуемым может быть будущее, где искусственный интеллект управляет реальными...

Чат-боты уже довели людей до увольнений и разводов. Незаметное увлечение виртуальными собеседниками всё чаще перерастает в серьёзную психологическую зависимость, которая разрушает привычную жизнь. Всё больше людей признаются, что не могут оторваться от общения с чат-ботами, а последствия...

Понятие Fair Use стало камнем преткновения в борьбе за авторские права. В США принято одно из первых решений по резонансным искам против разработчиков нейросетей, где рассматривается, насколько законно компании используют пиратские книги для обучения искусственного интеллекта. Федеральный...

ИИ-багхантеры очень скоро отнимут работу у живых специалистов. Новый этап в автоматизации поиска уязвимостей был достигнут благодаря интеграции чат-бота Claude с инструментами обратной разработки. Команда специалистов из TrustedSec реализовала уникальный подход , в котором искусственный...

Всё началось с простого запроса от бота — а закончилось иском на миллиарды. Компания Reddit подала в суд на Anthropic, обвинив в незаконном использовании пользовательского контента с платформы для обучения искусственного интеллекта. Согласно иску, поданному в Верховный суд Сан-Франциско...

Ты просишь помощи у ИИ — а он сам создает PR с утечкой. GitHub столкнулся с серьёзной уязвимостью в системе интеграции MCP, которая позволяет злоумышленникам получать доступ к данным из приватных репозиториев. Проблема обнаружена командой Invariant. Уязвимость особенно опасна в условиях...

Что будет, если ИИ заставят программировать 7 часов подряд? В Anthropic проверили. И удивились. Компания Anthropic выпустила два новых языковых помощника четвёртого поколения: Claude Sonnet 4 и Claude Opus 4. Запуск прошёл 22 мая, причём младшая модель стала доступна бесплатным пользователям...

Тест показал пределы ИИ на реальных задачах с Kaggle. ИИ пока не может заменить фрилансеров-программистов — но всё ближе к этому. Исследователи из компании PeopleTec сравнили, как четыре языковые модели справляются с задачами, типичными для бирж вроде Freelancer.com. Оказалось, что даже...

Языковые модели превращают науку в самоуверенный бред. А мы не замечаем… Исследователи из Утрехтского университета и британско-канадской научной группы обнаружили серьёзную проблему : крупные языковые модели в 73% случаев искажают суть научных работ. Уве Петерс и Бенджамин Чин-Йи целый год...

Ты продуктивен с ИИ, но для начальника — просто хитрый бездельник. На первый взгляд, искусственный интеллект кажется идеальным помощником: он экономит время, ускоряет процессы и снимает рутину с плеч офисных работников. Однако новое исследование учёных из Университета Дьюка показывает, что за...

Искусственный сценарист всегда точно знает, когда пошутить и с кем поспорить. Неизвестные злоумышленники использовали популярную нейросеть Claude в рамках масштабной кампании по скрытому влиянию в социальных сетях. По данным специалистов из Anthropic, с помощью искусственного интеллекта...

Теперь злоумышленникам не нужен пароль — достаточно одного скрытого запроса. В условиях стремительного развития технологий искусственного интеллекта специалисты всё чаще обращают внимание на слабые места новых протоколов взаимодействия. Один из таких случаев связан с Model Context Protocol (...

Как из одного запроса сделать дыру в защите ИИ. Одна из ключевых тем безопасности в области ИИ снова оказалась в центре внимания после выявления двух системных методов обхода защитных механизмов в популярных генеративных сервисах. Новые уязвимости, получившие названия «Inception» и...

Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...

Как XML и JSON удалось сломать моральный компас ChatGPT и его конкурентов. Специалисты компании HiddenLayer обнаружили универсальную уязвимость в крупнейших языковых моделях искусственного интеллекта. Простой текстовый запрос позволяет обойти все защитные механизмы и заставить нейросети...