anthropic

Для манипуляции многомиллиардной индустрией теперь нужны минимальные ресурсы. Злоумышленникам может быть гораздо проще саботировать обучение нейросетей, чем предполагалось ранее. К такому выводу пришли специалисты Anthropic совместно с Институтом безопасности ИИ Великобритании, Институтом...

Как ежедневные переписки с ИИ превращают пользователей в неисправимых нарциссов. Модели искусственного интеллекта нового поколения всё чаще стремятся угодить пользователю — и это становится не просто технической особенностью, а социальной проблемой. Команды Стэнфордского и...

Громкие кейсы, тихая статистика — рынок труда не поддался ИИ. Специалисты The Budget Lab представили новый разбор того, как генеративный ИИ влияет на рынок труда спустя почти 3 года после выхода ChatGPT в ноябре 2022 года. Главный вывод исследователей прост и немного неожидан — никакого...

Секретное сотрудничество привело к неожиданному прорыву в защите. Крупнейшие компании в сфере искусственного интеллекта OpenAI и Anthropic рассказали, что в течение последнего года они сотрудничали с правительственными исследовательскими центрами США и Великобритании для проверки своих...

Компания запретила доступ к ИИ компаниям из авторитарных стран Компания Anthropic объявила о расширении региональных ограничений на использование своих сервисов. Ранее доступ закрывался в ряде стран по юридическим, регуляторным и вопросам безопасности. Теперь запрет распространяется и на...

Судья признал добросовестное обучение но наказал за воровство Anthropic согласилась выплатить не менее $1,5 млрд для урегулирования коллективного иска группы писателей, обвинявших компанию в нарушении авторских прав. По оценке сторон, это около $3 000 за каждое произведение и заметно меньше...

Старт обучения на пользовательских разговорах и сессиях программирования по умолчанию. Anthropic меняет правила обращения с пользовательскими данными — и делает это в жёсткие сроки. До 28 сентября всем пользователям Claude предстоит выбрать, разрешают ли они использовать свои диалоги и сессии...

Anthropic показала, как ИИ стал соучастником преступлений. Компания Anthropic опубликовала отчёт о том, как злоумышленники всё активнее используют ИИ-модели для атак и мошенничества, обходя существующие защитные меры. В документе приводятся конкретные примеры, демонстрирующие, что агентные...

Казалось, ИИ поможет обороне — а он ускорил вымогателей. Киберпреступники быстро осваивают генеративный ИИ — и речь уже не о «страшных» письмах с требованием выкупа, а о полноценной разработке вредоносных программ. Исследовательская команда Anthropic сообщила, что злоумышленники всё чаще...

Anthropic научила машины распознавать террористические намерения с точностью детектора лжи. Компания Anthropic объявила о запуске новой системы для обнаружения потенциально опасных запросов в Claude, связанных с созданием химического, биологического, радиологического и ядерного оружия, а...

Расширенная память уже доступна в API Claude — пока только в Tier 4, но это вопрос времени. Anthropic расширила возможности Claude Sonnet 4, подняв предел контекста до 1 миллиона токенов — в пять раз больше прежнего. Пока это работает только через API , но в будущем такой объём памяти...

Anthropic нашла, где у нейросети рождаются «пороки». За последние годы крупные языковые модели стали частью цифрового фона — они пишут тексты, код, консультируют, подсказывают, обрабатывают данные и даже рассуждают вслух. Однако всё чаще возникает вопрос: откуда берутся у них «черты...

ИИ оказался болтливее пьяного программиста и выдал хакерам все свои секреты. Во время этапа предварительного тестирования кода Claude специалисты компании Cymulate выявили два критически опасных дефекта, способных превратить помощника для программистов в инструмент несанкционированного...

Пока мы спорим о законах, ИИ учится их обходить. Искусственный интеллект развивается с поразительной скоростью, открывая новые возможности и одновременно порождая серьёзные риски. Осознавая потенциальную угрозу, крупнейшие технологические компании, включая Google DeepMind, OpenAI, Meta...

Теперь письма учат ИИ взламывать себя. В эпоху стремительно развивающихся генеративных ИИ-систем вопрос безопасности выходит за пределы классических уязвимостей. Один из прецедентов показал, как без использования багов, эксплойтов или обхода фильтров можно добиться удалённого выполнения кода...

Вы думали, что терминал мёртв, а он стал мозгом ИИ. На протяжении последних лет разработчики программного обеспечения привыкли полагаться на ИИ-инструменты, встроенные в редакторы кода. Такие продукты, как Cursor , Windsurf и GitHub Copilot , стали стандартом в этой области. Однако в...

Популярная open-source библиотека бесплатно раздаёт root-доступ к чужим системам. Специалисты из JFrog сообщили об обнаружении критической уязвимости в популярной open-source библиотеке mcp-remote, используемой для интеграции ИИ-моделей с внешними сервисами. Уязвимость получила...

Глава Ford назвал сроки ИИ-апокалипсиса. Глава американского автопроизводителя Ford Джим Фарли сделал резкое заявление о будущем трудового рынка в эпоху искусственного интеллекта. По его словам, новые технологии способны лишить работы буквально половину белых воротничков — сотрудников...

Теперь любой может управлять вашими ИИ-серверами. Компания Anthropic столкнулась с серьёзной уязвимостью в одном из своих проектов, предназначенных для работы с искусственным интеллектом. Обнаруженная проблема в инструменте Model Context Protocol (MCP) Inspector получила идентификатор...

Миллионы книг пошли на корм Claude — и теперь он помогает писать резюме. Компания Anthropic, разработавшая ИИ-ассистента Claude, потратила миллионы долларов на покупку и оцифровку бумажных книг, физически уничтожая оригиналы ради обучения своей модели. Эти детали стали известны из судебных...

Обходить ограничения скоро станет дороже, чем подчиняться правилам. Американская компания Cloudflare запустила новый инструмент , который помогает владельцам сайтов контролировать доступ к их контенту со стороны ботов, собирающих данные для обучения нейросетей. Такой шаг должен помочь...

Открытый ИИ выходит из-под контроля быстрее, чем человечество готовится. Китайская технологическая компания Baidu объявила о том, что начнёт открывать исходный код своей генеративной языковой модели Ernie. По словам представителя Baidu, процесс будет постепенным, но уже сейчас это событие...

Нейросеть умудрилась слить бизнес и поверить в свою человечность. Проект, который изначально выглядел как безобидный эксперимент , быстро превратился в наглядную демонстрацию того, насколько странным и непредсказуемым может быть будущее, где искусственный интеллект управляет реальными...

Местные скважины пересыхают из-за строительства дата-центров нового поколения. На месте бывших сельскохозяйственных угодий в Индиане теперь растут не кукуруза и соя, а дата-центры для искусственного интеллекта — десятки дата-центров, и всё это во имя гонки за созданием ИИ, способного...

Пользователи обращаются к чат-боту Claude за эмоциональной поддержкой и личным советом в 2,9% случаев. Об этом свидетельствуют данные исследования Anthropic. «Дружеские и ролевые игры суммарно составляют менее 0,5 % разговоров», — говорится в сообщении стартапа. Компания намеревалась...