инференс

Что такое LPU и зачем гиганту нужен чужой подход к ускорению вывода токенов. Пока рынок привык к новостям о миллиардах вокруг ИИ, в конце года всплыла сумма, которая выглядит как шутка, но обсуждают ее всерьез. В Сети спорят о сделке , по которой Nvidia якобы заплатила $20 млрд, чтобы...

Инфраструктура искусственного интеллекта меняется прямо сейчас. OpenAI начала использовать чипы Google TPU вместо традиционных видеокарт Nvidia, чтобы снизить затраты и уменьшить зависимость от одного поставщика. По данным Reuters, это первый случай, когда компания арендует вычислительные...