Архивы ускорители

Сроки поставок Nvidia H100 уменьшились до 2–3 месяцев

Alexander02:15 11.04.2024015 просмотров

Портал DigiTimes со ссылкой на заявление директора тайваньского офиса Dell Теренса Ляо (Terence Liao) сообщил, что сроки поставки ИИ-ускорителей Nvidia H100 сократились с 3-4 месяцев до 8–12 недель. Поставщики серверного оборудования отметили, что дефицит ускорителей значительно уменьшился после 2023 года, когда приобрести Nvidia H100 практически не представлялось возможным.

Представлены ускорители для ИИ Intel Gaudi 3

Alexander01:33 10.04.2024015 просмотров

Сегодня в Аризоне прошла выставка Vision 2024, где компания Intel представила новые ИИ-ускорители Gaudi 3, которые позволят обучать нейронки в 1,7 раза быстрее и увеличить производительность инференса на 50%. Сообщается, что ускорители будут на 40% эффективнее текущего лидера рынка в виде NVIDIA H100.

NVIDIA представила ускоритель H100 NVL для языковых моделей по типу ChatGPT

Ancotir20:38 22.03.2023082 просмотров

NVIDIA представила новую вариацию ускорителей Hopper, предназначенную исключительно для больших языковых моделей (LLM), таких как ChatGPT. Технически, H100 NVL это не что иное как два H100, объединённых интерфейсом NVLink Gen4. При этом он обладает 188 ГБ памяти HBM3 по сравнению с 80 ГБ у предшественников и улучшенной производительностью.