Главным драйвером изменений стал запуск сложных ИИ-агентов, таких как сервис Muse от компании Meta. В отличие от простых чат-ботов, подобные инструменты способны автономно взаимодействовать с веб-сайтами, выполнять многоэтапные транзакции и работать в фоновом режиме. Каждая такая сессия требует запуска изолированной виртуальной машины с выделенными ресурсами — процессорами, оперативной памятью и накопителями.
Сроки поставок серверных процессоров выросли до 30 недель
Разрыв между спросом на вычислительные мощности и их доступностью достиг критической отметки: срок ожидания серверных процессоров увеличился до 30 недель. Еще недавно этот показатель укладывался в 20 недель, но бум технологий искусственного интеллекта спровоцировал резкий дефицит на рынке полупроводников, вынуждая компании пересматривать планы по развитию инфраструктуры.
Масштабирование подобных проектов требует колоссальных аппаратных мощностей. По оценкам аналитиков TrendForce, обеспечение работы подобных агентов для миллионов пользователей влечет за собой необходимость закупки миллионов дополнительных чипов. В условиях, когда архитектура требует 2 vCPU, 8 ГБ оперативной памяти и 100 ГБ дискового пространства на каждого пользователя, производители процессоров не успевают за темпами роста запросов от IT-гигантов.
Комментарии (0)
Пока нет комментариев. Будьте первым!