Время Астаны
AI QAZAQSTANKZ · AIБета

Умный портал об искусственном интеллекте и высоких технологиях в Казахстане

← К видеохабу

YouTube • YouTube — IBM Technology AI

Стена памяти искусственного интеллекта: почему программы LLM и ускорители искусственного интеллекта столкнулись с узким местом

вчера

Описание

Привет всем, за последние два десятилетия вычислительные возможности отдельных чипов выросли примерно в 6000 раз. Можно было бы ожидать, что рабочие нагрузки будут выполняться в шесть раз быстрее, но это не так. Часто инженеры, профилируя свои рабочие нагрузки, не видят многого…