Приглашенный доклад 2 на GPGPU 2022

Название: Перепроектирование системы NoC и LLC для графических процессоров Докладчик: Ся Чжао (Академия военных наук) Аннотация: Для обеспечения высокой вычислительной мощности графические процессоры имеют увеличенное количество SM с большим размером LLC и более высокой пропускной способностью памяти. В условиях новых возможностей и вызовов особенно важным становится проектирование масштабируемой и высокопроизводительной системы NoC и LLC. В этом докладе я представлю нашу недавнюю работу, включая проектирование иерархической NoC для графических процессоров, адаптивное кэширование последнего уровня на стороне памяти графического процессора и выборочную репликацию в кэшах графического процессора на стороне памяти. Иерархическая NoC обеспечивает масштабируемую и недорогую сеть межсоединений для соединения SM с LLC и контроллерами памяти, в полной мере используя уникальный шаблон трафика в графических процессорах. Для решения проблемы конкуренции, вызванной одновременным доступом к памяти для одних и тех же общих данных, адаптивный LLC может адаптивно выбирать общий LLC или частный LLC в зависимости от характеристик приложения. В отличие от крупнозернистой репликации данных в адаптивном LLC, селективная репликация позволяет избирательно выбирать степень репликации для уменьшения конкуренции за данные, избегая при этом высокой частоты промахов LLC, вызванных дублированием данных. Все эти решения значительно повышают производительность графического процессора в приложениях с интенсивным использованием данных.