Chips and Cheese решили измерить задержку памяти графических процессоров последнего поколения видеокарт — AMD RDNA 2 и NVIDIA Ampere. Тестирование поиска указателей в OpenCL показало интересные результаты.
Видеокарты разрабатывались годами, поэтому имеют многоуровневую иерархию кэш-памяти. Данные уровни кэша были разработаны, чтобы заполнить пробел между памятью и вычислениями — растущую проблему, которая снижает производительность графических процессоров во многих приложениях.
Поставщики чипов, такие как AMD и NVIDIA, имеют разные размеры файлов регистров, кэшей L1 и L2 в зависимости от архитектуры. Например, объем кэш-памяти второго уровня на графическом процессоре NVIDIA A100 составляет 40 МБ, что в семь раз больше по сравнению с предыдущим поколением V100. Это показывает, насколько новым приложениям требуется больший размер кэша, который постоянно увеличивается.
Кэш чипа RDNA 2 быстрый и массивный. По сравнению с Ampere, задержка кэша намного ниже, а задержка VRAM примерно та же. NVIDIA использует двухуровневую систему кеширования, состоящую из L1 и L2, что кажется довольно медленным решением. Данные тестирования, поступающие от Ampere имеют задержку более 100 ns.
AMD RDNA 2 имеет трехуровневую систему кеширования. Существуют уровни кэша L0, L1 и L2. Задержка между L0 и L2, несмотря на средний L1, составляет всего 66 ns. Infinity Cache, который по сути является кэшем L3, добавляет лишь 20 ns дополнительной задержки, что делает его еще быстрее по сравнению с решениями NVIDIA. Массивный кристалл NVIDIA GA102, представляет большую проблему кэш-памяти второго уровня и требуется множество циклов.
Помимо этого, было проведено сравнительное тестирование задержки памяти предыдущих поколений видеокарт AMD и NVIDIA:
Источник: Chips and Cheese
