всяких говорят мол у вектора лучше локальность Кеша потому что память для этой структуры это непрерывный блок в виде одной аллокации. Но локальность кеша это же чисто хардварный концепт , как и непрерывный блок памяти. К тому же процесс в юзерспейсе понятия не имеет о картине памяти в железе. То есть виртуальная память может и выглядеть непрерывной но физические маппинги могут отличаться. На сколько я понял у такой структуры лучше кеш локалити как раз из за хардварного механизма чтения памяти , что по факту получаем халявно следующую кеш линию если читаем последовательно . Вопрос является ли вектор физически непрерывным и если да то каким образом юзерспейс код stl может это имплементировать?
Во-первых, все чтения из памяти происходят 64 байтными кусками, даже если вам нужен всего один байт. Поэтому, если мы сделали одно чтение из 64байтной кэш-линии, то следующие чтения из нее подряд будут стоить очень дёшево. Во-вторых, виртуальная память отображается в физическую непрерывными страницами по 4кб, и нужно постоянно по виртуальному адресу находить физический адрес в памяти. Если чтения происходят внутри страницы, то TLB cache позволит нам находить нужный физический адрес гораздо быстрее. В-третьих, процессору проще предугадать, что нам понадобится в будущем, если мы идём по адресам в понятном порядке, как разложены элементы в векторе. Наверняка, еще есть и в-четвертых, и в-пятых…
Обсуждают сегодня