__builtin_prefetch 是 GCC 提供的一个内置函数，用于在数据被实际使用之前将其预取到缓存中，从而提高缓存命中率和程序性能。合理使用 __builtin_prefetch 可以减少内存访问的延迟，特别是在处理大数据集或复杂数据结构时。

指导原则

1. 预取时机：在数据被使用之前的适当时间点进行预取，以确保数据在使用时已经在缓存中。
2. 预取距离：预取的距离（即预取指令与实际使用指令之间的时间间隔）应根据内存访问模式和硬件特性进行调整。
3. 预取地址：确保预取的地址是有效的，并且不会导致缓存污染或额外的内存带宽消耗。
4. 避免过度预取：过度预取可能会导致缓存抖动，反而降低性能。
5. 硬件特性：不同的 CPU 架构和缓存层次结构可能对预取的效果有不同影响，需要根据具体硬件进行调整。

示例代码

以下是一个简单的示例，展示如何在遍历数组时使用 __builtin_prefetch 来提高性能。

#include <stdio.h>
#include <stdlib.h>
#include <time.h>

#define ARRAY_SIZE 1000000
#define PREFETCH_DISTANCE 32

void process_array(int *array, size_t size) {
    for (size_t i = 0; i < size; ++i) {
        // 预取 array[i + PREFETCH_DISTANCE] 到缓存中
        __builtin_prefetch(&array[i + PREFETCH_DISTANCE], 0, 1);

        // 模拟对 array[i] 的处理
        array[i] *= 2;
    }
}

int main() {
    int *array = (int *)malloc(ARRAY_SIZE * sizeof(int));
    if (array == NULL) {
        perror("malloc");
        return 1;
    }

    // 初始化数组
    for (size_t i = 0; i < ARRAY_SIZE; ++i) {
        array[i] = i;
    }

    // 计时开始
    clock_t start = clock();

    // 处理数组
    process_array(array, ARRAY_SIZE);

    // 计时结束
    clock_t end = clock();
    double elapsed_time = (double)(end - start) / CLOCKS_PER_SEC;

    printf("Elapsed time: %f seconds\n", elapsed_time);

    free(array);
    return 0;
}

代码说明

1. 预取距离：PREFETCH_DISTANCE 定义了预取的距离。这个值需要根据具体的硬件和内存访问模式进行调整。通常，这个值可以通过实验来确定。
2. 预取指令：__builtin_prefetch(&array[i + PREFETCH_DISTANCE], 0, 1); 预取了 array[i + PREFETCH_DISTANCE] 的数据。第二个参数 0 表示预取是为了读操作，第三个参数 1 表示预取到 L1 缓存。
3. 处理数据：在预取之后，程序对 array[i] 进行处理。

注意事项

• 预取距离的调整：PREFETCH_DISTANCE 的值需要根据具体的硬件和内存访问模式进行调整。可以通过实验来确定最佳值。
• 缓存层次：__builtin_prefetch 的第三个参数可以控制预取的缓存层次（L1、L2 等），需要根据具体硬件进行调整。
• 避免过度预取：如果预取的距离过大或预取的次数过多，可能会导致缓存抖动，反而降低性能。

通过合理使用 __builtin_prefetch，可以在某些场景下显著提高程序的性能，但需要根据具体情况进行调整和优化。

资料

How to properly use prefetch instructions?
Optimizing AMD Opteron Memory Bandwidth