Si los datos no están disponibles en el caché, el programa tendrá que recuperarlos de la memoria principal o del almacenamiento más lento. Una vez que se han recuperado los datos, se pueden colocar en la memoria caché para poder acceder a ellos más rápidamente en el futuro.
El tamaño del caché y los datos que almacena generalmente lo determina el sistema operativo o el programa que lo utiliza. La caché suele estar formada por memoria de alta velocidad, como SRAM (memoria estática de acceso aleatorio), a la que se puede acceder mucho más rápidamente que la memoria principal o el almacenamiento.
El almacenamiento en caché es una importante técnica de optimización del rendimiento que puede mejorar significativamente la velocidad y la capacidad de respuesta de los programas informáticos. Se utiliza ampliamente en varios sistemas informáticos, incluidos sistemas operativos, navegadores web y sistemas de bases de datos.