Performance

On peut évaluer la peformance d'une mémoire utilisant un cache par le calcul du temps d'accès mémoire moyen :

temps d'accès mémoire moyen =	temps d'accès succès
	+ taux d'échec $\times$ pénalité d'échec

temps d'accès succès = temps d'accès à une donnée résidant dans le cache

taux d'échec = nombre de défaut de cache / nombre d'accès cache

Exemple : lors de l'exécution d'une instruction, le processeur prend du temps pour la décoder, accéder aux données en mémoire nécessitées par cette insstruction, et déclencher les opérations sur ces données. Voici le cas suivant :

durée d'un cycle horloge	: $\tau$
pénalité d'échec	: 10 cycles
durée d'une instruction (sans référence mémoire)	: 2 cycles
nombre de références mémoire par instruction	: 1,33
taux d'échec	: 2%
temps d'accès succés	: négligeable

temps d'éxécution moyen d'une instruction = $(2 + 1,33 \times 2\% \times 10 \times) \tau = 2,27 \tau$

et dans le cas où il n'y a pas de cache, ce temps passe à :

temps d'exécution moyen d'une instruction = $(2 + 1,33 \times 10) = 15,3 \tau$