Cache berasal dari kata cash.
Dari istilah tersebut cache adalah tempat menyembunyikan atau tempat menyimpan sementara.
Sesuai definisi tersebut cache memori adalah tempat menyimpan data sementara.
Cara tersebut dimaksudkan untuk meningkatkan transfer data dengan menyimpan data yang pernah diakses pada cache tersebut, sehingga apabila ada data yang ingin diakses adalah data yang sama maka maka akses akan dapat dilakukan lebih cepat.
Cache memori ini adalah memori tipe SDRAM yang memiliki kapasitas terbatas namun memiliki kecepatan yang sangat tinggi dan harga yang lebih mahal dari memori utama. Cache memori ini terletak antara register dan RAM (memori utama) sehingga pemrosesan data tidak langsung mengacu pada memori utama.
Lal pertanyaanya, Mengapa pada saat ini cache memory masih diperlukan di komputer?
Karena kecepatan memori utama sangat rendah dibandingkan dengan kecepatan prosesor modern. Untuk perfoma yang baik, prosesor tidak dapat membuang waktunya dengan menunggu untuk mengskses intruksi dan data pada memory utama. Karenanya, sangat penting untuk memikirkan suatu skema yang mengurangi waktu dalam mengakses informasi. Karena kecepatan unit memori utama dibatasi oleh batasan elektronik dan packaging, maka solusinya harus dicari dalam pengaturan arsitekture yang berbeda. Solusi yang efisien adalah menggunakan memory cache cepat yang sebenarnya membuat memori utama tampak lebih cepat bagi prosesor daripada sebenarnya.
Keefektifan mekanisme cache didasarkan pada property program computer yang disebut locality of reference. Analisa program menunjukan bahwa sebagian besar waktu eksekusinya digunakan untuk rountine, dimana banyak intrksi dieksekusi secara berulangkali.
Instruksi tersebut dapat merupakan loop sederhana,nested loop, atau beberapa prosedur yang berulangkali saling memanggil. Pola detil actual dari rangkaian instruksi tidaklah penting, yang utama adalah banyak intruksi dalam area program yang terlokalisasi dieksekusi berulangkali selama beberapa periode, dan baian program yang lain relatifjarang diakses.
Disebut locality of reference.
Hal ini memanifestasikan dirinnya dalam dua cara :
Temporal dan Spatial.
Berikut penjelasanya...
1. Temporal berarti bahwa instruksi yang baru dieksekusi tampaknya akan dieksekusi lagi segera.
2. Aspek spatial berarti instruksi yang dekat dengan instruksi yang baru saja dieksekusi(mengacu pada alamat instruksi) tampaknya juga akan dieksekusi segera.
Secara konseptual, operasi memori cache sangat sederhana.
Sirkuit control memori didesain untuk memanfaatkan properti locality of reference. Aspek temporal locality of reference menyatakan bajwa kapanpun suatu item informasi pertama kali diprlukan , maka item tersebut sebaiknya dibawa kedalam cache dimana item tersebut akan tetap tinggal hingga diperlukan lagi. Aspek spatial menyatakann daripada mengambil hanya satu item dari memori utama ke cache, akan berguna untuk mengambil beberapa item yang terletak pada alamat yang berdekatan.Istilah yang mengacu pada blok cache adalah jalur cache.