Cache Hit Rate

Beberapa minggu yang lalu gw dapet request dari user buat naikin cache hit rate. Gw bingung, ehh gimana gimana. Ini kan harusnya issue terkait performance sama architecture yah, specifically cache hit rate yang mau dinaikin adalah CDN cache. Jadilah gw googling googling dan nanya senior sana sini tentang arsitektur web.

Jadi CDN ato Content Delivery Network, adalah semacam server proxy, yang lokasinya lebih deket ke users dibanding origin server. Penggunaan CDN ini bakal naikin performance karena waktu tempuh pengiriman datanya bakal lebih cepet daripada langsung dari origin server.

Nah, pas user pertama kali request content lewat CDN, CDN bakal request dulu ke origin server. Abis itu response dari origin server bakal dikirim ke user, dan CDN juga bakal nyimpen salinan response itu di server doi sendiri sebagai cache.

Nah, jadi hubungannya dengan cache hit rate apa?

Ketika user request content yang udah tersimpan sebagai cache di server CDN, maka statusnya adalah cache hit, artinya cache nya dapet tuh. Kalo ngga ya cache miss. Nah, cache hit ini bisa dihitung measurement nya pake cache hit rate. Makin tinggi cache hit rate nya, makin bagus juga salah satu faktor performance nya.

Kalo kata website cloudflare, cache hit rate tuh dapet dihitung dari jumlah cache hit per total jumlah cache hit dan cache miss. Lengkapnya bisa dicheck disini.

Dari request user ini gw belajar banyak tentang cache untuk arsitektur web skala besar. Next post mungkin gw bakal bahas output cache.

Leave a comment