Caching

 

💻 프로젝트 간략 소개

'Cafe-On'은 카페 음료 주문 서비스로,
고객들이 대기 시간으로부터 자유롭게 카페의 다양한 음료를 즐길 수 있도록 도와주는 서비스입니다.

 

🤔특정 카페의 쿠폰 이벤트로 인해 반복적인 메뉴 조회 요청이 예상되는 경우를 고려해보자!

---

✍ 카페 메뉴 조회 기능의 특징

• 카테고리 별로 분류하고 필터링을 통해 사용자가 원하는 항목을 쉽게 찾을 수 있도록 제공.
• 다양한 커피, 음료 메뉴의 가격, 설명, 옵션 리스트 등의 데이터를 포함
• 메뉴 데이터는 변경되는 빈도가 낮음
• 특정 메뉴나 옵션의 재고 상태를 실시간으로 반영하여 품절된 메뉴를 미리 알려줌.

 

☝ 데이터 베이스로 요청을 보낸다면?

다양한 메뉴 항목, 조건을 포함하는 데이터를 여러명이 동시에 요청하게 되면

• 데이터 베이스에 반복적인 요청이 발생하며 트래픽 증가
• 페이지 로딩 속도 저하 및 서버 성능 저하
• 더 많은 리소스 필요로 인한 비용 증가

 

✌이를 대비할 수 있는 다른 방법은 무엇이 있을까?

 

1. 캐싱

캐시영역으로 데이터를 가져와서 접근하는 방식

 

캐시 (Cache) 란?

자주 사용하는 데이터를 특정 공간에 저장해두었다가
같은 요청이 오면 서버에 다시 요청하지않고 저장해놓은 데이터를 빠르게 제공하기 위한 임시 저장소
주기억장치와 CPU 사이에 위치하여, 데이터 접근시간을 최소화한다.

 

 

🚕 활용:

1. 속도 향상 : 원본 데이터에 접근하는데 걸리는 시간 (A)이 캐시에 접근하는 시간(B)보다 오래 걸리는 경우 (A > B)
2. 반복 요청 최적화 : 반복적으로 동일한 결과를 돌려주는 데이터가 많거나 많은 연산이 필요한 경우
3. 부하 분산 : 전체 페이지 또는 페이지의 일부를 캐싱하여 데이터베이스와 서버 부하를 줄이는 경우

 

2. 로드 밸런싱과 스케일링

 

로드 밸런싱 : 요청을 여러 서버에 분산시켜 서버의 부하를 줄이는 기술

스케일링 :

• Scale-out : 서버 인스턴스를 추가하여 시스템의 처리 능력을 확장시키는 방법
• Scale-up : 기존 서버의 하드웨어 리소스를 업그레이드하여 처리 능력을 향상시키는 방법

 

🚕 활용:

1. 성능 요구 환경 : 성능이 요구되는 환경이나 대량의 데이터 처리가 요구되는 환경에서 필요로 함 
2. 확장성 향상 : 시스템의 복잡성은 증가되지만, 확장성과 성능을 크게 향상시킬 수 있음

 

3. 비동기 처리 및 큐

 

작업의 처리 시간을 기준으로 작업을 분리하고,

오래 걸리는 작업을 백그라운드에서 처리하는 동시에 다른 작업을 비동기적으로 처리하여

시스템 전체 응답성을 향상시킨다.

 

이 과정에서 비동기 처리를 위해 메시지 큐를 사용하는데,

메시지 큐는 FIFO 구조를 가지며, 들어온 요청을 임시로 쌓아 두고 순차적으로 처리할 수 있도록 한다.

 

🚕 활용:

1. 작업 분리 : 시간이 많이 걸리는 작업과 빠르게 처리할 수 있는 작업을 분리하여 효율성을 높임
2. 트래픽 관리 :  높은 트래픽 상황에서도 안정성을 유지할 수 있음
3. 리소스 최적화 : 리소스 사용을 최적화하고, 시스템 부하를 분산시킴

 

👍캐시를 선택하게 된 이유

 

* 비용 효율성 

- 서버 인스턴스 추가나 하드웨어 업그레이드가 이루어질 때와 비교하여 비용 대비 효과가 크다.

 

* 신속한 구현과 즉각적인 성능 개선 

- 캐시를 설정하고 인프라를 구성하는 과정이 간편하고, 적용 후 즉각적으로 성능을 개선할 수 있다.

 

* 빠른 응답성

- 메뉴 조회는 실시간 빠른 응답이 필요한데, 

로드 밸런싱은 서버 부하를 줄이는 데는 효과적이고, 비동기 처리는 긴 처리 시간을 필요로 하는 작업에는 효율적이지만

개별 응답 속도를 직접적으로 개선하지는 않으므로 실시간 빠른 응답을 제공하는 캐시가 적합하다.

 

 

* 캐시 전략

1. Cache-Aside

데이터를 조회할 때 캐시에 저장된 데이터가 있는지 우선적으로 확인하는 전략 (Cache hit)

없을 경우 DB에서 데이터 조회한다. (Cache miss)

 

반복적인 읽기가 많은 경우 적합

캐시와 DB가 분리되어있기때문에 원하는 데이터만 캐시에 저장 가능

 

2. Read-Through

 

1. Write-Through

2. Write-Around

3. Write-Behind

 

* 만료( Expiration )기한 전략 

각 데이터에 Time-To-Live를 설정하여 캐시의 수명을 결정한다.

만료 시간을 설정하지 않으면 삭제하지 않는 한 영원히 저장된다.

오래된? / 빈도수?

 

 

 

 

 

----------------------------------------------------------------------------------------------------------------