쇼핑몰을 운영한다고 가정하자.
관리자가 어떤 상품의 가격을 50,000원에서 40,000원으로 변경했다.
데이터베이스에서도 변경된 가격이 정상적으로 확인된다.
그런데 이상한 일이 발생했다.
관리자 화면에는 40,000원이 표시되는데, 일부 사용자의 화면에는 여전히 50,000원이 나타나는 것이다.
처음에는 프론트엔드 문제라고 생각할 수 있다.
하지만 실제 원인은 서버의 캐시(Cache)일 수도 있다.
데이터베이스에는 최신 정보가 저장되어 있는데, 왜 서버는 오래된 정보를 반환하는 걸까?
이 문제를 이해하려면 캐싱의 목적과 데이터 일관성을 살펴봐야 한다.
1. 캐시는 왜 필요할까?
웹 서비스에서 같은 데이터를 반복적으로 조회하는 상황을 생각해 보자.
인기 상품의 상세 페이지에 1만 명의 사용자가 접속한다.
모든 요청이 데이터베이스로 전달된다면 DB에는 많은 조회 부하가 발생할 것이다.
사용자 A ──┐
사용자 B ──┤
사용자 C ──┼──→ Database
사용자 D ──┤
사용자 E ──┘
이때 자주 사용하는 데이터를 더 빠르게 접근할 수 있는 저장 공간에 보관하면 어떨까?
그것이 캐시의 기본 아이디어다.
사용자 요청
|
▼
Cache
|
├── 데이터 있음 → 바로 반환
|
└── 데이터 없음 → Database 조회
|
▼
Cache에 저장
이렇게 하면 반복적인 DB 조회를 줄이고 응답 시간을 개선할 수 있다.
대표적인 캐시 저장소로 Redis가 있다.
Redis는 메모리 기반 데이터 저장소이며, 캐싱 외에도 여러 용도로 사용된다.
하지만 캐시를 도입하면서 새로운 문제가 생긴다.
같은 데이터를 보관하는 곳이 두 군데가 된다는 것이다.
2. 데이터가 두 군데에 있다면 무엇이 진짜일까?
상품 가격을 예로 들어보자.
Database
상품 ID: 101
가격: 50,000원
Redis Cache
product:101
가격: 50,000원
현재는 두 저장소의 값이 동일하다.
그런데 관리자가 가격을 40,000원으로 변경했다.
UPDATE products
SET price = 40000
WHERE id = 101;
DB에는 새로운 가격이 반영되었다.
하지만 Redis에 저장된 데이터가 자동으로 변경되는 것은 아니다.
Database Redis Cache
40,000원 50,000원
▲ ▲
| |
최신 데이터 오래된 데이터
이제 사용자의 조회 요청이 캐시를 통해 처리된다면 오래된 가격을 받게 된다.
이처럼 캐시와 원본 데이터 사이에 값이 일치하지 않는 상황이 발생할 수 있다.
이 문제는 **캐시 일관성(Cache Consistency)**과 관련이 있다.
캐시를 도입한다는 것은 단순히 조회 속도를 높이는 일이 아니다.
원본 데이터와 캐시 데이터의 관계를 어떻게 유지할 것인지 결정하는 일이기도 하다.
3. Cache Aside 전략을 사용해 보자
자주 사용하는 캐싱 전략 중 하나가 Cache Aside다.
애플리케이션이 먼저 캐시를 조회하고, 데이터가 없으면 DB에서 데이터를 가져와 캐시에 저장하는 방식이다.
GET /products/101
|
▼
Redis 조회
|
┌──┴──┐
| |
HIT MISS
| |
| ▼
| DB 조회
| |
| ▼
| 캐시 저장
| |
└──┬──┘
|
▼
응답
Java 코드로 개념을 단순화하면 다음과 같다.
public Product getProduct(Long id) {
Product cached = cache.get(id);
if (cached != null) {
return cached;
}
Product product = repository.findById(id)
.orElseThrow();
cache.put(id, product);
return product;
}
여기서 cache는 이해를 돕기 위한 추상화이며, 실제 구현에서는 Redis 클라이언트와 직렬화, TTL 등을 고려해야 한다.
이제 상품 가격을 변경한다면 어떻게 해야 할까?
대표적인 방법은 DB를 수정한 뒤 해당 캐시를 무효화하는 것이다.
1. DB에서 상품 가격 수정
2. 변경이 커밋된 후 Redis 캐시 삭제
3. 다음 조회 시 DB에서 최신 데이터 조회
4. 최신 데이터를 다시 캐시에 저장
이를 Cache Invalidation이라고 한다.
Spring 환경이라면 트랜잭션이 정상 커밋된 이후 캐시 무효화 작업을 수행하도록 설계할 수 있다.
하지만 캐시 무효화 요청 자체가 실패하는 상황까지 고려해야 한다.
또한 여기서 끝나는 문제가 아니다.
4. 캐시를 삭제했는데도 오래된 데이터가 다시 나타난다면?
흥미로운 상황을 하나 생각해 보자.
사용자 A가 상품을 조회한다.
캐시에 데이터가 없어서 DB에서 기존 가격인 50,000원을 읽었다.
그런데 A가 이 데이터를 Redis에 저장하기 직전, 관리자가 가격을 40,000원으로 변경하고 기존 캐시를 삭제했다.
이후 사용자 A가 조금 전에 조회한 50,000원을 캐시에 저장한다.
결과를 보면 다음과 같다.
시간 사용자 A 관리자
T1 캐시 MISS
T2 DB 조회 → 50,000원
T3 DB 가격 → 40,000원
T4 캐시 삭제
T5 캐시에 50,000원 저장
T6 사용자에게 50,000원 응답
관리자가 캐시를 삭제했는데도 이전 데이터가 다시 저장되었다.
이를 통해 한 가지 사실을 알 수 있다.
DB를 수정하고 캐시를 삭제하는 로직만으로 모든 동시성 상황에서 최신 데이터가 보장되는 것은 아니다.
캐시에도 경쟁 상태가 존재한다.
이 문제를 완화하기 위해 데이터 버전 관리, 캐시 키 버저닝, 동기화 전략, CDC 기반 무효화 등의 방법을 고려할 수 있다.
어떤 수준의 일관성을 요구하는지에 따라 구현 복잡도가 달라진다.
상품 조회처럼 잠시 오래된 데이터가 보이는 것을 허용할 수 있는 기능과, 계좌 잔액처럼 데이터의 정확성이 중요한 기능을 동일하게 설계해서는 안 되는 이유다.
5. TTL을 설정하면 해결되지 않을까?
Redis에는 TTL(Time To Live)이라는 기능이 있다.
데이터에 유효기간을 설정하고 일정 시간이 지나면 만료되도록 하는 것이다.
SET product:101 "40000" EX 60
위 명령은 해당 키에 60초의 만료 시간을 설정한다.
TTL을 설정하면 캐시가 오래 유지되는 것을 방지하는 데 도움이 된다.
하지만 데이터가 변경된 직후부터 TTL이 만료되기 전까지는 오래된 값이 반환될 수 있다.
따라서 TTL은 데이터의 오래됨을 제한하기 위한 수단이지, 강한 일관성을 보장하는 만능 해결책은 아니다.
그런데 TTL에는 또 하나의 문제가 있다.
인기 상품의 캐시가 한꺼번에 만료된다면?
초당 수천 건의 조회가 발생하는 인기 상품이 있다고 가정하자.
캐시가 만료되는 순간 수많은 요청이 동시에 캐시 MISS를 확인할 수 있다.
인기 상품 캐시 만료
|
▼
동시 요청 10,000건
|
▼
Cache MISS
|
▼
DB 조회 요청 집중
캐시가 DB의 부하를 줄이기 위해 존재하는데, 캐시가 만료되는 순간 오히려 DB에 과도한 부하를 발생시킬 수 있다.
이를 Cache Stampede 또는 Thundering Herd 문제라고 부른다.
해결 방법으로는 단일 요청만 캐시를 갱신하도록 제어하거나, TTL에 무작위 편차를 주거나, 인기 데이터를 만료 전에 갱신하는 방법 등이 있다.
물론 이 역시 시스템 특성에 따라 적절한 전략을 선택해야 한다.
6. 캐시는 성능과 복잡성을 교환하는 기술이다
캐시를 공부하기 전에는 Redis를 도입하면 조회 성능이 좋아진다는 사실에만 주목하기 쉽다.
하지만 캐시를 도입한 순간 데이터 일관성, 만료, 갱신, 동시성, 장애 복구 같은 새로운 문제를 관리해야 한다.
캐시가 없었다면 발생하지 않았을 문제들이다.
그렇다고 캐시를 사용하지 말자는 의미는 아니다.
자주 조회되면서 변경 빈도가 낮은 데이터에는 매우 효과적인 기술이다.
중요한 것은 서비스가 어떤 일관성을 요구하는지 판단하는 것이다.
상품 소개 문구가 잠시 오래된 상태로 표시되는 것은 허용할 수 있을지도 모른다.
하지만 계좌 잔액이나 실제 결제 금액에 오래된 데이터를 그대로 사용하는 것은 심각한 문제로 이어질 수 있다.
캐시는 데이터를 더 빠르게 읽기 위한 기술이지만, 그 대가로 데이터의 최신성을 관리해야 하는 책임이 생긴다.
단순히 Redis를 도입했다는 사실보다 어떤 데이터를 캐싱하고, 언제 무효화하며, 어떤 불일치를 허용할 것인지 판단하는 것이 더 중요하다.
생각해 볼 문제
Q1. Cache Aside에서 DB를 수정했는데 캐시를 삭제하지 않으면 어떤 문제가 발생할까?
Q2. 캐시 TTL을 1초로 설정하면 항상 최신 데이터를 보장할 수 있을까?
Q3. 유명 콘서트 예매 사이트에서 캐시가 동시에 만료된다면 어떤 장애가 발생할 수 있을까?