[TEST] 부하테스트 : 성능 개선 전략

🎓 이 글은 인프런에서 제공하는 "대규모 트래픽 처리를 위한 부하 테스트 입문/실전" 강의를 수강하면서 정리한 내용을 바탕으로 작성한 글입니다.

https://inf.run/jBYVR

대규모 트래픽 처리를 위한 부하테스트 입문/실전 강의 | JSCODE 박재성 - 인프런

 

---

 

백엔드 개발자는 부하테스트에서 병목지점을 찾고 성능을 개선해야 하는 필요성을 느꼈다.

근데 성능 개선을 할 때 방법이 1가지만 있는 것은 아니다. 

다양한 방법있는데, 그 중에서 어떤 방법을 선택하는 것이 가장 적절한지에 대해 배워보자

 

배우기 전에, 중요한 용어 개념 2가지를 집고 넘어가자

대규모 트래픽을 처리하기 위해 시스템을 고도화 해야 하는데, 이때 Throughput 과 Latency 만 신경쓰면 안된다.

가용성을 신경쓰면서 시스템을 고도화 해야 한다.

 

가용성(Availability)

• 시스템이 서비스를 정상적으로 제공할 수 있는 가능성
• 가용성이 높다 : 서비스 장애 발생률이 낮음
• 가용성이 낮다 : 서비가 다운되는 시간이 긴 시스템
• 가용성이 높고 낮음은 서비스의 정상 가동률(%)로 표시된다. 가용성 99.9%인 서비스는 99.9%의 시간을 정상적으로 이용가능한 시스템을 의미한다. 다운 타임을 줄이는 데 가장 중요한 설계 방법 중 하나가 시스템 이중화이다. 

 

시스템 이중화

시스템의 일부분을 사용할 수 없게 되어도 다른 시스템을 이용해 서비스를 계속 이용할 수 있게 만드는 것. 

시스템의 이중화는 아래처럼 설계할 수 있다 (=가용성이 높은 설계)

 

 

 

성능을 개선할 때 가장 많이 활용하는 3가지 전략

1. 수평적 확장

특정 시스템 성능을 올리기 위해 시스템 갯수를 늘리는 걸 수평적 확장이라고 한다. 

 

장점

• 시스템 이중화 형태로 구성되어 가용성이 증가함
• 확장에 제한이 없음
• 서버 축소 / 확장이 쉬움

 

단점

• 여러 대의 서버를 한 서버처럼 사용하기 위한 추가 작업이 필요함
• ex) 로드 밸런서

 

2. 수직적 확장

시스템 갯수 변경 없이 시스템의 스펙(CPU, 메모리 등) 을 업그레이드 하는 방식을 수직적 확장이라고 한다. 

 

장점

• 여러 대의 서버를 한 서버처럼 사용하기 위한 추가 작업이 필요 없음

 

단점

• 시스템 이중화 X -> 가용성 감소
• 시스템 스펙에는 제한이 있음. 따라서 확장에 제한이 생김
• 서버 축소 / 확장 할때마다 서비스 중단이 불가피하여 가용성이 감소한다. 

 

3. 캐싱

Casching 이란 데이터를 더 빠르게 액세스 할 수 있는 곳에 임시로 저장하는 방식을 의미한다.

3-1. 레디스 활용

• 자주 저장하는 데이터를 DB 보다 더 빠르게 접근할 수 있는 레디스에 저장해두고 가져온다.

 

3-2. CDN 활용

• CDN(Content Delivery Network)
• AWS 에서는 CloudFront 가 CDN 의 일부이다.
• S3에 동영상 파일이 저장되어있다 > 사용자는 S3로 부터 동영상 파일을 다운받고 싶다 > 이때 사용자가 S3로부터 멀리있을 수록 동영상을 다운받는 속도가 느려진다.

 

이는 캐싱을 통해 해결 할 수 있다

각 나라별로 원본 동영상을 임시 저장하는 임시 저장소를 만든다. 

그리고 원본동영상을 임시저장소에 전부 복제를 뜬다.

 

이제 멀리 살고 있는 사용자가 동영상 다운로드를 하려고 하면 멀리있는 원본이 아니라

가까이 있는 임시저장소에서 빠르게 다운로드를 할 수 있다. 

 

이처럼 CDN 은 캐싱 전략을 활용해서 데이터에 엑세스하는 시간을 끌어올린 방식이다. 

 

 

 

병목지점이 발생했을 때 이 3가지 전략 안에서 상황에 맞춰 어떤 전략을 선택할건지, 선택한다면 이유는 무엇인지 알고 적용할 수 있어야 한다.