Azure IaaS 성능, 단순한 리소스 증설로는 부족하다 — 시스템 레벨 접근법의 모든 것

성능, 리소스 증설만으로 해결되지 않는 이유

많은 조직이 클라우드에서 성능 문제를 만나면 'VM을 더 큰 사이즈로 업그레이드하자', '디스크를 프리미엄 SSD로 바꾸자'는 식의 단순한 대응을 합니다. 하지만 현대 워크로드는 예측 가능하지 않습니다. 데이터베이스는 어느 순간 스토리지 지연(Latency)에 막히고, 바로 다음 순간에는 네트워크 대역폭이 병목이 됩니다. AI 파이프라인은 컴퓨팅이 부족해서가 아니라 노드 간 데이터 이동 속도가 느려서 멈추기도 합니다.

성능은 더 이상 단일 컴포넌트의 문제가 아닙니다. 컴퓨팅(Compute), 스토리지(Storage), 네트워킹(Networking)이 하나의 시스템으로 동작해야 진정한 성능을 얻을 수 있습니다. Azure는 이 세 가지를 개별적으로 최적화하는 대신, 플랫폼 자체에 성능을 설계(Engineer)해 넣는 접근법을 취합니다.

이 글에서는 Azure가 AI, 클라우드 네이티브, 비즈니스 크리티컬 워크로드 각각에 대해 시스템 레벨 성능을 어떻게 구현하는지, 그리고 국내 클라우드 환경에서 이를 어떻게 활용할 수 있을지 살펴보겠습니다.

Azure의 시스템 레벨 성능 접근법

Azure는 성능을 지연 시간(Latency), 처리량(Throughput), 확장성(Scalability), 일관성(Consistency) 의 네 가지 축으로 정의합니다. 여기에 ‘시간 대비 성능(Time-to-Performance)’ — 즉, 인프라를 얼마나 빠르게 프로비저닝하고 복구할 수 있는지 — 도 중요한 지표로 봅니다.

AI 워크로드: 병목 없는 데이터 경로

AI 모델 학습과 추론은 막대한 병렬 컴퓨팅, 높은 처리량의 데이터 접근, 분산 컴포넌트 간의 저지연 통신을 요구합니다.

1. 컴퓨팅 효율: Azure Boost Azure Boost는 스토리지와 네트워킹 처리를 호스트 CPU에서 전용 하드웨어/소프트웨어로 오프로드(Offload)합니다. 이렇게 하면 하이퍼바이저 오버헤드가 줄어들고, 모델 학습에 더 많은 CPU/GPU 사이클을 할당할 수 있습니다.

2. 고처리량 스토리지 Azure Blob Storage와 Azure Data Lake Storage(ADLS)는 지속적인 고성능 I/O를 제공합니다. 병렬 데이터 접근과 AI 도구(예: MLflow, PyTorch)와의 원활한 통합으로 컴퓨팅 리소스가 데이터를 기다리며 유휴 상태로 있는 일을 최소화합니다.

3. 저지연 고대역폭 네트워킹 분산 학습에서 노드 간 통신 지연은 전체 학습 시간을 결정짓습니다. Azure ExpressRoute와 같은 서비스는 클러스터 간 빠른 데이터 이동을 지원하여 동기화 지연을 줄입니다.

💡 국내 적용 팁: 국내 금융권이나 공공기관에서 AI 모델을 학습할 때, 네트워크 대역폭보다 스토리지 IOPS가 먼저 병목이 되는 경우가 많습니다. Azure Boost가 적용된 VM 시리즈(Ebs v5 등)를 선택하면 CPU 부담을 덜 수 있어 체감 성능 향상이 큽니다.

클라우드 네이티브: 상태 유지 서비스도 성능을 유지하며 확장

Kubernetes(AKS) 환경에서 워크로드는 예측 불가능한 요청을 받으며 동적으로 확장됩니다. 컴퓨팅 확장만으로는 부족하고, 상태 유지(Stateful) 서비스도 같은 수준의 성능을 유지해야 합니다.

Azure Container Storage는 AKS 워크로드가 로컬 NVMe 디스크를 Kubernetes 네이티브 방식으로 사용할 수 있게 해줍니다. 서브 밀리초(Sub-millisecond) 지연 시간과 높은 IOPS를 제공하며, 수동 디스크 설정이 필요 없습니다.

CloudNativePG를 사용하면 PostgreSQL 데이터베이스를 AKS 위에서 고가용성, 장애 조치(Failover), 백업 기능과 함께 운영할 수 있습니다.

eBPF 호스트 라우팅 in Cilium을 활용한 Advanced Container Networking Services는 데이터 경로 효율을 높여 마이크로서비스 간 통신 지연을 줄입니다.

# 예시: AKS에서 CloudNativePG로 PostgreSQL 배포 (주석: 한국 개발자용)
apiVersion: postgresql.cnpg.io/v1
kind: Cluster
metadata:
  name: my-db-cluster
spec:
  instances: 3
  storage:
    size: 100Gi
    storageClass: managed-premium  # Azure Premium SSD 사용
  affinity:
    podAntiAffinityType: preferred
  resources:
    requests:
      memory: 8Gi
      cpu: 4

⚠️ 주의사항: CloudNativePG를 도입할 때는 Pod Anti-Affinity 설정을 반드시 확인하세요. 같은 노드에 DB Pod가 여러 개 뜨면 장애 시 단일 장애점(SPOF)이 됩니다. 국내 SI 환경에서는 ‘일단 Pod 1개로 띄우고 나중에 늘리자’는 접근이 자주 있는데, 초기부터 3노드 이상의 HA 구성을 권장합니다.

비즈니스 크리티컬: 예측 가능성과 신뢰성

엔터프라이즈 데이터베이스, SAP, 트랜잭션 시스템은 속도뿐 아니라 일관된 성능이 생명입니다. 변동성이 조금만 있어도 큰 손실로 이어집니다.

일관된 컴퓨팅 성능:

• Virtual Machine Scale Sets(VMSS)는 장애 도메인과 업데이트 도메인 간 워크로드를 자동 분산합니다.
• Azure Boost가 가상화 및 I/O 처리를 전담하여 CPU 경합을 줄입니다.

조정 가능한 스토리지 성능: Azure Ultra Disk와 Premium SSD v2는 용량, IOPS, 처리량을 각각 독립적으로 설정할 수 있습니다. "스토리지가 너무 느리다"고 디스크 전체를 교체할 필요 없이, 필요한 성능만 추가하면 됩니다.

빠른 복구: Instant Access Snapshots는 디스크를 즉시 복원합니다. 데이터 하이드레이션(Hydration)을 기다릴 필요가 없어 다운타임이 획기적으로 줄어듭니다.

# Azure CLI: Ultra Disk 생성 예제 (주석: 한국어)
az disk create \
  --resource-group myResourceGroup \
  --name myUltraDisk \
  --size-gb 64 \
  --sku UltraSSD_LRS \
  --disk-iops-read-write 5000 \
  --disk-mbps-read-write 200

💡 꿀팁: Ultra Disk의 IOPS와 MBps는 워크로드 패턴에 따라 동적으로 변경할 수 있습니다. 야간 배치 작업 때는 IOPS를 높이고, 주간에는 낮추는 식으로 비용 최적화가 가능합니다. 단, Ultra Disk는 특정 VM 시리즈에서만 지원되므로 사전 확인이 필요합니다.

워크로드별 성능 최적화 체크리스트

Azure IaaS 성능 접근법의 한계와 보완점

Azure의 시스템 레벨 접근법은 강력하지만, 몇 가지 현실적 제약이 있습니다.

1. 비용 복잡성: Ultra Disk나 Azure Boost가 적용된 VM 시리즈는 비용이 높습니다. 모든 워크로드에 적용하는 것은 비효율적일 수 있습니다. 반드시 워크로드 특성에 따라 선택적으로 적용하세요.
2. VM 시리즈 의존성: Azure Boost는 특정 VM 시리즈(Ebs v5, Ebds v5 등)에서만 지원됩니다. 기존에 사용하던 VM 시리즈가 있다면 마이그레이션 계획이 필요합니다.
3. 지역(Region) 제약: Ultra Disk, Proximity Placement Group 등 일부 기능은 모든 리전에서 동일하게 제공되지 않습니다. 한국 리전(중부/남부)에서 사용 가능한지 사전에 확인하세요.
4. 운영 복잡성: 시스템 레벨 최적화는 단순히 VM 크기를 키우는 것보다 초기 설계와 모니터링에 더 많은 시간이 필요합니다. 팀에 클라우드 아키텍트 역량이 없다면 도입이 어려울 수 있습니다.

함께 보면 좋은 글

• Python 3.15 미리보기: JIT 강화, UTF-8 기본 인코딩 등 주요 변화
• 단일 장애점에서 탈출하기: 아마존 키 팀이 밝히는 이벤트 기반 아키텍처(EDA) 실전 노하우

결론: 성능은 시스템의 결과물이다

Azure IaaS에서 성능을 극대화하려면 컴퓨팅, 스토리지, 네트워킹을 따로 보지 말고 하나의 시스템으로 바라봐야 합니다. 각 계층을 개별적으로 최적화하는 접근법은 더 이상 통하지 않습니다.

실무에서 바로 적용할 수 있는 3가지 액션:

1. AI 워크로드: Azure Boost가 적용된 VM 시리즈(Ebs v5)로 전환하고, 스토리지는 ADLS + Premium SSD 조합을 사용하세요.
2. 클라우드 네이티브: AKS에서 CloudNativePG로 DB를 운영한다면, Azure Container Storage를 함께 검토하세요.
3. 비즈니스 크리티컬: Ultra Disk의 독립적 IOPS/처리량 설정을 활용해 성능을 정밀하게 튜닝하고, Instant Access Snapshots로 복구 시간을 단축하세요.

Azure IaaS 성능 최적화는 단순한 VM 업그레이드가 아닙니다. 워크로드의 특성을 이해하고, 플랫폼이 제공하는 시스템 레벨의 조화를 활용하는 것이 진정한 고성능의 비결입니다.

다음 단계: Azure IaaS Resource Center에서 더 많은 튜토리얼과 베스트 프랙티스를 확인하세요.