세 줄 요약

• AWS가 최대 22.8TB의 로컬 NVMe SSD를 탑재하고 자원 용량을 이전 세대 대비 3배 확장한 EC2 C8id, M8id, R8id 인스턴스를 출시했다.
• 네트워크 스토리지의 대역폭 한계를 우회하여 대규모 언어 모델 학습 시 데이터 로딩과 체크포인트 저장 속도를 높여 연산 효율을 개선할 수 있다.
• 사용자는 로컬 스토리지의 휘발성 특성을 반영하여 데이터 관리 구조를 재설계하고 워크로드에 적합한 인스턴스로의 전환을 검토해야 한다.

예: 거대 언어 모델을 학습하는 과정에서 처리해야 할 정보량이 너무 많아 연산 장치가 데이터를 기다리느라 멈춰 있는 상황이 발생한다.

데이터가 흐르는 통로가 좁으면 성능이 높은 프로세서도 제 기능을 다하기 어렵다. 인공지능과 빅데이터 연산이 고도화되면서 데이터를 불러오는 속도가 컴퓨팅의 핵심 지표로 부상했다. AWS는 로컬 NVMe 스토리지 용량을 확장한 8세대 인스턴스를 통해 클라우드 인프라의 입출력(I/O) 병목 현상 해결에 나섰다.

현황

물리 서버에 직접 연결한 고성능 로컬 NVMe 스토리지를 갖춘 Amazon EC2 C8id, M8id, R8id 인스턴스가 정식 출시되었다. 이번 8세대 인스턴스는 호스트 서버에 직접 연결된 NVMe 기반 SSD 블록 수준 스토리지를 제공하는 것이 특징이다.

가용 가능한 로컬 NVMe 스토리지 용량은 최대 22.8TB다. 이는 이전 세대와 비교해 vCPU 수, 메모리 용량, 로컬 스토리지 용량이 모두 3배 확장된 수준이다. 사용자는 워크로드 성격에 따라 컴퓨팅 최적화(C8id), 범용(M8id), 메모리 최적화(R8id) 모델 중에서 선택할 수 있다.

해당 인스턴스군은 현재 AWS의 주요 리전에서 사용할 수 있다. 가격 체계는 기존과 동일하게 온디맨드, 예약 인스턴스, 스팟 인스턴스 옵션을 제공한다. 대규모 연산이 필요한 기업은 별도의 하드웨어 구축 없이 고성능 로컬 스토리지를 즉시 확보할 수 있게 되었다.

분석

8세대 인스턴스 출시는 용량 증설 이상의 기술적 의미가 있다. 거대언어모델(LLM) 파인튜닝과 같은 작업에서 모델 상태를 저장하는 체크포인트 작업은 성능의 핵심 변수다. 이때 네트워크 스토리지(EBS 등)를 이용하면 대역폭 제한으로 인해 학습 시간이 늘어난다.

조사 결과에 따르면 비동기식 다단계 체크포인트 기술을 활용할 경우, 기존 방식보다 체크포인트 저장 속도는 최대 48배, 전체 학습 실행 시간은 2.2배까지 단축할 수 있다. 로컬 스토리지를 22.8TB까지 늘린 이유는 이러한 대규모 체크포인트를 네트워크 병목 없이 로컬에서 처리하도록 지원하기 위해서다.

다만 로컬 NVMe 스토리지의 데이터는 인스턴스가 중지되거나 종료될 때 삭제되는 휘발성을 가진다. 따라서 실시간 서비스보다는 중간 연산 결과가 많은 배치 작업이나 데이터 로딩 속도가 중요한 실시간 분석 작업에 적합하다. 사용자는 고성능 로컬 스토리지를 활용하면서도 최종 결과물은 영구 저장소로 복제하는 이중 구조를 설계해야 한다.

실전 적용

데이터 엔지니어와 인공지능 연구원은 8세대 인스턴스를 통해 데이터 파이프라인의 물리적 한계를 보완할 수 있다. 수십 테라바이트급 데이터셋을 반복해서 읽어야 하는 딥러닝 학습 환경에서 로컬 NVMe는 네트워크 비용 절감과 시간 단축에 도움을 준다.

예: 데이터 과학자가 대용량 이미지 데이터를 학습시킬 때, 네트워크를 거치지 않고 로컬 스토리지에 데이터셋을 캐싱하여 학습 속도를 높인다.

오늘 바로 할 일:

• 현재 운영 중인 워크로드의 입출력 대기 시간을 측정하여 네트워크 스토리지의 병목 현상을 확인한다.
• 로컬 스토리지의 데이터를 영구 저장소로 동기화하는 자동화 스크립트가 제대로 작동하는지 점검한다.
• 메모리 사용량을 분석하여 컴퓨팅, 범용, 메모리 최적화 중 적합한 인스턴스 유형을 선택해 테스트를 진행한다.

FAQ

Q: 로컬 NVMe 스토리지는 일반 EBS(Elastic Block Store)와 무엇이 다른가? A: EBS는 네트워크로 연결되지만, 로컬 NVMe는 물리 서버에 직접 연결되어 있다. 네트워크 지연 시간이 없고 대역폭 제한에서 자유로우나, 인스턴스를 종료하면 데이터가 사라진다는 점이 다르다.

Q: 이전 세대 인스턴스에서 8세대로 전환할 때 주의할 점은? A: 자원 용량이 3배 늘어난 만큼 단일 인스턴스의 비용과 처리 성능이 달라진다. 여러 대의 인스턴스로 분산 처리하던 작업을 고사양 인스턴스 소수로 통합할 때의 경제성을 따져봐야 한다.

Q: 22.8TB 용량을 모두 단일 파티션으로 사용할 수 있는가? A: 인스턴스 크기에 따라 제공되는 물리 디스크 개수가 다를 수 있다. 운영체제에서 소프트웨어 RAID 등을 활용해 하나의 논리 볼륨으로 묶으면 대용량 단일 저장소로 활용할 수 있다.

결론

AWS EC2 8세대 인스턴스의 등장은 클라우드 컴퓨팅의 초점이 단순 연산 성능에서 데이터 처리 밀도로 이동하고 있음을 보여준다. 3배 확장된 자원과 22.8TB의 로컬 스토리지는 LLM 파인튜닝과 대규모 데이터 분석의 효율을 높일 수 있는 토대다.

앞으로의 핵심은 고성능 로컬 자원을 소프트웨어 계층에서 관리하는 역량이다. 휘발성 스토리지의 데이터 상실 위험을 관리하면서 입출력 성능을 끌어내는 아키텍처 설계 능력이 인프라 경쟁력을 결정할 것이다.

참고 자료

• 🛡️ Lazy Asynchronous Multi-level Checkpointing for LLMs