'전체 시스템 다중화, 비상대응체계 강화, 인프라투자 확대' 등 IT 엔지니어링 혁신 계획도 공유
[서울=뉴스핌] 양태훈 기자 = "카카오 대표이사직을 내려놓고 재발 방지위원회를 맡아 역량을 쏟아부어왔다. 이중화를 비롯해 부족했던 모든 부분을 개선하기 위해 원인을 분석하고, 재발 방지 대책을 세우며 미래에 대한 투자를 하도록 하겠다. 전담 조직을 만들어 안정적인 서비스 환경을 조성하는 데 집중하겠다" - 남궁훈 비상대책위원회 재발방지대책 공동 소위원장
"이중화와 위기 대응 과정에 미흡함이 있었다. 하나의 데이터센터에서 장애가 발생하면 다른 데이터센터로 자동 전환해주는 시스템이 작동해야 하는데 이 시스템마저 판교 데이터센터에만 설치돼 있었다. 가용 자원도 부족했다. 회사 차원에서 체계적인 이중화를 준비했어야 했다" - 이확영 원인조사 소위원장
"데이터센터 전체의 장애가 발생하더라도 모니터링과 장애 탐지가 잘 동작할 수 있도록 모니터링 시스템을 다중화해 가겠다. 인프라 하드웨어 설비에서 서비스 애플리케이션에 이르는 전체 시스템 레이어에 다중화를 설계하고 구축해 가겠다" - 이채영 재발방지대책소위원회 부위원장
"모든 것이 무력화되더라도 꼭 단기간 내에 살려야 할 서비스는 데이터센터를 별도로 구축하는 방안도 검토하겠다. 카카오는 개선 사항들을 추가하기 위해 향후 5년 간은 지난 5년 간 투자 금액의 약 3배 이상 규모로 투자를 확대하겠다" - 고우찬 재발방지대책 공동 소위원장
카카오가 7일 열린 개발자 컨퍼런스 '이프 카카오 데브 2022(if kakao dev 2022)'에서 지난 10월 15일 판교 SK C&C 데이터센터 화재로 인해 발생한 서비스 장애 원인과 재발방지대책을 이 같이 밝혔다.
남궁훈 재발방지대책 공동 소위원장은 카카오 ESG 최우선 과제를 '서비스를 안정적으로 제공하는 것'으로 설정하고, 인프라 개선을 위해 과거 원인 분석, 현재 재발방지책, 미래 투자 크게 3가지 관점에서 실천과제를 세우겠다고 밝혔다. 또 고우찬 재발방지 공동 소위원장을 필두로 인프라 조직을 대폭 강화하고 안정적인 서비스 환경을 조성하겠다고 약속했다.
남궁훈 공동 소위원장은 키노트를 통해 "지난달 카카오 대표이사직을 내려놓고 재발 방지위원회를 맡아 전력을 다해 역량을 쏟아부어왔다. 카카오는 여기서 멈추지 않고 계속해서 서비스의 안정성에 대해서 지속적인 고민을 할 예정"이라며 "소위원회 활동을 통해 카카오 ESG의 최우선 과제가 카카오의 서비스를 안정적으로 제공하는 것 그 자체였다는 것을 깨달았다"고 말했다.
이어 "카카오는 크게 세 가지 관점에서 실천 과제를 세웠다. 이중화를 비롯해 카카오가 인프라적으로 부족했던 모든 부분을 개선하기 위해 과거의 원인을 분석하고, 현재에 대한 재발 방지 대책을 세우며 미래에 대한 투자를 하도록 하겠다"며 "카카오는 인프라 부분을 소홀히 하지 않고 서비스 안정성을 보장하기 위해 카카오 엔터프라이즈의 고우찬 부사장을 영입했다. 고우찬 부사장은 카카오 내에서 IT 엔지니어링 전문가들로 전담 조직을 만들어 안정적인 서비스 환경을 조성하고 투자하는 데 집중할 것"이라고 강조했다.
이확영 원인조사 소위원장(그렙 CEO)은 이날 키노트에서 '1015 장애원인'으로 '데이터센터와 운영 관리 도구들의 이중화 미흡', '가용 자원 부족' 등을 꼽았다.
이확영 소위원장은 "원인 분석 결과 이중화와 위기 대응 과정에 미흡함이 있었던 것으로 드러났다. 서비스를 운영하는 많은 시스템에서 사용되는 캐시 서버와 오브젝트 스토리지가 완벽하게 이중화되지 않고, 판교 데이터 센터에만 설치되어 있어 이를 사용하는 서비스들의 복구가 늦어졌다"며 "서로 다른 데이터센터의 이중화가 되어 있는 경우에도 하나의 데이터센터에서 장애가 발생하면 다른 데이터센터로 자동 전환해주는 시스템이 작동해야 하는데 이 시스템마저 판교 데이터센터에만 설치되어 있었다. 이에 수동으로 전환 작업을 진행했기 때문에 복구가 지연됐다"고 설명했다.
또 "사용자 서비스에 직접적으로 필요한 시스템 외에 서비스의 개발과 관리를 위한 운영 관리 도구가 필요한데 이러한 도구들의 이중화가 미흡했다. 상대적으로 이러한 도구들의 안전성 확보에 소홀했다"며 "컨테이너 이미지를 저장하고 관리하는 시스템이나 일부 모니터링 도구 등은 화재 여파로 사용할 수 없게 되어 복구에 상당한 어려움을 겪었다"고 덧붙였다.
아울러 "가용 자원도 부족했다. 판교 데이터센터 전체를 대신할 만큼의 가용 자원이 확보되어 있지 않았기 때문에 판교 데이터센터의 전원이 들어와서 모든 시스템이 정상화되기 전까지 복구를 완료할 수 없었다"며 "전체 시스템의 이중화 수준은 가장 약한 시스템의 이중화 수준을 따라가기 때문에 개별 시스템의 미흡한 이중화가 전체적인 장애를 유발한다. 개별 부서가 시스템마다 다른 이중화 수준 및 체계 등으로 문제가 생기지 않도록 회사 차원에서 체계적인 이중화를 준비했어야 했다"고 전했다.
이채영 재발방지대책소위원회 부위원장은 재발방지를 위한 방안으로 '데이터센터 이중화', '데이터와 서비스 이중화', '플랫폼과 운영 도구 이중화' 등을 약속했다.
이채영 부위원장은 "앞으로는 데이터센터 전체의 장애가 발생하더라도 모니터링과 장애 탐지가 잘 동작할 수 있도록 모니터링 시스템을 다중화해 가겠다"며 "메인 데이터센터를 현재 두 곳에세 곳으로 확대하고, 데이터센터 간에 늘어날 트래픽에 대응할 수 있도록 확장성을 고려한 설비 투자를 진행할 것이다. 대용량 트래픽 전송이 필요한 서비스의 데이터센터 간 삼중화를 위해 별도의 전용망도 구성하겠다"고 강조했다.
또 "모든 형태의 데이터를 일대일 복제를 넘어 데이터센터 간 이중화 이상의 다중 복제 구조로 구성하고, 장애 발생 시 장애 복구 조치를 즉각 실행할 수 있는 환경을 구축하겠다"며 "앞으로는 모든 클러스터를 데이터센터 단위에서 삼중화해 데이터센터의 전면적인 장애에도 서비스 수준을 유지할 수 있는 구조로 운영할 계획이다. 또한 각 도구의 사용 목적, 서비스 역량과 클러스터별 중요도를 정기적으로 파악하는 프로세스를 도입하고 특정 시스템 장애 시 영향을 받는 대상에 대한 공지를 자동화 하겠다"고 전했다.
아울러 "트래픽 쏠림에 따른 연쇄 장애 발생 가능성과 기존 장애 대응 시나리오의 미비점을 이번 장애를 통해 알게 됐다. 현재는 서비스 간의 의존성과 타이트한 연동을 최대한 줄여 입력 서비스 기능을 단독 실행 가능한 구조로 변경하는 작업과 발견한 문제점을 개선하는 작업을 진행하고 있다"며 "사용자 데이터뿐 아니라 서버 구성 정보나 배포 설정에 대해서도 철저하게 이중화하는 작업을 진행하고 있다. 카카오는 인프라 하드웨어 설비에서 서비스 애플리케이션에 이르는 전체 시스템 레이어에 다중화를 설계하고 구축해 가겠다. 서버 각각의 구성 정보 역시 다중화해서 문제가 생겼을 때 빠른 복구가 가능한 구조를 만들겠다"고 덧붙였다.
고우찬 재발방지대책 공동 소위원장은 카카오의 미래 투자와 혁신 계획으로 자체 데이터센터 방재 대책 강화와 IT 엔지니어링 채용 확대를 제시했다.
고우찬 공동 소위원장은 "안산 데이터센터는 2024년 사용하는 것을 목표로 총 4600억 원의 예산이 투입되어 현재 시공 중에 있다. 24시간 무중단 운영을 위한 이중화 인프라 구축은 3개 영역 즉 전력, 냉방, 통신 각각에 모두 적용된다"며 "이번 판교 데이터센터 화재 사고에서 이슈가 된 UPS실과 배터리 실은 방화격벽으로 각각 분리 시공되어 배터리 실에 화재가 발생하더라도 나머지 시설 작동에 영향을 주지 않게 설계됐다. 이번과 같은 배터리 실 화재 상황이 발생할 경우 삼중의 진화 방식이 작동하게 된다"고 강조했다.
이어 "또 이번 화재 사고에서와 같이 밀폐된 공간에 소화가스가 들어가지 못해 진화에 문제가 발생하지 않도록 밀폐된 전기 패널별로 개별 소화 장치를 설치하여 작동되도록 했다. 만약에 소화가스 부족 상황에 대응하기 위해 필요한 경우 다른 층에 소화가스를 끌어다 쓸 수 있도록 예비 시스템도 구축했다"며 "만약 소화가스를 활용한 진화가 실패할 경우, 화재 발생 구간을 차단하고 냉각수를 채워 방염 방열이 가능하게 했다. 이상 삼중의 진화 방식이 단계적으로 작동되어 화재 조기 진압을 위하여 골든타임 안에 적극 대처하게 될 것"이라고 전했다.
또 "현재 카카오의 IT 엔지니어링 조직은 개발 조직 산하에 있지만, 앞으로는 카카오 CEO 직하의 부문 규모로 IT 엔지니어링 전담 조직을 확대 편성하는 방안을 검토 중이다. 국내 최고의 IT 엔지니어링 전문가들도 추가로 적극 영입하도록 하겠다"며 "대규모 장애에 대비한 재해복구위원회를 신설, 책임 있는 인력으로 구성된 위원회에서 즉각적인 대규모 장애에 대한 대응을 할 수 있도록 하겠다. 서비스의 연속성 확보를 최우선 임무로 하는 조직도 필요해 연속성 확보에 필수적인 항목을 도출하고, 실제로 지속적으로 운영 발전할 수 있도록 하는 전담 조직을 준비하겠다"고 약속했다.
나아가 "서비스 안정성을 담보하기 위한 기술적 접근들 특히 카오스 엔지니어링 서비스, 스테이터스 페이지 등 국내에는 아직 보편화되지 않았지만, 주요 글로벌 기업들이 도입해 효과를 보고 있는 영역에서 R&D를 진행할 생각이다. 관련해 개발된 툴들을 오픈소스로 공개해 업계에 기여할 수 있도록 노력하겠다"며 "DR(Disaster Recovery) 아키텍처는 기본적으로는 삼중화 플러스 알파의 구조로 개선하려 한다. 모든 것이 무력화되더라도 꼭 단기간 내에 살려야 할 서비스는 데이터센터를 별도로 구축하는 방안도 검토하겠다. 아울러 카카오는 개선 사항들을 추가하기 위해 향후 5년 간은 지난 5년 간 투자 금액의 약 3배 이상 규모로 투자를 확대하겠다"고 덧붙였다.
한편, 카카오는 이날 키노트 연설을 시작으로 이달 9일까지 카카오 공동체 소속 개발자 120여 명이 연사로 나서 ▲ 1015 데이터센터 화재 회고 ▲ 인공지능 ▲ 백엔드 ▲ 클라우드 ▲ 데브옵스 ▲ 블록체인 ▲ 데이터 ▲ 프론트엔드 ▲ 모바일 ▲ ESG ▲ 문화 등으로 이루어진 12개 트랙에서 총 106개 발표 세션을 진행한다.
dconnect@newspim.com
