클라우드 및 망중립 데이터센터(DC)와 코로케이션 및 상호연결솔루션을 제공하는 글로벌 최대 공급업체 디지털 리얼티(Digital Realty)는 카카오뱅크 AI센터 개소식을 1월30일 서울 상암동 ICN10 DC에서 개최했다.
카카오뱅크는 인공지능(AI)을 기반으로 금융혁신을 지원하기 위해 고성능 컴퓨팅(HPC), 고집적 워크로드에 최적화한 인프라와 연결성을 제공하는 디지털 리얼티의 ICN10 DC를 선택했다. 카카오뱅크 AI 센터는 AI 기반의 서비스 고도화, 맞춤형 콘텐츠 생산뿐만 아니라 금융과 연계한 다양한 서비스 및 신규 서비스 개발(R&D)을 지원할 예정이다.
최근 생성형 AI가 전 산업의 영역에 걸쳐 본격적으로 활용되기 시작하면서 다양한 글로벌 금융기관들도 챗GPT와 같은 생성형 AI기술의 중요성을 빠르게 인지하고 막대한 비용을 투입해 대규모언어모델(LLM)과 같은 원천기술 내재화와 적용에 힘쓰고 있다.
DC가 생성형AI와 같이 최신 AI워크로드를 지원하기 위해서는 충분한 전력공급량과 서버냉각기술이 필수다. AI 서비스는 많은 전력을 소비하는 HPC가 필요한데 전력을 많이 소비할수록 한 공간에 수용할 수 있는 서버 수가 줄고 높은 발열량 때문에 서버수명도 짧아진다.
디지털 리얼티 DC솔루션은 AI 워크로드를 지원하기 위한 유연한 모듈식서비스를 제공해 고객 요구 사항에 맞춰 고성능, 냉각, 레이아웃, 연결성을 제공한다. 디지털 리얼티는 2023년 8월 랙당 최대 70kW 워크로드를 지원하기 위해 글로벌 28개 시장에서 고밀도 코로케이션서비스를 출시했다. 디지털 리얼티의 ICN10 DC는 혁신적인 공기보조 액체냉각(AALC) 기술로 업계 최고 성능의 GPU 서버를 수용할 수 있다는 공급업체 인증을 받은 바 있다.
디지털 리얼티 ICN10은 금융사가 요구하는 미션크리티컬 환경을 충족시켜줄 수 있다. 금융은 무엇보다 신뢰성이 요구되는 산업으로 갑작스러운 기능중단은 고객과 신뢰관계에 치명적인 단절을 일으킬 수도 있다. 디지털 리얼티는 16년 연속 파이브나인스(five-nines)를 달성한 노하우를 바탕으로 고가용성을 보장하는 DC서비스를 제공하며 업타임 인스티튜드(Uptime Institute)에서 무중단 유지보수가 가능한 티어3등급을 받아 어떤 재난·재해 상황에서도 운영할 수 있다.
데이터는 AI 애플리케이션에서 매우 중요하다. AI는 전체 데이터세트에서 학습이 이뤄질 때 더 강력해진다는 특성이 있기 때문이다. 디지털 리얼티의 글로벌 DC 플랫폼인 플랫폼 디지털®(PlatformDIGITAL®)은 서비스패브릭™ 커넥트(ServiceFabric™ Connect)를 통해 기업 에코시스템 전반의 데이터세트에 대한 안전하고 뛰어난 성능의 액세스를 지원함으로써 프라이빗 클라우드 사용을 지원한다.
뿐만 아니라 디지털 리얼티 ICN10은 AWS 다이렉트 커넥트(Direct Connect) 온램프(On-Ramp)를 지원한다. 앞으로 카카오뱅크 AI센터가 하이브리드 클라우드 운영모델로 전환 시 클라우드 온램프 연결성 확장의 용이성을 제공한다는 장점이 있다. 카카오뱅크는 자사 프라이빗 인프라를 AWS 아‧태지역(서울)에 연결, AWS에 대한 저지연 및 고성능의 안전하고 비용 효율적인 연결을 활용할 수 있다.
또한 ICN10의 서울 디지털미디어시티 중심부에 자리한 지리적 이점과 네트워크 중립 환경은 지연 시간을 최소화하며 국내 금융기관의 기존 DC에 다양한 연결 옵션을 제공함으로써 경쟁 우위를 제공한다.
안현철 카카오뱅크 최고연구개발책임자는 “이번 AI센터 개소를 통해 카카오 공동체 그리고 외부 학계 및 기업과 협력을 강화할 수 있는 환경을 갖췄으며 생성형AI 및 언어모델 등 복잡한 연산이 필요한 다양한 AI기반사업과 연구에 속도를 낼 예정”이라며 “더 많은 고객에게 선택받고 꾸준히 성장하기 위해 기술 역량을 고도화할 계획”이라고 밝혔다.
한성민 디지털 리얼티 코리아 대표는 카카오뱅크 AI센터 개소식 축사에서 “한국은 아시아 태평양 지역에서 빠르게 성장하는 AI시장 중 하나로 주목하고 있다”라며 “디지털 리얼티는 글로벌 AI 기업들의 요람으로 많은 경험을 보유하고 있어 이러한 경험을 토대로 향후 카카오뱅크 금융분야 AI혁신을 지원하기 위해 지원을 아끼지 않을 것”이라고 덧붙였다.
목록
