바로가기 메뉴
본문 바로가기
대메뉴 바로가기

TECH M

엔비디아, “GPU 기반 서버가 CPU보다 더 비용 절감 할 수 있다”

엔비디아 AI 컨퍼런스 2019…상대적으로 더 높은 성능 구현

2019-07-02김태환 기자

2일 마크 해밀턴 엔비디아 솔루션 아키텍처 및 엔지니어링 부사장이 서울 코엑스에서 열린 '엔비디아 AI 컨퍼런스'에 참가해 기자들의 질문에 답변을 하고 있다.

인공지능(AI) 컴퓨팅 기술기업 엔비디아가 GPU(Graphics Processing Unit) 기반 컴퓨팅 서버와 시스템이 CPU(Central Processing Unit) 기반보다 더 저렴한 비용으로 높은 AI 연산 성능을 낼 수 있다고 주장했다. 연산을 병렬 처리해 AI 연산을 더욱 효율적으로 처리하면서 상대적으로 적은 수 제품으로 다수 CPU를 대체하는 효과를 낼 수 있다는 설명이다.

엔비디아는 2일 서울 코엑스에서 ‘엔비디아 AI 컨퍼런스 2019’를 개최하고, 엔비디아의 다양한 AI 솔루션을 소개하는 자리를 가졌다.

마크 해밀턴 엔비디아 솔루션 아키텍처 및 엔지니어링 부사장은 “GPU는 서버에 추가한다는 개념을 가지고 있어 비싸다고 생각한다”면서 “하지만 GPU를 도입하는 가장 큰 이유는 비용절감”이라고 밝혔다.

마크 해밀턴 부사장은 “예를 들어 엔비디아의 DGX 슈퍼카드와 맞먹는 수준의 성능을 구현하려고 CPU로 서버를 설치한다면, CPU를 연결하는 케이블 비용만으로 카드 비용에 맞먹는다”면서 “CPU 연산능력이 GPU에 비해 떨어져 더 많은 CPU가 필요하고, 이는 결국 비용상승으로 이어진다”고 설명했다.

그는 “특히 AI 분야에서는 엔지니어 양성 문제가 항상 존재하는데, 효율적으로 서버를 설치하면 상대적으로 적은 엔지니어가 많은 업무 볼 수 있어 인건비 절감 효과도 있다”면서 "실제 삼성전자에서 엔비디아의 DGX 서버를 6개 도입했는데, 일반 OEM 서버보다 효과가 컸다고 전해왔다”고 말했다.

마크 해밀턴은 “CPU 분야에서는 ‘무어의 법칙(성능이 매년 2배로 증가)’이 둔화되고 있다”면서 “엔비디아는 20년전 CPU와 GPU를 함께 사용하도록 해 주는 아키텍처 쿠다(cuda)를 개발한 이후 성능 향상에 대한 어려운 난제들을 해결해왔다”고 설명했다.

엔비디아에 따르면, 지난해 자사 GPU서버와 기존 CPU서버 속도를 비교해본 결과 GPU서버가 무려 25배 빨랐으며, 올해는 40배 빠른 속도를 기록했다.

 

2일 마크 해밀턴 엔비디아 솔루션 아키텍처 및 엔지니어링 부사장이 서울 코엑스에서 열린 '엔비디아 AI 컨퍼런스' 연사로 참여해 엔비디아 AI 솔루션들을 설명하고 있다.

한편 엔비디아 AI 컨퍼런스 2019에서는 최신 AI와 딥러닝 기술 현황과 다양한 산업 사례를 소개하는 다양한 세션이 진행됐다.

오전에는 유응준 엔비디아 코리아 엔터프라이즈 대표의 환영사를 시작으로 마크 해밀턴 엔비디아의 솔루션 아키텍처 및 엔지니어링 부사장, 심은수 삼성전자 종합기술원 AI&소프트웨어 연구센터장이 각각 기조연설을 발표했다.

 

김태환 테크엠 기자 kimthin@techm.kr