“2024 파리 올림픽에서 데이터센터에서 나오는 열로 인근 수영장의 물을 데웠다고 한다. 데이터센터가 전 세계 전력의 1.5~3%에 해당하는 전기를 잡아먹는데, 이런 사례를 보듯 우리는 (열을) 얼마든지 창의적으로 활용 가능하다. 공기가 아닌 액체를 사용해 냉각하는 기술이 세상을 바꾸고 환경을 지킬 것이다.”
빅 말얄라 슈퍼마이크로 비즈니스 개발 부문 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘수냉식 냉각: 데이터센터의 효율성 및 성능을 혁신하다’라는 주제로 온라인 강연을 하면서 “데이터센터의 수명은 뜨거운 열을 얼마나 잘 식힐 수 있느냐에 달려있다고 해도 과언이 아니다”라고 했다.
미국 서버 제조업체 슈퍼마이크로는 비전도성 액체 속에 데이터센터 서버를 침전시켜 열을 식히는 이른바 ‘액침 냉각(Immersion Cooling)’ 방식을 사용한다. 장치를 액체에 담궈 직접적으로 열을 잡아내는 설계로, 공기를 순환시키기 위해 소음이 크고 전기를 많이 쓰는 팬을 쓰지 않아도 된다. 액체는 공기보다 냉각 성능이 최대 1000배에 달하는 것으로 알려졌다. 특히 서버의 열을 빠르게 낮춤으로써 제한된 공간에 빽빽하게 서버를 배치할 수 있다는 장점이 있다.
말얄라 부사장은 “생성형 인공지능(AI)이 도입되면서 이를 위한 AI 칩은 더 많은 열을 발산하고 있다”면서 “수많은 열 냉각기술이 경쟁적으로 개발되고 있는 가운데, 공기가 아닌 액체를 사용한 냉각 방식은 수많은 이점을 준다”고 설명했다.
그는 “첨단 프로세서 기술은 더 많은 코어와 고성능 그래픽처리장치(GPU), 대용량 메모리, 최신 성능 가속기 등을 탑재하고 전력 소모가 커서 기존의 공랭식 냉각 기술만으로 감당하기에 한계가 있다”고 했다. 이어 “그 해법으로 우리는 데이터센터 냉각을 위해 공기가 아닌 액체를 활용하고 있다”면서 “다방면에서 편의성이 있고 환경에 무해하며 비용 절감도 크다. 공간의 활용도나 소음 공해나 탄소발자국 감소 등 모든 요소에서 굉장히 유리한 방식이다. 미래에 가야할 길이라고 본다”고 했다.
슈퍼마이크로는 현재 데이터센터의 와트당 성능을 높이는 데 집중하고 있다. 그는 “슈퍼마이크로의 솔루션은 고온 작동 환경이나 외기·냉수 냉방, 액체 또는 액침 냉각 등을 사용해 데이터센터의 PUE(전력 사용 효율)를 높이는 데 유리하다”면서 “효율적인 회로 구성, 티타늄급 이상의 전원 공급 장치 사용, 고효율 냉각 팬 개발, 공기 채널 레이아웃 적용, 시스템 펌웨어 개선, 소프트웨어 전원 관리 향상 등 에너지 효율을 높이기 위한 기술의 연구·개발을 중점적으로 수행하고 있다”고 했다
슈퍼마이크로는 이 외에도 데이터센터 도입과 운영 비용을 절약하고, 설치와 정비 과정을 간소화하기 위해 빌딩 블록 시스템(Building Block Systems)과 플러그 앤 플레이 랙 솔루션(Plug & Play Rack Solutions)을 제공한다. 빌딩 블록 시스템은 다양한 세대의 제품들 사이에서 상·하위 시스템 간의 호환성을 보장하고 시스템을 상호 공유할 수 있는 솔루션으로, 데이터센터 관리자의 효율적인 업무수행을 지원한다. 플러그 앤 플레이 랙 솔루션은 반복성을 보유한 턴키형 데이터센터로 이행하는 단계의 과정으로서, 사전 검증된 랙 레벨의 AI, 5G, 엔터프라이즈와 클라우드 솔루션을 제공한다.
모든 곳에 활용되는 AI... “상품처럼 표준화 돼”
“저렴한 컴퓨팅 자원이 AI 혁신 가능케 해”
“컴퓨팅 성능 곧 1000배 이상 향상... 인간 두뇌에 필적할 것”
“2024년 현재, 우리는 인공지능(AI)의 황금기를 타고 있습니다. 딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 온 것입니다.”
케빈 바라고나 딥AI(DeepAI) 창업자 겸 최고경영자(CEO)는 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 “과거에는 AI 연구가 소수의 연구소나 대기업에 의해 비밀스럽게 진행됐지만 이젠 기술이 민주화됐다”며 이처럼 말했다.
바라고나 CEO는 이날 ‘새로운 재화: 정보와 계산 능력(Compute and Intelligence as New Commodities)’을 주제로 한 기조강연에서 지난 10여년 만에 AI 기술이 급속하게 발전해 누구나 AI를 쉽게 개발하고 활용할 수 있는 ‘AI의 민주화’가 이뤄지고 있다고 강조했다. 그는 “텍스트에서 이미지를 생성하는 기술의 경우, 2016년 결과물은 흐릿하고 제한적이었지만 이제는 거의 무료로 실사 이미지에 가까운 품질의 이미지를 생성할 수 있는 상황에 이르렀다”며 “이는 AI가 더 많은 데이터를 학습하고, 더 나은 모델을 통해 발전해 온 결과”라고 말했다.
그는 AI 기술이 빠르게 발전한 건 저렴한 컴퓨팅 자원 덕분이라고 말했다. 특히 그래픽처리장치(GPU)를 기반으로 한 대규모 연산 처리 비용이 크게 줄어들면서 AI 연구와 개발이 가속화됐다는 설명이다. 그는 “엔비디아는 AI 연산을 처리하는 가장 저렴한 자원을 제공함으로써 시장에서 우위를 점했고, 이는 AI 컴퓨팅이 상품화됐다는 사실을 보여준다”며 “이제 AI 모델 자체는 특정 기술보다 저렴한 컴퓨팅 자원을 어떻게 활용하느냐에 따라 성과가 달라진다”고 말했다.
AI 모델 시장이 ‘상품 시장화’되면서 AI 연구도 점차 투명해지고 있다고 바라고나 CEO는 전했다. 그는 “대형 연구소들은 AI 연구에서 비밀주의를 강화하고 있지만, 사실 AI 모델 개발에 있어 큰 비밀은 없다”며 “AI 모델의 컴퓨팅 자원과 데이터는 모두 상품화되어 있으며, 연구 결과는 곧바로 다른 연구소나 기업에서도 복제할 수 있게 됐다”고 말했다. 그러면서 “이처럼 AI를 학습시키고 활용하는 방법에 대한 지식은 전 세계적으로 널리 퍼져 있다”며 “허깅페이스 플랫폼과 같은 커뮤니티를 통해 많은 사람들이 AI 모델을 만들고 공유하며, 이는 AI 기술이 소수의 대형 연구소에만 독점되지 않고 전 세계적으로 상품화되는 흐름을 더 빠르게 한다”고 말했다.
바라고나 CEO는 “텐서 프로그램 같은 기술이 AI 모델의 훈련 성공 가능성을 높이고 있으며, 딥러닝은 점점 더 과학적으로 발전하고 있다”며 “앞으로 컴퓨팅 성능은 현재보다 1000배 이상 향상될 것이며, 비용과 에너지 효율성도 크게 개선될 것”이라고 했다. 그러면서 그는 “이제 연산 분야에서 불가능이란 없어졌다”며 “머지 않아 AI는 인간의 두뇌 능력을 넘어서거나 그에 필적할 정도로 발전해 더 많은 가능성을 열어줄 것”이라고 했다.
엣지 AI의 부상... 실시간 데이터 처리, 보안성 강점
성장세 빨라... “올해 80% 기업이 엣지 AI 설계 검토”
“‘엣지(Edge·말단 기기) 인공지능(AI)’이 미래 기술의 핵심 축으로 자리 잡고 있다.”
박준식 ST마이크로일렉트로닉스 한국지사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘엣지 AI’ 시대가 이미 시작됐으며, 이 기술이 향후 다양한 산업에 혁신을 가져올 것이라고 했다. 엣지 AI는 클라우드에 의존하지 않고 기기 자체에서 데이터를 실시간으로 처리해 소규모 기기에서도 AI를 구동할 수 있는 기술이다.
박 지사장은 ‘엣지 AI 기반의 새로운 AI 시대’를 주제로 한 강연에서 “우리가 인지하지 못하지만 엣지 AI는 이미 우리의 삶에 깊이 들어와 있다”며 “엣지 AI는 클라우드 AI와 달리 네트워크가 불안정하거나 없는 상황에서도 실시간으로 데이터를 처리할 수 있어 웨어러블 기기와 스마트 빌딩 등 다양한 분야에서 사용되고 있다”고 말했다. 그는 엣지 AI가 기기에서 직접 데이터를 처리하므로 지연이 거의 없고, 네트워크를 거치지 않아 보안성과 프라이버시 보호 측면에서 우수하다는 점을 강조했다.
박 지사장은 엣지 AI의 대표적인 사용 사례로 예측 유지보수 시스템을 소개했다. 기기의 모터에 AI 센서를 추가함으로써 미세한 진동 등을 감지해 기기가 고장 나기 전에 유지보수를 안내하는 것이다. 가전 기기의 경우 세탁기에 AI를 탑재, 세탁물의 무게를 예측하고 물·세제 사용을 최적화해 전력 소비를 절감하는 방식도 많이 사용되고 있다. 폐쇄회로(CC)TV에도 엣지 AI를 사용해 실시간으로 보행자 등 객체를 인식하고 매우 적은 전력만으로도 고성능 비디오 분석을 수행하는 기술도 실생활에 활용되고 있다.
웨어러블 기기에서는 임베디드(내장) 엣지 AI와 MCU·MPU 기반의 고성능 엣지 AI가 상호 보완적으로 활용될 수 있다고 박 지사장은 설명했다. 임베디드 엣지 AI는 소규모 기기에서 적은 전력으로 실행할 수 있으며, 배터리 하나로도 수개월에서 1년까지 동작할 수 있다. 반면, MCU·MPU 기반의 엣지 AI는 더 복잡한 연산이 가능하지만, 상대적으로 더 많은 전력을 소모한다. 이에 복잡한 연산이 필요한 경우에는 MCU·MPU 기반의 AI 엣지를 사용하다가 전력 소모가 최소화될 경우에는 임베디드 엣지 AI를 사용하게끔 기기를 개발하는 것이다.
엣지 AI의 성장세는 가파르다. 박 지사장은 “2020년까지는 약 5%의 고객사가 엣지 AI 설계를 도입했으나, 2023년에는 40%로 늘어났고 올해엔 80%의 고객사가 엣지 AI 설계를 검토할 것으로 예상된다”며 “엣지 AI가 기업들의 필수 기술로 자리 잡고 있다”고 설명했다. 그는 “엣지 AI의 확장성은 무궁무진할 것”이라며 “가령 미래형 블랙박스는 주변의 화재, 유리 파손, 동물 침입 등을 실시간으로 감지해 경고하는 등 다양한 추가 기능을 구현할 수 있을 것으로 예상된다”고 말했다.
향후 엣지 AI 개발을 위해서는 생태계 조성이 특히 중요하다고 박 지사장은 강조했다. 그는 “소프트웨어와 하드웨어가 통합된 환경에서 AI 솔루션을 개발해야 한다”며 “다양한 개발 툴과 데이터 처리 시스템이 필요한 상황”이라고 말했다. 그러면서 “생태계가 수반되면 엣지 AI는 클라우드 AI와 상호 보완적인 역할을 통해 스마트 기기, 스마트 팩토리에서 나아가 스마트 시티 등 여러 산업에 적용될 수 있다”며 “앞으로 엣지 AI의 역할과 중요성은 더욱 커질 것”이라고 말했다.
“인공지능(AI) 기술이 두려울 정도로 성장하고 있지만, 새로운 제품을 개발하는 데 투입되는 비용도 기하급수적으로 증가하고 있습니다. 이런 AI 시대에는 개발 비용을 최소화하면서도 제품 가치를 차별화할 수 있도록 지원하는 ‘칩렛 기술’과 ‘개방형 생태계(Open Platform)’ 등에 주목해야 합니다.”
키스 위텍(Keith Witek) 텐스토렌트 최고운영책임자(COO)가 5일 서울 소공동 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘인공지능(AI): 먼저 움직이는 자, 모든 것을 바꾼다(AI, Moving Quickly and Changing Everything)’를 주제로 진행한 기조강연에서 이렇게 말했다.
위텍 COO는 AI 시대에는 고성능 반도체가 필요한 응용처가 갈수록 다각화되고 있다며, 고객사에 최적화된 반도체를 생산할 수 있는 ‘칩렛 기술’의 중요성이 커지고 있다고 설명했다. 칩렛은 여러 개의 반도체를 하나로 묶어 하나의 칩을 생산하는 패키징 기술이다.
위텍 COO는 “AI를 구동하기 위한 고성능 반도체의 중요성이 커지면서 칩의 크기도 커지고, 더 많은 연산 능력을 필요로 하게 된다”며 “25개 정도의 기업들이 생산하는 칩을 레고처럼 묶어 고객사에 빠르게 전달할 수 있고, 인텔이나 퀄컴 같은 대기업의 칩을 주문하지 않아도 최적화된 반도체를 설계할 수 있게 된다. 칩렛 기술을 활용하면 비용도 절감할 수 있고, 결함을 수정하기도 수월하다”고 했다.
그는 “미국과 중동 등 다양한 국가의 기업들에서도 칩렛 기술을 중요하게 고려하고 있다”며 “비용뿐만 아니라 시장에 공급하는 기간도 줄일 수 있는 칩렛 기술은 향후 1조달러(약 1300조원)에 이를 산업으로 성장할 것”이라고 했다.
위텍 COO는 반도체 생산에 투입되는 비용이 기하급수적으로 증가하고 있는 가운데, 개방형 생태계의 중요성도 부각될 것으로 내다봤다. 그는 “반도체를 개발하고 이를 생산하는 데 수백억달러까지 소요되고 있는 추세”라며 “개발 비용을 낮추면서, 보안을 강화하고 제품 가치를 차별화할 수 있는 개방형 생태계가 미래에는 주류를 이룰 것”이라고 했다.
위텍 COO는 AI 시장이 본격 개화되면서 각 기업들은 과거 존재하지 않았던 새로운 비즈니스 모델을 구축하는 것을 고민해야 한다고 강조했다. 그는 “혁신 기업들은 기술에 대해서만 초점을 맞춘 나머지, 비즈니스 모델을 간과하곤 한다”며 “IBM과 같은 거대 기업들도 HP와 애플 등 경쟁사가 등장하며 어려운 시기를 겪었다. 엔비디아와 테슬라가 반도체, 자동차 산업에서 혁신 제품으로 시장을 이끌어가고 있듯이, 이들과 경쟁할 필요가 없는 고객들이 원하는 비즈니스 모델을 구축하는 방안을 고려해야 한다”고 했다.
위텍 COO는 한국이 AI 시대 혁신을 일궈낼 수 있는 토양을 갖췄다고 설명했다. 그는 “한국은 규모와 우수한 교육, 젊은 인재, 자본 등 AI 시대에 필요한 이점을 많이 갖고 있다”며 “많은 실패도 있었지만, 성공을 이룬 실리콘밸리와 유사한 문화를 보유해 AI 시대에 성공할 것”이라고 했다.
“인공지능(AI)이 기업의 생산성을 59% 향상시킬 수 있는 것으로 분석됐다. 이제 경영진에게 AI 교육은 필수다. 경영진부터 AI가 사업을 어떻게 바꿔놓을 수 있을지 배우고 생각해야 한다.”
수미르 바티아 레노버 인프라스트럭처 솔루션 그룹(ISG) 아시아·태평양 사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′ 기조연설에서 이같이 말했다. 레노버 ISG는 AI·고성능 컴퓨팅(HPC) 등 레노버 그룹의 IT 인프라 사업을 담당하고 있다. 한국의 기상청도 레노버의 슈퍼컴퓨터를 활용해 기상 예보와 지진·기후 변화 연구를 진행하고 있다.
바티아 사장은 “AI는 사업 이익도 늘려주는 데다 직원이 시간을 좀 더 효율적으로 쓸 수 있게 만들고, 고객도 더 나은 결과물을 제공받을 수 있게 한다”며 “미국의 대표적인 유통업체 크로거는 AI를 무인 계산대에 적용한 후 결제 오류를 75% 줄였고, 재고 가용성도 극대화 한 것으로 나타났다”고 설명했다.
바티아 사장은 AI의 편의성에도 불구, 많은 기업들이 도입을 주저하고 있다고 지적했다. 그는 “최고투자책임자(CIO)의 83%가 AI의 혁신적인 영향력에 대해 공감하고 있지만, 이들 중 50%만이 AI 도입을 준비하고 있는 것으로 나타났다”며 “AI를 위해 인력을 고용하거나 기술을 연구하는데 어려움을 느끼고 있기 때문”이라고 했다.
바티아 사장은 “기업 내 AI 관련 조직을 만들어 데이터 기반 문화를 구축하고, 여러 팀과 연대해 관련 실험과 탐구를 이어가야 한다”며 “최고정보책임자(CIO)를 포함한 임원은 어떤 AI 모델이 어떻게 구현돼야 조직에 도움을 줄 수 있을지 끊임없이 연구해야 한다”고 말했다.
바티아 사장은 또 “AI는 더 이상 기다려주지 않는다”며 “AI가 당신에게 어떤 도움을 줄 수 있는지 생각하고, 당장 관련 프로젝트를 진행해야 한다”고 강조했다.
오세훈 서울시장이 서울시를 인공지능(AI)을 가장 잘 활용하는 세계 최고의 인공지능 매력도시로 만들기 위해 최선을 다하겠다고 밝혔다.
5일 오 시장은 서울 소공동 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 영상 축사를 통해 이같이 말했다. 오 시장은 “AI 기술의 눈부신 발전은 우리 삶에 많은 변화를 가져오고 있다”며 “AI는 산업과 경제의 영역을 넘어 우리의 일상 곳곳에서 효율성과 생산성을 높이는 아주 중요한 역할을 하고 있다”고 말했다.
오 시장은 “서울시도 스마트한 행정서비스로 시민 편의를 높이는 데 집중하고 있다”며 “출퇴근길 시민의 발이 되어주는 ‘자율주행버스’와 맞춤형 건강관리 서비스인 ‘손목닥터 9988′, 불법 촬영물을 찾아내 삭제하는 ‘AI 디지털 성범죄 삭제 지원 프로그램’은 AI 기술과 행정서비스를 융합한 서울시만의 특별한 정책이다”라고 말했다.
AI 산업을 육성하기 위한 노력에 대해서도 소개했다. 그는 “지난 5월 개관한 ‘서울 AI 허브’는 AI 역량을 총집결하고 특화 기업을 적극 지원하면서 강력한 인공지능 생태계를 구축해나가고 있다”며 “오는 10월에는 첨단기술 전시는 물론, 사람 중심 가치와 철학을 담은 새로운 형태의 ICT(정보통신기술) 박람회인 ‘서울 스마트 라이프 위크’도 개최할 예정”이라고 밝혔다. 또 “세계 도시정부와 글로벌 기업들이 참여하는 글로벌 혁신기술의 장인 이번 박람회가 글로벌 시장을 리딩하는 서울의 모습을 전 세계에 알릴 수 있는 좋은 기회가 될 것으로 기대하고 있다”고 덧붙였다.
“다양한 동작을 인간 수준에서 수행할 수 있는 범용 인공지능(AI) 로보틱스를 구현하려면 새로운 데이터와 새로운 학습 방법이 필요합니다. 어떻게 데이터가 생성되고, 수집되는지, 이를 어떻게 큐레이션할 것인지 생각해야 하는데, 일반세계모델(General world models)을 통해 가능해질 것입니다.”
아니메쉬 가그(Animesh Garg) 미국 조지아공대 교수는 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘생성형 AI로 일반화된 로봇 공학(Generalizable Robotics with Generative AI)’이라는 주제로 기조강연에 나서 이같이 말했다. 일반세계모델은 거대언어모델(LLM), 멀티모달에 이어 AI 개발의 다음 단계로 일컫는 것으로, AI가 일반세계의 물리적 법칙을 이해하도록 학습을 시킨다는 개념이다. 이를 통해 훨씬 효율적이고 뛰어난 성능의 AI를 만들 수 있다는 것이 업계의 시각이다.
가그 교수는 “범용 AI 로봇을 만들려면 구체적으로 무엇을, 어떻게 해야하는지 기억하도록 하는 게 아니라 어떻게 전 세계가 작동하는 지를 학습하게 하는 것이 중요하다”며 “로봇이 인간과 상호작용하게 하는 환경을 만들고 일반세계모델을 만들면 추론을 통해 로봇 스스로 어떤 일이 벌어질지 학습하게 되고 다양한 동작을 할 수 있게 된다”고 말했다. 그렇게 되면 여러 종류의 추론을 스스로 학습하게 되고, 특정한 행동을 학습시키는 것보다 효과가 좋을 수 있다는 것이다.
예컨대 손으로 물병 뚜껑을 열 때 한 손으로는 물병을 잡아야 하고 다른 한 손으로는 뚜껑을 잡고 돌려야 한다. 로봇에게 이 동작을 사진이나 영상으로 학습시킬 수도 있지만, 사진·영상만으로는 동작을 관찰하는 것에 그치고 뚜껑을 여는데 얼마나 힘이 들어가는지는 알 수 없다. 만약 이 과정에서 거대언어모델(LLM)을 활용할 경우에는 환각 현상이 생길 수도 있다는 문제점이 있다. 물병이 아닌 바나나나 사과 등 다른 물체로 인식할 수도 있다는 것이다. 이 때문에 일반세계모델이 중요하다는 것이 가그 교수의 설명이다.
가그 교수는 로봇 스스로 학습하게 하기 위해 차별화된 시뮬레이션 모델을 만들었다고 했다. 그는 “범용 로봇이 병원이든 공장에서든 다양한 일을 할 수 있게 하려면 여러가지 문제점을 해결해야 하는데, 로봇 관련 데이터는 웹사이트나 유튜브에 존재하지 않아 데이터를 만들어줘야 한다”며 “1년 동안 1000개의 로봇이 데이터를 수집해야 하고 1억5000만달러 정도의 비용이 드는데, 문제는 이렇게 한다고 해도 실제로 데이터가 충분할 지 보장이 안된다는 것”이라고 했다.
그러면서 “이를 해결하기 위해 시뮬레이션 모델을 만들었고 범용 시스템을 구축해 실제로 병원에서도 수술용으로도 사용할 수 있게 됐다”며 “이는 애플리케이션이 아니라 애플리케이션의 첫 단계이며, 시뮬레이션은 데이터 수집의 한 단계다. 실제 데이터와 함께 시뮬레이션으로부터 데이터 수집을 하면 확장성이 늘어날 것”이라고 덧붙였다.
“2030년이 되면 전 세계에서 인공지능(AI) 구동에 들어가는 에너지가 전체 전력 소비량의 3.5%에 달할 것입니다. 따라서 생성형(내장형) AI는 온디바이스(On-device)에서 사용할 수 있어야 하며, 이를 기반으로 클라우드에서도 같이 사용할 수 있어야 합니다.”
두르가 말라디(Durga Malladi) 퀄컴 수석부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘모든 곳에서 지능형 컴퓨팅을 가능하게 만들다(Enabling Intelligent Computing Everywhere)’라는 주제로 기조강연에 나섰다.
말라디 수석부사장은 많은 사용자들이 개인화된 AI 경험을 추구하고 있기 때문에 온디바이스 AI가 중요하다고 했다. 예컨대 이용자가 스마트폰으로 최근 의사를 언제 만났는지 질문한다면 이는 민감한 개인정보이기 때문에 클라우드가 아닌 온디바이스에서 구동되는 게 좋다는 것이다. 그는 “맥락화된 정보가 추가로 필요하기 때문에 위치정보, 카메라 데이터 등이 추가로 사용될텐데 보안 측면에서 온디바이스는 강점이 있다”고 덧붙였다.
그러면서 “클라우드가 연결이 원활하게 되지 않는 상황이 있을 수도 있는데, 이용자가 지금 당장 무엇인가를 알아보고 싶거나 대규모 워크로드가 필요한 경우에도 온디바이스 AI가 강점이 있다”면서 “생성형 AI 구동으로 인한 부하를 엣지 또는 클라우드로 분산시킬 수 있어 이용자들이 누리고 싶어하는 서비스를 다 누릴 수 있도록 할 수도 있다”고 말했다.
그는 생성형 AI로 인한 경제적 이익은 연간 2조6000억~4조4000억달러에 달하며 이는 영국의 2021년 GDP(국내총생산)와 같다”며 “이에 따라 에너지 절감도 전 산업에 걸쳐서 노력해야 하는 상황이다”라고 전했다.
그러면서 “퀄컴은 고성능 컴퓨터를 에너지 효율적으로 개발해왔고 이에 자부심이 있다”며 “대규모 AI 모델들이 개발되고 있는데 온디바이스에서 에너지 효율적인 방법으로 구현을 잘 할 수 있도록 고민하고 있다”라고 했다. 또 “스마트폰, 노트북, 태블릿PC, XR(확장현실) 기기, 자율주행차 등 모든 기기에서 구동이 가능하도록 지속적으로 노력해왔다”며 “일단 특정 플랫폼에서 구동이 가능해지면 다른 플랫폼으로 확장이 수월해진다”고 덧붙였다.
말라디 부사장은 “온디바이스 AI에서 퀄컴은 선두 주자로서 책임있는 AI 구현을 위해 노력하고 있다”라며 “개인정보 보호는 물론이고 표준화된 기준을 마련해 안정성을 높이고자 하고 있다”고 했다. 또 “에너지 효율적인 방식으로 연산이 이뤄질 수 있도록 다양한 방법이나 기술들을 고안해내고 있다”고 말했다.
“HP는 ‘기업을 위한 인공지능(AI), 공간을 위한 AI, 사람을 위한 AI’를 제공한다. 여기서 AI는 ‘로컬’로 운용하는 것이 중요하다. 전 세계가 로컬 컴퓨팅부터 클라우드까지 매끄럽게 연결되어야 한다.”
짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘미래를 대비하는 AI(Future Ready AI)’를 주제로 기조강연에 나섰다. 세계 2위 PC 제조사인 HP는 오늘날 전통적인 하드웨어 중심 사업 모델에서 벗어나 인공지능(AI) 플랫폼 기업으로 정체성을 재정비하고 있다.
노팅엄 수석부사장은 이날 HP가 집중하고 있는 AI 혁신의 3가지 분야로 ▲기업 ▲공간 ▲사람을 꼽았다. 그는 “오늘날 거의 대부분의 기업이 AI를 활용하려고 노력하고 있고, 독점적인 데이터를 이용해 다양한 모델을 생성하면서 기업 운영의 생산성을 전반적으로 향상시키려는 목표를 가지고 있다”면서 “기업이 신뢰할 수 있는, 그들에게 적합한 프라이빗 모델을 제공하는 게 우리의 숙제”라고 했다.
노팅엄 수석부사장은 이어 “어떤 제품이 진정한 가치를 가지고 있는지, 실질적인 비즈니스 결과를 도출할 수 있는지는 고객만이 안다”면서 “혁신의 여부는 고객만이 판단 내릴 수 있다. 고객의 상황에 적합한 프라이빗 모델 만들어주는 것이 우리의 역할”이라고 했다.
노팅엄 수석부사장은 고객과의 협업과 함께 AI 생태계에서 신뢰성을 높이는 것도 중요한 과제라고 강조했다. 그는 “AI의 발전과 함께 고도의 사이버 공격과 피싱 공격도 증가하고 있다”면서 “사람들은 AI 툴(tool)을 적극적으로 사용하면서도 온라인 공격에서 개인정보 등은 보호하고자 하는 니즈 역시 동시에 증가한다”면서 “앞으로는 독자적 데이터를 바탕으로 학습하는 AI 모델이 신뢰 문제를 담보하는 게 중요해진다”고 했다.
AI 시대에서 AI 플랫폼 기업으로 탈바꿈하고 있는 HP는 AI의 현주소에 주목하고 있다. HP가 엔비디아와 함께한 조사 결과에 따르면, 응답자의 약 33%만 ‘현재의 AI 툴에 만족한다’고 했고, 나머지는 ‘업무에 활용하기 위해선 개선의 여지가 필요하다’고 답했다.
노팅엄 수석부사장은 설문 결과를 예로 들면서 “기업이 새로운 AI 기술을 기존에 가지고 있던 프로세스와 통합시키는 것은 절대 쉬운 일이 아니다”라면서 “AI 관련 투자대비수익률(ROI)을 정확하게 알아야 (기업 입장에서도) 이에 맞는 AI 툴 배포가 가능하고, 이와 더불어 현장에서 충분히 활용 가능하도록 만드는 교육과 훈련 등 이행의 문제가 있다. 이 부분이 개선되어야 진정한 의미의 가치를 제공 가능할 것”이라고 했다.
그렇다면 AI는 어떻게 실질적인 가치를 제공할 수 있을까. 노팅엄 수석부사장은 ‘로컬’에 답이 있다고 했다. 그는 “AI의 발전은 지속적으로 많은 변화를 가져오고 개인용 컴퓨터부터 클라우드까지 하이브리드 컴퓨팅 생태계 전체를 흔들 것”이라면서 “여기서 성공의 관건은 AI를 로컬하게 운용하고 클라우드로 연결하는 것”이라고 했다.
그는 “로컬 AI와 로컬 컴퓨팅을 적절하게 활용하면 비용 뿐 아니라 에너지 절감도 가능하다”면서 “특정 사례를 확장시킬 수도 있고 여러 조작이 가능하도록 연결도 가능하다”면서 “방어벽 뒷단의 독점적 데이터를 활용하면서도 보안 정도를 높일 수 있고, 훨씬 저렴한 비용으로 원하는 결과를 낼 수 있을 것”이라고 했다.
노팅엄 수석부사장은 마지막으로 “PC 디바이스 사용 과정에서 로컬 AI에 최적화된 성능이 생기기에 사람들의 PC 사용 경험에도 획기적인 변화가 일어날 것”이라고 예측했다.
그는 “양측을 다 적절히 활용하고 끊김 없이 하이브리드로 연결하는 게 중요하다”면서 이를 확인하기 위해 다시 한번 사람에 대한 중요성을 강조했다. 그는 “기업 생산성 향상이 목표지만 그 가운데는 사람이 있다”면서 “성공 여부를 판단하기 위해선 사람(고객)과의 상호작용과 협업이 무엇보다도 중요하다. 고객들이 어떤 문제를 고민하고 있고, 무슨 워크플로우를 가지고 있는지, 또 실질적인 비즈니스 결과는 어떻게 도출하고 있는지 등을 확인 가능하도록 고객과의 협업과 상호작용은 필수적인 요소”라고 덧붙였다.
“이번 달 출범하는 ‘국가 인공지능(AI) 위원회’를 통해 국가 AI 역량을 총결집할 수 있도록 최선을 다하겠습니다. AI 산업 육성과 안전·신뢰 기반 조성을 고려한 AI 기본법 제정도 적극 지원하도록 하겠습니다.”
강도현 과학기술정보통신부 제2차관은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′ 축사에서 “한국이 글로벌 AI G3로 도약하고 국가 전반에 AI 경쟁력을 강화하기 위해서는 벤처 기업과 스타트업이 성장할 수 있는 제도를 마련하는 등 민간과 정부가 긴밀히 협력하고 역량을 결집하는 것이 필요하다”면서 이같이 말했다.
강 차관은 “지난해 초부터 본격적으로 시작된 새로운 AI 기술과 서비스의 출현은 그 잠재성과 영향력에 있어 전례가 없는 범위와 속도로 우리 삶을 변화시킬 것임을 예고하고 있다”며 “교육과 의료, 물류, 제조 등 전방위적으로 기존 서비스의 패러다임을 뛰어넘는 생성형 AI 기반 서비스가 앞다퉈 출시되고 있고, 경제와 사회 그리고 문화 전반에 혁신과 격변이 예상되고 있다”고 했다.
강 차관은 이어 “반도체와 전력설비, 데이터센터 등의 기존 산업은 AI로 인해 예상을 뛰어넘는 규모로 성장하고 있다”며 “특히 클라우드는 AI를 구현하기 위한 핵심 인프라로서 새롭게 열리는 시장과 생태계의 중심에서 제2의 성장 기회를 맞이하고 있다”고 했다.
강 차관은 AI 산업 성장을 위해 정부가 적극 협력하겠다고 전했다. 그는 “올해는 초고속 정보통신망 구축 계획을 발표한 지 딱 30년이 되는 해”라며 “30년을 지나오며 정부도 많은 시행착오를 겪었지만, 현재 경쟁력을 갖춘 나라가 됐다. 그때처럼 이제는 다시 새롭게 도전할 AI 시대가 도래했다”고 했다.
그러면서 그는 “인류가 자동차의 엔진 속도를 규제했으면, 달나라에 가지 못했을 것이지만 ‘브레이크’라는 제도를 도입해 자동차의 안전을 보장했다”며 “과기정통부도 관계부처와 적극적으로 협조해 AI의 안전한 혁신과 경쟁의 장을 형성할 수 있는 제도를 마련할 수 있도록 지원할 것”이라고 했다.