국내 최대 테크 콘퍼런스, 5일 서울 소공동 웨스틴조선호텔서 성황리에 폐막
‘AI 시대 새로운 기회들’ 주제로
HP, 퀄컴, 레노버, 텐스토렌트 등 글로벌 빅테크 실세 총출동
“‘로컬 AI·컴퓨팅’을 활용하면 비용과 에너지를 크게 절감할 수 있다. 그 기반에는 기업(고객)이 신뢰하는 프라이빗 모델 제공해야 한다.”(짐 노팅엄 HP 수석부사장)
“대규모 워크로드가 필요한 경우에도 온디바이스(내장형) AI가 절대적인 강점이 있다.”(두르가 말라디 퀄컴 수석부사장)
“인간 수준의 범용 AI 로보틱스를 구현하려면 새로운 데이터와 새로운 학습 방법이 필요하다.”(아니메쉬 가그 미국 조지아공대 교수)
“딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 왔다. 챗GPT 무료모델에서 실망한 수요가 우리로 넘어오고 있어서 기회를 보고 있다.”(케빈 바라고나 딥AI(DeepAI) 최고경영자(CEO))
5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′가 ‘인공지능(AI) 시대 새로운 기회들(New Opportunities in the Age of AI)’이라는 주제로 열린 가운데 이른 아침부터 정부, 학계, 산업계 관계자 300여명이 참석해 성황리에 열렸다.
올해 행사에는 세계 1·2위 PC 제조업체인 레노버와 HP, 세계 최대 모바일 반도체 기업 퀄컴을 비롯한 글로벌 빅테크 기업의 핵심 임원들이 총출동했다. 과학기술정보통신부가 주최하고, 조선비즈와 정보통신산업진흥원(NIPA)이 주관한 올해 행사는 오후 6시까지 총 15개 강연 세션이 마련 됐으며, 행사가 끝나는 시간까지 자리를 지키는 관객들이 많았다.
최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)은 이날 축사에서 “AI와 클라우드는 기업, 언론, 정책 전문가들이 함께 책임을 지고 추진해야 할 과제”라면서 “대한민국이 제조업 강국의 입지를 활용해 초거대 AI 산업 발전을 추진하겠다”고 했다. 강도현 과학기술정보통신부 제2차관은 “9월 출범하는 ‘국가 인공지능(AI) 위원회’를 통해 국가 AI 역량을 총결집할 수 있도록 최선을 다하겠다”면서 “AI 산업 육성과 안전·신뢰 기반 조성을 고려한 AI 기본법 제정도 적극 지원하겠다”고 약속했다. 오세훈 서울시장은 온라인 축사에서 “인공지능(AI)을 가장 잘 활용하는 세계 최고의 인공지능 매력도시로 서울을 탈바꿈 시키겠다”면서 “스마트한 행정서비스로 시민 편의를 높이는 데 집중하겠다”고 전했다.
◇ “온디바이스AI·오픈 플랫폼·로컬 컴퓨팅”… 해결법은 다르지만 핵심은 ‘고객 이해’
기조연설자들은 생성형 AI 경쟁이 심화되고 있는 오늘날, 사업 시작 단계를 넘어 수익화 단계로 접어들고 있는 상황에서 혁신에 성공할 수 있는 비법을 공유했다. 이들은 각자 다른 방식의 해결책을 내놓았으나, 공통적으로 고객으로부터 답을 얻어야한다고 했다.
짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장은 HP가 집중하고 있는 AI 혁신의 3가지 분야로 ▲기업 ▲공간 ▲사람을 꼽았다. 그는 “AI는 이 세 분야에서 ‘로컬’로 운용하는 것이 중요하고, 전 세계가 로컬 컴퓨팅부터 클라우드까지 매끄럽게 연결되어야 성공 가능하다”면서 “가장 우선적으로는 고객을 이해하고 그들과 협업을 통해 해결 전했다. 세계 2위 PC 제조사인 HP는 오늘날 전통적인 하드웨어 중심 사업 모델에서 벗어나 인공지능(AI) 플랫폼 기업으로 정체성을 재정비하고 있다.
두르가 말라디 퀄컴 수석부사장은 “사용자들이 개인화된 AI 경험을 추구하고 있기 때문에 온디바이스(On-device) AI가 무엇보다 중요하다”고 강조했다. 그는 “생성형 AI 구동으로 인한 부하를 엣지 또는 클라우드로 분산시킬 수 있어 이용자들이 누리고 싶어하는 서비스를 다 누릴 수 있도록 할 수 있다”고 덧붙였다.
아니메쉬 가그 교수는 거대언어모델(LLM), 멀티모달에 이어 AI 개발의 다음 단계로 알려진 ‘일반세계모델(General world models)’에 대해 소개했다. 그는 “범용 AI 로봇을 만들려면 구체적으로 무엇을, 어떻게 해야하는지 기억하도록 하는 게 아니라 어떻게 전 세계가 작동하는 지를 학습하게 하는 것이 중요하다”며 “로봇이 인간과 상호작용하게 하는 환경을 만들면 로봇은 스스로 추론을 하고 다양한 동작을 한다”고 했다.
케빈 바라고나 딥AI(DeepAI) 창업자 겸 최고경영자(CEO)는 “딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 왔다”면서 “이제 AI 모델 자체는 특정 기술보다 저렴한 컴퓨팅 자원을 어떻게 활용하느냐에 따라 성과가 달라질 것”이라고 내다봤다.
수미르 바티아 레노버 인프라스트럭처 솔루션 그룹(ISG) 아시아·태평양 사장은 AI의 편의성에도 불구, 많은 기업들이 도입을 주저하고 있다고 지적했다. 그는 이어 “이제 경영진에게 AI 교육은 필수”라면서 “인공지능(AI)이 기업의 생산성을 59% 향상시킬 수 있는 것으로 분석됐다. 경영진부터 AI가 사업을 어떻게 바꿔놓을 수 있을지 배우고 생각해야 한다”고 전했다.
김준우 라이너 대표는 “고객 중심의 접근이 필수적”이라면서 많은 기업들이 AI 기술의 우수성에 집중하는 경향이 있지만, 고객이 원하는 것은 문제가 빠르고 저렴하게 해결되는 것”이라고 했다. 2015년에 설립한 AI 스타트업 라이너는 주로 미국과 한국에서 생성형 AI 기반 검색 및 정보 큐레이션 서비스를 제공하고 있다.
◇ 생성형 AI 무한 경쟁 시대… 미래를 선도할 신기술 소개
미국 서버 제조업체 슈퍼마이크로는 비전도성 액체 속에 데이터센터 서버를 침전시켜 열을 식히는 이른바 ‘액침 냉각(Immersion Cooling)’ 방식을 사용한다. 빅 말얄라 슈퍼마이크로 비즈니스 개발 부문 수석부사장은 “데이터센터가 전 세계 전력의 1.5~3%에 해당하는 전기를 잡아먹는데, 이런 사례를 보듯 우리는 (열을) 얼마든지 창의적으로 활용 가능하다. 공기가 아닌 액체를 사용해 냉각하는 기술이 세상을 바꾸고 환경을 지킬 것이다.
키스 위텍(Keith Witek) 텐스토렌트 최고운영책임자(COO)는 “AI를 구동하기 위한 고성능 반도체의 중요성이 커지면서 수많은 비용이 들고있다”면서 “개발 비용을 최소화하면서도 제품 가치를 차별화할 수 있도록 지원하는 ‘칩렛 기술’과 ‘개방형 생태계(Open Platform)’ 등에 주목해야한다”고 했다.
SK텔레콤의 비전R&D를 이끄는 양승지 담당(부사장)은 “엣지 컴퓨팅의 컴퓨팅 파워가 제한적이기 때문에 엣지와 클라우드 간의 균형을 지속적으로 맞춰야 하며, 균형을 맞추더라도 AI 시스템을 지속적으로 개선해야 한다”면서 “AI 모델이 배포된 후에도 지속적으로 데이터를 수집해 어떤 부분에서 약점이 있는지를 분석하고 있다”고 말했다.
신동훈 KT AI2XL AI코어 기술 담당(상무)는 “KT는 고객사를 위해 데이터 준비부터 AI 모델 학습, 배포까지 한 번에 진행할 수 있는 ‘올인원’ 서비스를 개발했다”며 “서비스 공급 전 과정에 대한 보안을 강화했고, AI가 내놓는 결과물에 대한 윤리성도 확보했다”고 소개했다.
박준식 ST마이크로일렉트로닉스 한국지사장은 “‘엣지(Edge·말단 기기) 인공지능(AI)’이 미래 기술의 핵심 축으로 자리 잡고 있다”고 소개하고 “생태계가 수반되면 엣지 AI는 클라우드 AI와 상호 보완적인 역할을 통해 스마트 기기, 스마트 팩토리에서 나아가 스마트 시티 등 여러 산업에 적용될 수 있을 것”이라고 했다.
‘2024 스마트클라우드쇼’ 패널 토의
“인간과 상호작용하는 로봇, 우리 생활 일부분 될 것”
“AI 위험성 커져 글로벌 차원 규제 및 협력 필요”
"로봇의 능력은 생성형 인공지능(AI)으로 급속히 발전하고 있으며, 이제는 인간과 자연스럽게 상호작용할 수 있는 시대가 머지않았다."
5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI 로봇과 인간과의 상호작용, AI 발전에 따른 윤리적 문제 등이 다뤄졌다. 이날 패널 토의에는 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI(DeepAI) CEO가 참석했다.
좌장을 맡은 유창동 카이스트 전기 및 전자공학부 교수는 AI가 우리 삶에 미치는 영향을 언급하며 토론을 시작했다. 그는 “AI는 이제 음악과 미술 같은 창의적 작업을 수행할 수 있을 만큼 발전했다”며 “AI가 앞으로 인간과 자연스럽게 상호작용할 날이 머지않았다”고 말했다.
그러면서 유 교수는 가그 교수에게 인간과 로봇이 언제쯤 어떻게 상호작용할 수 있을지 질문했다. 가그 교수는 “로봇이 인간과 협업할 수 있는 방식이 빠르게 발전하고 있으며, 현재의 기술 발전 속도로 보면 2년에서 5년 내에 상용화될 가능성이 높다”고 답변했다. 이어 “지난 10년간 로봇 기술이 급속히 발전해, 과거에는 불가능했던 옷 접기나 음식 손질과 같은 작업을 이제는 로봇이 수행할 수 있게 됐다”고 덧붙였다.
가그 교수는 자율주행차 연구의 발전을 예로 들며 “처음에는 제어와 계획에 중점을 두었던 연구가 이제는 세상을 이해하고 해석하는 문제로 발전했다”며 “이와 같은 변화가 대규모언어모델(LLM)에도 적용되고 있다”고 말했다. 그러면서 “LLM의 발전으로 조만간 인간과 자연스럽게 상호작용할 수 있는 로봇이 등장해 우리 생활의 일부분이 될 것”이라고 했다.
바라고나 딥AI CEO는 AI 개발의 윤리적 문제와 이를 해결하기 위한 글로벌 협력 방안에 대해 설명했다. 바라고나 CEO는 “AI의 발전이 빠르게 이루어지고 있지만, 그 과정에서 발생하는 윤리적 문제는 필연적이며, 이를 해결하기 위한 국제적 협력이 필수적”이라고 말했다.
그는 지난해 초 전 세계적으로 AI 훈련 실험을 잠시 멈추자는 제안을 했지만, 현실적으로 AI 개발 중단은 어렵다고 밝혔다. 바라고나 CEO는 “전 세계가 AI 발전을 원하고 있기 때문에 중단은 사실상 불가능하다”며 “AI가 더욱 강력해질수록 그에 따른 위험성도 커질 수 있으며, 이를 방지하기 위한 글로벌 차원의 규제와 협력이 반드시 필요하다”고 강조했다.
유 교수는 짐 노팅엄 수석부사장에게 AI의 신뢰성과 윤리적 사용을 위한 HP의 노력을 물었다.
노팅엄 수석부사장은 “HP는 AI 윤리 부서를 설립해 공정성과 신뢰성을 확보하기 위한 다양한 도구와 정책을 마련하고 있다”며 “AI 도구에는 편향성과 드리프트를 방지하고 환각 상태를 차단하는 기술이 포함되어 있다”고 밝혔다. 이어 “HP는 규제 산업에서도 AI 모델의 신뢰성을 검증하기 위해 파트너들과 협력하고 있다”고 덧붙였다.
노팅엄 수석부사장은 AI 개발자들이 협업하는 과정에서 발생하는 어려움과 이를 해결하기 위한 HP의 솔루션을 제시했다. 그는 “많은 AI 개발자들이 고성능 워크스테이션에서 작업을 하고 있다”면서 “HP의 AI 크리에이션 센터가 제공하는 AI 스튜디오는 데이터 과학자들이 다양한 인프라, 특히 클라우드 상에서 협업할 수 있는 통합 도구”라고 말했다.
“2030년이 되면 전 세계에서 인공지능(AI) 구동에 들어가는 에너지가 전체 전력 소비량의 3.5%에 달할 것입니다. 따라서 생성형(내장형) AI는 온디바이스(On-device)에서 사용할 수 있어야 하며, 이를 기반으로 클라우드에서도 같이 사용할 수 있어야 합니다.”
두르가 말라디(Durga Malladi) 퀄컴 수석부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘모든 곳에서 지능형 컴퓨팅을 가능하게 만들다(Enabling Intelligent Computing Everywhere)’라는 주제로 기조강연에 나섰다.
말라디 수석부사장은 많은 사용자들이 개인화된 AI 경험을 추구하고 있기 때문에 온디바이스 AI가 중요하다고 했다. 예컨대 이용자가 스마트폰으로 최근 의사를 언제 만났는지 질문한다면 이는 민감한 개인정보이기 때문에 클라우드가 아닌 온디바이스에서 구동되는 게 좋다는 것이다. 그는 “맥락화된 정보가 추가로 필요하기 때문에 위치정보, 카메라 데이터 등이 추가로 사용될텐데 보안 측면에서 온디바이스는 강점이 있다”고 덧붙였다.
그러면서 “클라우드가 연결이 원활하게 되지 않는 상황이 있을 수도 있는데, 이용자가 지금 당장 무엇인가를 알아보고 싶거나 대규모 워크로드가 필요한 경우에도 온디바이스 AI가 강점이 있다”면서 “생성형 AI 구동으로 인한 부하를 엣지 또는 클라우드로 분산시킬 수 있어 이용자들이 누리고 싶어하는 서비스를 다 누릴 수 있도록 할 수도 있다”고 말했다.
그는 생성형 AI로 인한 경제적 이익은 연간 2조6000억~4조4000억달러에 달하며 이는 영국의 2021년 GDP(국내총생산)와 같다”며 “이에 따라 에너지 절감도 전 산업에 걸쳐서 노력해야 하는 상황이다”라고 전했다.
그러면서 “퀄컴은 고성능 컴퓨터를 에너지 효율적으로 개발해왔고 이에 자부심이 있다”며 “대규모 AI 모델들이 개발되고 있는데 온디바이스에서 에너지 효율적인 방법으로 구현을 잘 할 수 있도록 고민하고 있다”라고 했다. 또 “스마트폰, 노트북, 태블릿PC, XR(확장현실) 기기, 자율주행차 등 모든 기기에서 구동이 가능하도록 지속적으로 노력해왔다”며 “일단 특정 플랫폼에서 구동이 가능해지면 다른 플랫폼으로 확장이 수월해진다”고 덧붙였다.
말라디 부사장은 “온디바이스 AI에서 퀄컴은 선두 주자로서 책임있는 AI 구현을 위해 노력하고 있다”라며 “개인정보 보호는 물론이고 표준화된 기준을 마련해 안정성을 높이고자 하고 있다”고 했다. 또 “에너지 효율적인 방식으로 연산이 이뤄질 수 있도록 다양한 방법이나 기술들을 고안해내고 있다”고 말했다.
퀄컴 테크날러지 Inc. 수석 부사장 겸 기술 기획 및 엣지 솔루션 부문 본부장
퀄컴 테크놀로지 시니어 디렉터·AI/ML 제품 관리 총괄
