국내 최대 테크 콘퍼런스, 5일 서울 소공동 웨스틴조선호텔서 성황리에 폐막
‘AI 시대 새로운 기회들’ 주제로
HP, 퀄컴, 레노버, 텐스토렌트 등 글로벌 빅테크 실세 총출동

“‘로컬 AI·컴퓨팅’을 활용하면 비용과 에너지를 크게 절감할 수 있다. 그 기반에는 기업(고객)이 신뢰하는 프라이빗 모델 제공해야 한다.”(짐 노팅엄 HP 수석부사장)

“대규모 워크로드가 필요한 경우에도 온디바이스(내장형) AI가 절대적인 강점이 있다.”(두르가 말라디 퀄컴 수석부사장)

“인간 수준의 범용 AI 로보틱스를 구현하려면 새로운 데이터와 새로운 학습 방법이 필요하다.”(아니메쉬 가그 미국 조지아공대 교수)

“딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 왔다. 챗GPT 무료모델에서 실망한 수요가 우리로 넘어오고 있어서 기회를 보고 있다.”(케빈 바라고나 딥AI(DeepAI) 최고경영자(CEO))

5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′가 ‘인공지능(AI) 시대 새로운 기회들(New Opportunities in the Age of AI)’이라는 주제로 열린 가운데 이른 아침부터 정부, 학계, 산업계 관계자 300여명이 참석해 성황리에 열렸다.

올해 행사에는 세계 1·2위 PC 제조업체인 레노버와 HP, 세계 최대 모바일 반도체 기업 퀄컴을 비롯한 글로벌 빅테크 기업의 핵심 임원들이 총출동했다. 과학기술정보통신부가 주최하고, 조선비즈와 정보통신산업진흥원(NIPA)이 주관한 올해 행사는 오후 6시까지 총 15개 강연 세션이 마련 됐으며, 행사가 끝나는 시간까지 자리를 지키는 관객들이 많았다.

최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)은 이날 축사에서 “AI와 클라우드는 기업, 언론, 정책 전문가들이 함께 책임을 지고 추진해야 할 과제”라면서 “대한민국이 제조업 강국의 입지를 활용해 초거대 AI 산업 발전을 추진하겠다”고 했다. 강도현 과학기술정보통신부 제2차관은 “9월 출범하는 ‘국가 인공지능(AI) 위원회’를 통해 국가 AI 역량을 총결집할 수 있도록 최선을 다하겠다”면서 “AI 산업 육성과 안전·신뢰 기반 조성을 고려한 AI 기본법 제정도 적극 지원하겠다”고 약속했다. 오세훈 서울시장은 온라인 축사에서 “인공지능(AI)을 가장 잘 활용하는 세계 최고의 인공지능 매력도시로 서울을 탈바꿈 시키겠다”면서 “스마트한 행정서비스로 시민 편의를 높이는 데 집중하겠다”고 전했다.

스마트클라우드쇼 2024
스마트클라우드쇼 2024

◇ “온디바이스AI·오픈 플랫폼·로컬 컴퓨팅”… 해결법은 다르지만 핵심은 ‘고객 이해’

기조연설자들은 생성형 AI 경쟁이 심화되고 있는 오늘날, 사업 시작 단계를 넘어 수익화 단계로 접어들고 있는 상황에서 혁신에 성공할 수 있는 비법을 공유했다. 이들은 각자 다른 방식의 해결책을 내놓았으나, 공통적으로 고객으로부터 답을 얻어야한다고 했다.

짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장은 HP가 집중하고 있는 AI 혁신의 3가지 분야로 ▲기업 ▲공간 ▲사람을 꼽았다. 그는 “AI는 이 세 분야에서 ‘로컬’로 운용하는 것이 중요하고, 전 세계가 로컬 컴퓨팅부터 클라우드까지 매끄럽게 연결되어야 성공 가능하다”면서 “가장 우선적으로는 고객을 이해하고 그들과 협업을 통해 해결 전했다. 세계 2위 PC 제조사인 HP는 오늘날 전통적인 하드웨어 중심 사업 모델에서 벗어나 인공지능(AI) 플랫폼 기업으로 정체성을 재정비하고 있다.

두르가 말라디 퀄컴 수석부사장은 “사용자들이 개인화된 AI 경험을 추구하고 있기 때문에 온디바이스(On-device) AI가 무엇보다 중요하다”고 강조했다. 그는 “생성형 AI 구동으로 인한 부하를 엣지 또는 클라우드로 분산시킬 수 있어 이용자들이 누리고 싶어하는 서비스를 다 누릴 수 있도록 할 수 있다”고 덧붙였다.

아니메쉬 가그 교수는 거대언어모델(LLM), 멀티모달에 이어 AI 개발의 다음 단계로 알려진 ‘일반세계모델(General world models)’에 대해 소개했다. 그는 “범용 AI 로봇을 만들려면 구체적으로 무엇을, 어떻게 해야하는지 기억하도록 하는 게 아니라 어떻게 전 세계가 작동하는 지를 학습하게 하는 것이 중요하다”며 “로봇이 인간과 상호작용하게 하는 환경을 만들면 로봇은 스스로 추론을 하고 다양한 동작을 한다”고 했다.

케빈 바라고나 딥AI(DeepAI) 창업자 겸 최고경영자(CEO)는 “딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 왔다”면서 “이제 AI 모델 자체는 특정 기술보다 저렴한 컴퓨팅 자원을 어떻게 활용하느냐에 따라 성과가 달라질 것”이라고 내다봤다.

스마트클라우드쇼 2024
스마트클라우드쇼 2024

수미르 바티아 레노버 인프라스트럭처 솔루션 그룹(ISG) 아시아·태평양 사장은 AI의 편의성에도 불구, 많은 기업들이 도입을 주저하고 있다고 지적했다. 그는 이어 “이제 경영진에게 AI 교육은 필수”라면서 “인공지능(AI)이 기업의 생산성을 59% 향상시킬 수 있는 것으로 분석됐다. 경영진부터 AI가 사업을 어떻게 바꿔놓을 수 있을지 배우고 생각해야 한다”고 전했다.

김준우 라이너 대표는 “고객 중심의 접근이 필수적”이라면서 많은 기업들이 AI 기술의 우수성에 집중하는 경향이 있지만, 고객이 원하는 것은 문제가 빠르고 저렴하게 해결되는 것”이라고 했다. 2015년에 설립한 AI 스타트업 라이너는 주로 미국과 한국에서 생성형 AI 기반 검색 및 정보 큐레이션 서비스를 제공하고 있다.

◇ 생성형 AI 무한 경쟁 시대… 미래를 선도할 신기술 소개

미국 서버 제조업체 슈퍼마이크로는 비전도성 액체 속에 데이터센터 서버를 침전시켜 열을 식히는 이른바 ‘액침 냉각(Immersion Cooling)’ 방식을 사용한다. 빅 말얄라 슈퍼마이크로 비즈니스 개발 부문 수석부사장은 “데이터센터가 전 세계 전력의 1.5~3%에 해당하는 전기를 잡아먹는데, 이런 사례를 보듯 우리는 (열을) 얼마든지 창의적으로 활용 가능하다. 공기가 아닌 액체를 사용해 냉각하는 기술이 세상을 바꾸고 환경을 지킬 것이다.

키스 위텍(Keith Witek) 텐스토렌트 최고운영책임자(COO)는 “AI를 구동하기 위한 고성능 반도체의 중요성이 커지면서 수많은 비용이 들고있다”면서 “개발 비용을 최소화하면서도 제품 가치를 차별화할 수 있도록 지원하는 ‘칩렛 기술’과 ‘개방형 생태계(Open Platform)’ 등에 주목해야한다”고 했다.

SK텔레콤의 비전R&D를 이끄는 양승지 담당(부사장)은 “엣지 컴퓨팅의 컴퓨팅 파워가 제한적이기 때문에 엣지와 클라우드 간의 균형을 지속적으로 맞춰야 하며, 균형을 맞추더라도 AI 시스템을 지속적으로 개선해야 한다”면서 “AI 모델이 배포된 후에도 지속적으로 데이터를 수집해 어떤 부분에서 약점이 있는지를 분석하고 있다”고 말했다.

신동훈 KT AI2XL AI코어 기술 담당(상무)는 “KT는 고객사를 위해 데이터 준비부터 AI 모델 학습, 배포까지 한 번에 진행할 수 있는 ‘올인원’ 서비스를 개발했다”며 “서비스 공급 전 과정에 대한 보안을 강화했고, AI가 내놓는 결과물에 대한 윤리성도 확보했다”고 소개했다.

박준식 ST마이크로일렉트로닉스 한국지사장은 “‘엣지(Edge·말단 기기) 인공지능(AI)’이 미래 기술의 핵심 축으로 자리 잡고 있다”고 소개하고 “생태계가 수반되면 엣지 AI는 클라우드 AI와 상호 보완적인 역할을 통해 스마트 기기, 스마트 팩토리에서 나아가 스마트 시티 등 여러 산업에 적용될 수 있을 것”이라고 했다.

#스마트클라우드쇼 2024

= 전효진 기자

최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 축사를 하고 있다./조선비즈
최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 축사를 하고 있다./조선비즈

"방송이 AI(인공지능)와 클라우드의 발목을 잡고 있는 형국입니다."

최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′ 축사에서 방송이 AI와 클라우드 기술의 발전을 저해하고 있는 상황을 비판하면서 이같이 말했다.

최 의원은 “국회에서는 여당이 소수당이 되어 힘이 부족한 상황”이라며 “지난 3개월 동안 과방위는 공영방송사 이사진 임기 연장 문제로 싸움을 벌였지만, 정작 중요한 AI·클라우드 관련 사항들은 제대로 진행하지 못했다”고 밝혔다.

이어 “상임위를 방송에서 분리하고 싶은 생각도 있지만, 그렇게 되면 상임위 자체가 마비될 수 있어 쉽지 않다”고 덧붙였다.

최 위원은 “AI와 클라우드는 우리 문명사적 전환기에 매우 중요한 역할을 할 것으로 기업, 언론, 정책 전문가들이 함께 책임을 지고 추진해야 할 과제”라고 강조했다. 그러면서 대한민국이 제조업 강국의 입지를 활용해 초거대 AI 산업 발전을 추진하고 있음을 언급했다.

최 의원은 “마산은 대한민국 최초의 자유무역지역이자 디지털 자유무역지역으로 지정된 곳”이라며 “현재 마산에서는 메가존클라우드, 마이크로소프트(MS), 아마존웹서비스(AWS), SAP, 구글 등 글로벌 기업들과 함께 초거대 제조업 AI 글로벌 실전센터를 운영하고 있다”고 설명했다.

이어 “한화에어로스페이스, 두산에너빌리티, 현대로템, LG전자 등 세계적인 제조 기업들이 밀집해 있는 창원, 마산, 경남 일원에서 나오는 제조 데이터를 통해 AI 기술을 접목할 수 있다면, 대한민국은 제조 강국에서 AI 대국으로 도약할 수 있을 것”이라고 덧붙였다.

#스마트클라우드쇼 2024

= 이경탁 기자

‘2024 스마트클라우드쇼’ 패널 토의
“인간과 상호작용하는 로봇, 우리 생활 일부분 될 것”
“AI 위험성 커져 글로벌 차원 규제 및 협력 필요”

5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에는 (왼쪽부터) 유창동 카이스트 전기 및 전자공학부 교수, 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI CEO가 참여했다./조선비즈
5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에는 (왼쪽부터) 유창동 카이스트 전기 및 전자공학부 교수, 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI CEO가 참여했다./조선비즈

"로봇의 능력은 생성형 인공지능(AI)으로 급속히 발전하고 있으며, 이제는 인간과 자연스럽게 상호작용할 수 있는 시대가 머지않았다."

5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI 로봇과 인간과의 상호작용, AI 발전에 따른 윤리적 문제 등이 다뤄졌다. 이날 패널 토의에는 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI(DeepAI) CEO가 참석했다.

좌장을 맡은 유창동 카이스트 전기 및 전자공학부 교수는 AI가 우리 삶에 미치는 영향을 언급하며 토론을 시작했다. 그는 “AI는 이제 음악과 미술 같은 창의적 작업을 수행할 수 있을 만큼 발전했다”며 “AI가 앞으로 인간과 자연스럽게 상호작용할 날이 머지않았다”고 말했다.

그러면서 유 교수는 가그 교수에게 인간과 로봇이 언제쯤 어떻게 상호작용할 수 있을지 질문했다. 가그 교수는 “로봇이 인간과 협업할 수 있는 방식이 빠르게 발전하고 있으며, 현재의 기술 발전 속도로 보면 2년에서 5년 내에 상용화될 가능성이 높다”고 답변했다. 이어 “지난 10년간 로봇 기술이 급속히 발전해, 과거에는 불가능했던 옷 접기나 음식 손질과 같은 작업을 이제는 로봇이 수행할 수 있게 됐다”고 덧붙였다.

가그 교수는 자율주행차 연구의 발전을 예로 들며 “처음에는 제어와 계획에 중점을 두었던 연구가 이제는 세상을 이해하고 해석하는 문제로 발전했다”며 “이와 같은 변화가 대규모언어모델(LLM)에도 적용되고 있다”고 말했다. 그러면서 “LLM의 발전으로 조만간 인간과 자연스럽게 상호작용할 수 있는 로봇이 등장해 우리 생활의 일부분이 될 것”이라고 했다.

5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI와 로봇의 자율성, 인간과의 상호작용, 그리고 AI 발전에 따른 윤리적 문제를 다뤘다./조선비즈
5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI와 로봇의 자율성, 인간과의 상호작용, 그리고 AI 발전에 따른 윤리적 문제를 다뤘다./조선비즈

바라고나 딥AI CEO는 AI 개발의 윤리적 문제와 이를 해결하기 위한 글로벌 협력 방안에 대해 설명했다. 바라고나 CEO는 “AI의 발전이 빠르게 이루어지고 있지만, 그 과정에서 발생하는 윤리적 문제는 필연적이며, 이를 해결하기 위한 국제적 협력이 필수적”이라고 말했다.

그는 지난해 초 전 세계적으로 AI 훈련 실험을 잠시 멈추자는 제안을 했지만, 현실적으로 AI 개발 중단은 어렵다고 밝혔다. 바라고나 CEO는 “전 세계가 AI 발전을 원하고 있기 때문에 중단은 사실상 불가능하다”며 “AI가 더욱 강력해질수록 그에 따른 위험성도 커질 수 있으며, 이를 방지하기 위한 글로벌 차원의 규제와 협력이 반드시 필요하다”고 강조했다.

유 교수는 짐 노팅엄 수석부사장에게 AI의 신뢰성과 윤리적 사용을 위한 HP의 노력을 물었다.

노팅엄 수석부사장은 “HP는 AI 윤리 부서를 설립해 공정성과 신뢰성을 확보하기 위한 다양한 도구와 정책을 마련하고 있다”며 “AI 도구에는 편향성과 드리프트를 방지하고 환각 상태를 차단하는 기술이 포함되어 있다”고 밝혔다. 이어 “HP는 규제 산업에서도 AI 모델의 신뢰성을 검증하기 위해 파트너들과 협력하고 있다”고 덧붙였다.

노팅엄 수석부사장은 AI 개발자들이 협업하는 과정에서 발생하는 어려움과 이를 해결하기 위한 HP의 솔루션을 제시했다. 그는 “많은 AI 개발자들이 고성능 워크스테이션에서 작업을 하고 있다”면서 “HP의 AI 크리에이션 센터가 제공하는 AI 스튜디오는 데이터 과학자들이 다양한 인프라, 특히 클라우드 상에서 협업할 수 있는 통합 도구”라고 말했다.

#스마트클라우드쇼 2024

= 이경탁 기자

강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다./조선비즈
강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다./조선비즈

"인공지능(AI) 도입의 시작은 데이터 관리입니다. 기업이 데이터를 정확히 관리하고 클라우드를 활용하는 것이 성공적인 AI 도입의 핵심입니다."

강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다. 베스핀글로벌은 아마존웹서비스(AWS), 마이크로스프트(MS) 애저, 구글 클라우드 등 다양한 클라우드 및 AI 솔루션을 제공하는 MSP(클라우드서비스관리제공자) 기업이다.

강 부사장은 AI 도입에서 가장 중요한 첫 단계는 데이터를 모으고 이를 클라우드로 전환하는 것이라고 설명했다. 그는 “기업이 AI를 도입하려면 우선 데이터가 효율적으로 관리되고 클라우드에 기반해야 한다”며 “데이터를 기반으로 AI가 적용될 때 비로소 매출 증대와 비용 절감이라는 실질적인 효과를 기대할 수 있다”고 말했다.

그는 “금융권 A사는 오라클 클라우드를 활용해 보안 문제를 해결하고 AI를 기반으로 한 서비스를 제공하기 위해 클라우드 전환을 진행했다”며 “제조업체 B사 역시 분산된 데이터를 한 곳에 모아 종합적으로 관리하면서 AI를 성공적으로 도입할 수 있었다”고 말했다.

그러면서 “많은 기업이 데이터를 보유하고 있지만, 여러 시스템에 분산되어 있기 때문에 AI 도입이 어렵다. 클라우드를 통해 데이터를 한 곳으로 모으고 연결성을 강화해야만 효과적으로 활용할 수 있다”고 강조했다.

#스마트클라우드쇼 2024

= 이경탁 기자

양승지 SK텔레콤 비전R&D 담당(부사장)이 5일 서울 중구 웨스틴조선호텔에서 열린 '스마트클라우드쇼 2024'에서 '기업 스케일의 비전 AI 기술 - 문제와 기회의 간격'이라는 주제로 강연하고 있다./조선비즈
양승지 SK텔레콤 비전R&D 담당(부사장)이 5일 서울 중구 웨스틴조선호텔에서 열린 '스마트클라우드쇼 2024'에서 '기업 스케일의 비전 AI 기술 - 문제와 기회의 간격'이라는 주제로 강연하고 있다./조선비즈

“SK텔레콤이 인공지능(AI) 모델 개발에서 가장 중요하게 생각하는 일은 양질의 데이터를 모으는 것입니다. 최근 ‘네이처(Nature)’는 AI 모델이 생성한 데이터를 다른 AI 모델이 학습하는 일이 반복되면, 차츰 데이터의 다양성이 없어지고 모델이 붕괴한다는 내용을 발표했는데, 비전AI에서도 마찬가지입니다. 영상에 눈에 보이지 않는 노이즈를 삽입하면 데이터 결과가 완전히 오인되며, 의도적으로 삽입한 워터마크가 강제로 무력화되기도 합니다.”

SK텔레콤의 비전R&D를 이끄는 양승지 담당(부사장)은 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘기업 스케일의 비전 AI 기술 - 문제와 기회의 간격’이라는 주제로 강연하며 이같이 말했다. 양 담당은 “거대언어모델(LLM)의 본질은 어떤 데이터가 많은 지에 집중돼 있다. 어떤 특성을 갖고 있는지는 간과된다”며 “이런 부분들 때문에 상용화되면서 문제가 발생하는 것”이라고 했다.

그러면서 “2년 전 벤처비트 자료에 따르면 80%의 엔터프라이즈 AI 솔루션은 실패한다. 그런데 2년이 지난 지금도 여전히 80%가 실패하고 있다”며 “실제 현장은 전혀 예측할 수 없기 때문”이라고 말했다. 예컨대 CCTV 영상에 거미줄이 등장하면 이를 사람으로 오인할 수 있다는 것이다. 이 같은 데이터는 기존의 학습 데이터에 포함돼 있지도 않고 만들어내기도 어려움이 있다는 것이 양 담당의 설명이다.

그는 “가정했던 상황이 바뀌거나 새 컨셉트가 끊임없이 나오기 때문에 AI 성능은 시간이 지날수록 정확도가 떨어질 수 밖에 없다”며 “얼마나 많은 데이터로 얼마나 오래 학습해야 되는지 아직 잘 모르기 때문에 여전히 시행착오를 겪고 있다”고 했다. 그렇기 때문에 양질의 데이터를 확보하는 일이 중요하다는 것이다. 데이터를 쉽게 얻을 수 없는 경우 영상을 생성해서 학습시키는 방법도 사용한다.

양 담당은 비용 감축에도 노력을 기울이고 있다고 밝혔다. 그는 “영상 데이터는 비용 민감도가 높아서 비용 감축 방안을 일찍부터 고민해왔다”며 “2014년 딥러닝을 개발하기 시작해 2016년 상용화할 무렵, 엔비디아에 비용을 줄일 방법이 있는지 문의했다”고 했다. 그러면서 “텐서RT라는 솔루션을 소개받아 비용 문제를 해결했고, 클라우드와 비교해 100분의 1 정도 크기의 모델로 동일한 정확도를 달성했다”고 전했다.

또 “엣지 컴퓨팅의 컴퓨팅 파워가 제한적이기 때문에 엣지와 클라우드 간의 균형을 지속적으로 맞춰야 하며, 균형을 맞추더라도 AI 시스템을 지속적으로 개선해야 한다. AI 모델이 배포된 후에도 지속적으로 데이터를 수집해 어떤 부분에서 약점이 있는지를 분석하고 있다”고 덧붙였다.

#스마트클라우드쇼 2024

= 변지희 기자

엣지 AI의 부상... 실시간 데이터 처리, 보안성 강점
성장세 빨라... “올해 80% 기업이 엣지 AI 설계 검토”

박준식 ST마이크로일렉트로닉스 한국지사장이 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 특별강연을 하고 있다./조선비즈
박준식 ST마이크로일렉트로닉스 한국지사장이 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 특별강연을 하고 있다./조선비즈

“‘엣지(Edge·말단 기기) 인공지능(AI)’이 미래 기술의 핵심 축으로 자리 잡고 있다.”

박준식 ST마이크로일렉트로닉스 한국지사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘엣지 AI’ 시대가 이미 시작됐으며, 이 기술이 향후 다양한 산업에 혁신을 가져올 것이라고 했다. 엣지 AI는 클라우드에 의존하지 않고 기기 자체에서 데이터를 실시간으로 처리해 소규모 기기에서도 AI를 구동할 수 있는 기술이다.

박 지사장은 ‘엣지 AI 기반의 새로운 AI 시대’를 주제로 한 강연에서 “우리가 인지하지 못하지만 엣지 AI는 이미 우리의 삶에 깊이 들어와 있다”며 “엣지 AI는 클라우드 AI와 달리 네트워크가 불안정하거나 없는 상황에서도 실시간으로 데이터를 처리할 수 있어 웨어러블 기기와 스마트 빌딩 등 다양한 분야에서 사용되고 있다”고 말했다. 그는 엣지 AI가 기기에서 직접 데이터를 처리하므로 지연이 거의 없고, 네트워크를 거치지 않아 보안성과 프라이버시 보호 측면에서 우수하다는 점을 강조했다.

박 지사장은 엣지 AI의 대표적인 사용 사례로 예측 유지보수 시스템을 소개했다. 기기의 모터에 AI 센서를 추가함으로써 미세한 진동 등을 감지해 기기가 고장 나기 전에 유지보수를 안내하는 것이다. 가전 기기의 경우 세탁기에 AI를 탑재, 세탁물의 무게를 예측하고 물·세제 사용을 최적화해 전력 소비를 절감하는 방식도 많이 사용되고 있다. 폐쇄회로(CC)TV에도 엣지 AI를 사용해 실시간으로 보행자 등 객체를 인식하고 매우 적은 전력만으로도 고성능 비디오 분석을 수행하는 기술도 실생활에 활용되고 있다.

웨어러블 기기에서는 임베디드(내장) 엣지 AI와 MCU·MPU 기반의 고성능 엣지 AI가 상호 보완적으로 활용될 수 있다고 박 지사장은 설명했다. 임베디드 엣지 AI는 소규모 기기에서 적은 전력으로 실행할 수 있으며, 배터리 하나로도 수개월에서 1년까지 동작할 수 있다. 반면, MCU·MPU 기반의 엣지 AI는 더 복잡한 연산이 가능하지만, 상대적으로 더 많은 전력을 소모한다. 이에 복잡한 연산이 필요한 경우에는 MCU·MPU 기반의 AI 엣지를 사용하다가 전력 소모가 최소화될 경우에는 임베디드 엣지 AI를 사용하게끔 기기를 개발하는 것이다.

엣지 AI의 성장세는 가파르다. 박 지사장은 “2020년까지는 약 5%의 고객사가 엣지 AI 설계를 도입했으나, 2023년에는 40%로 늘어났고 올해엔 80%의 고객사가 엣지 AI 설계를 검토할 것으로 예상된다”며 “엣지 AI가 기업들의 필수 기술로 자리 잡고 있다”고 설명했다. 그는 “엣지 AI의 확장성은 무궁무진할 것”이라며 “가령 미래형 블랙박스는 주변의 화재, 유리 파손, 동물 침입 등을 실시간으로 감지해 경고하는 등 다양한 추가 기능을 구현할 수 있을 것으로 예상된다”고 말했다.

향후 엣지 AI 개발을 위해서는 생태계 조성이 특히 중요하다고 박 지사장은 강조했다. 그는 “소프트웨어와 하드웨어가 통합된 환경에서 AI 솔루션을 개발해야 한다”며 “다양한 개발 툴과 데이터 처리 시스템이 필요한 상황”이라고 말했다. 그러면서 “생태계가 수반되면 엣지 AI는 클라우드 AI와 상호 보완적인 역할을 통해 스마트 기기, 스마트 팩토리에서 나아가 스마트 시티 등 여러 산업에 적용될 수 있다”며 “앞으로 엣지 AI의 역할과 중요성은 더욱 커질 것”이라고 말했다.

#스마트클라우드쇼 2024

= 최지희 기자

짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘미래를 대비하는 AI’를 주제로 기조강연을 하고 있다./조선비즈
짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘미래를 대비하는 AI’를 주제로 기조강연을 하고 있다./조선비즈

“HP는 ‘기업을 위한 인공지능(AI), 공간을 위한 AI, 사람을 위한 AI’를 제공한다. 여기서 AI는 ‘로컬’로 운용하는 것이 중요하다. 전 세계가 로컬 컴퓨팅부터 클라우드까지 매끄럽게 연결되어야 한다.”

짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘미래를 대비하는 AI(Future Ready AI)’를 주제로 기조강연에 나섰다. 세계 2위 PC 제조사인 HP는 오늘날 전통적인 하드웨어 중심 사업 모델에서 벗어나 인공지능(AI) 플랫폼 기업으로 정체성을 재정비하고 있다.

노팅엄 수석부사장은 이날 HP가 집중하고 있는 AI 혁신의 3가지 분야로 ▲기업 ▲공간 ▲사람을 꼽았다. 그는 “오늘날 거의 대부분의 기업이 AI를 활용하려고 노력하고 있고, 독점적인 데이터를 이용해 다양한 모델을 생성하면서 기업 운영의 생산성을 전반적으로 향상시키려는 목표를 가지고 있다”면서 “기업이 신뢰할 수 있는, 그들에게 적합한 프라이빗 모델을 제공하는 게 우리의 숙제”라고 했다.

노팅엄 수석부사장은 이어 “어떤 제품이 진정한 가치를 가지고 있는지, 실질적인 비즈니스 결과를 도출할 수 있는지는 고객만이 안다”면서 “혁신의 여부는 고객만이 판단 내릴 수 있다. 고객의 상황에 적합한 프라이빗 모델 만들어주는 것이 우리의 역할”이라고 했다.

노팅엄 수석부사장은 고객과의 협업과 함께 AI 생태계에서 신뢰성을 높이는 것도 중요한 과제라고 강조했다. 그는 “AI의 발전과 함께 고도의 사이버 공격과 피싱 공격도 증가하고 있다”면서 “사람들은 AI 툴(tool)을 적극적으로 사용하면서도 온라인 공격에서 개인정보 등은 보호하고자 하는 니즈 역시 동시에 증가한다”면서 “앞으로는 독자적 데이터를 바탕으로 학습하는 AI 모델이 신뢰 문제를 담보하는 게 중요해진다”고 했다.

AI 시대에서 AI 플랫폼 기업으로 탈바꿈하고 있는 HP는 AI의 현주소에 주목하고 있다. HP가 엔비디아와 함께한 조사 결과에 따르면, 응답자의 약 33%만 ‘현재의 AI 툴에 만족한다’고 했고, 나머지는 ‘업무에 활용하기 위해선 개선의 여지가 필요하다’고 답했다.

노팅엄 수석부사장은 설문 결과를 예로 들면서 “기업이 새로운 AI 기술을 기존에 가지고 있던 프로세스와 통합시키는 것은 절대 쉬운 일이 아니다”라면서 “AI 관련 투자대비수익률(ROI)을 정확하게 알아야 (기업 입장에서도) 이에 맞는 AI 툴 배포가 가능하고, 이와 더불어 현장에서 충분히 활용 가능하도록 만드는 교육과 훈련 등 이행의 문제가 있다. 이 부분이 개선되어야 진정한 의미의 가치를 제공 가능할 것”이라고 했다.

그렇다면 AI는 어떻게 실질적인 가치를 제공할 수 있을까. 노팅엄 수석부사장은 ‘로컬’에 답이 있다고 했다. 그는 “AI의 발전은 지속적으로 많은 변화를 가져오고 개인용 컴퓨터부터 클라우드까지 하이브리드 컴퓨팅 생태계 전체를 흔들 것”이라면서 “여기서 성공의 관건은 AI를 로컬하게 운용하고 클라우드로 연결하는 것”이라고 했다.

그는 “로컬 AI와 로컬 컴퓨팅을 적절하게 활용하면 비용 뿐 아니라 에너지 절감도 가능하다”면서 “특정 사례를 확장시킬 수도 있고 여러 조작이 가능하도록 연결도 가능하다”면서 “방어벽 뒷단의 독점적 데이터를 활용하면서도 보안 정도를 높일 수 있고, 훨씬 저렴한 비용으로 원하는 결과를 낼 수 있을 것”이라고 했다.

노팅엄 수석부사장은 마지막으로 “PC 디바이스 사용 과정에서 로컬 AI에 최적화된 성능이 생기기에 사람들의 PC 사용 경험에도 획기적인 변화가 일어날 것”이라고 예측했다.

그는 “양측을 다 적절히 활용하고 끊김 없이 하이브리드로 연결하는 게 중요하다”면서 이를 확인하기 위해 다시 한번 사람에 대한 중요성을 강조했다. 그는 “기업 생산성 향상이 목표지만 그 가운데는 사람이 있다”면서 “성공 여부를 판단하기 위해선 사람(고객)과의 상호작용과 협업이 무엇보다도 중요하다. 고객들이 어떤 문제를 고민하고 있고, 무슨 워크플로우를 가지고 있는지, 또 실질적인 비즈니스 결과는 어떻게 도출하고 있는지 등을 확인 가능하도록 고객과의 협업과 상호작용은 필수적인 요소”라고 덧붙였다.

#스마트클라우드쇼 2024

= 전효진 기자

㈜메가존클라우드 클라우드 전략 그룹 전무


프로필

  • 2021 ~ 현재
    • ㈜메가존클라우드 클라우드 전략 그룹 전무(담당)

  • 2017 ~ 2021
    • AWS코리아 게이밍 세일즈 매니저

  • 2006 ~ 2017
    • ㈜씨디네트웍스 CTO

  • 2000 ~ 2006
    • ㈜한국인터넷데이터센터 차장

과거 참여 이력

  • 스마트클라우드쇼 2024 강연
    기업의 생성형 AI 도입과 비즈니스 혁신

“사이버 공격이 진화하고 가속화되지만, 이에 대응하기 위해 필요한 뛰어난 인재를 찾는 건 쉽지 않습니다. 쏟아지는 공격에 인간이 일일이 대응할 수도 없습니다. 이 같은 상황에서 인공지능(AI)이 사이버 공격에 대한 우리의 능력을 증강시킬 수단이 될 수 있습니다.”

마크 존스톤 구글 클라우드 아태 지역 최고정보보호책임국 총괄이 20일 오전 서울 중구 웨스틴조선호텔에서 열린 ‘2024 사이버보안콘퍼런스’에서 기조강연을 하고 있다./조선비즈
마크 존스톤 구글 클라우드 아태 지역 최고정보보호책임국 총괄이 20일 오전 서울 중구 웨스틴조선호텔에서 열린 ‘2024 사이버보안콘퍼런스’에서 기조강연을 하고 있다./조선비즈

마크 존스톤 구글 클라우드 아태 지역 최고정보보호책임국 총괄은 20일 서울 소공동 웨스틴조선호텔에서 진행된 ‘2024 사이버보안콘퍼런스’에 기조연설자로 나서 이같이 말했다. ‘급변하는 사이버보안 산업 환경, 구글의 시점에서’라는 주제로 강연한 존스톤 총괄은 “구글은 사이버 공격을 방어하기 위해 AI를 가장 많이 사용하고 있는 곳”이라면서 사례를 소개했다.

그는 온라인 결제 서비스 페이팔의 영수증 메일을 보여주며 “이 경우 PDF나 텍스트 메일이 아닌, 이미지 메일이기 때문에 피싱 메일인지 빠르게 검증하는 게 쉽지 않다”면서 “그러나 생성형 AI를 통해 이미지 파일 내에 있는 내용을 확인하고, 페이팔의 실제 전화번호와 메일 속 전화번호가 다른 것을 판단하는 식으로 피싱 메일 여부를 확인할 수 있다”고 했다.

존스톤 총괄에 따르면 구글은 ▲추론 ▲학습 ▲속도 ▲규모 등 다양한 측면에서 AI를 활용하고 있다. AI를 활용해 악성 파일을 검토하는 구글 클라우드의 ‘바이러스 토탈’이 대표적이다. 구글이 사이버 위협에 신속하게 대응하는 데에도 AI가 활용되는데, 제미나이 1.5 프로의 경우 34초 만에 방어자에게 분석 결과를 제공한다.

이날 생성형 AI 자체에 대한 방어는 물론 생성형 AI가 악용될 여지를 차단하기 위한 구글의 노력도 소개됐다. 구글은 레드팀(기업의 내·외부의 취약점을 발견해 공격하는 팀)을 운영하고 있다. 구글의 레드팀은 구글이 탈취될 수 있도록 일부러 시나리오를 만들고 이에 대응하는 훈련을 진행한다. 일부러 구글을 구글이 해킹하는 것이다.

구글은 지난 2010년부터 보안 허점을 발견하고 관련 정보를 공개한 사람에게 보상금을 제공하는 ‘버그 헌터 프로그램’도 운영 중이다. 존스톤 총괄은 “수 십억 명의 디지털 시민이 구글을 믿고 개인 정보를 맡기기 때문에, 구글에겐 큰 책임이 있다”면서 “2021년 한 해에만 구글은 100억달러(약 13조8390억원)를 사이버 보안 영역에 투자했다”고 했다.

구글이 이처럼 사이버 공격에 체계적으로 대응하는 데에는 과거 대규모 공격을 받았던 사건이 계기가 됐다. 구글은 지난 2009년 ‘오로라 작전(Operation Aurora)’이라는 사건을 겪었다. 중국 정부와 연계된 사이버 첩보 집단이 구글을 비롯한 대형IT기업 여러 곳을 공격했고, 서버침투, 지적재산권 절도 등이 진행됐다.

존스턴 총괄은 “당시에도 구글의 사이버 보안 기술이 뒤쳐진 게 아니었지만, 이 사건을 계기로 사이버 공격에 대해 더 민첩하게 대응하게 됐다”면서 “이후 ‘보안 내재화(Secure By Design)’라는 개념이 등장했다”고 했다. 보안 내재화란 소프트웨어(SW) 제품·서비스 전 과정에서 보안을 반드시 고려하겠단 취지다.

그는 “오로라 작전 이후로 구글 내에서 여러 프로그램이 진행됐는데, ‘제로 트러스트(Zero trust)’ 아키텍처를 구축한 게 대표적”이라며 “결과적으로 내가 구글에 조인한 지 7년이 되도록 비밀번호를 바꿀 필요가 없는 안전한 네트워크 환경이 구축됐다”고 말했다.

존스톤 총괄은 제로 트러스트는 단일 솔루션으로 완성될 수 없음을 강조했다. 그는 “제로 트러스트는 하나의 제품이 아니라 (사이버 보안을 위한) 방법론이자 조직 전체가 받아 들여야 하는 변화”라며 “AI 등을 접목해 안전하고 복원력 있는 사이버 환경을 만들기 위해 기업의 임원 급에서 꾸준한 논의가 이뤄져야 한다”고 했다.

#2024 사이버보안콘퍼런스

=김송이 기자

구글 클라우드 아태 지역 최고정보보호책임국 총괄


프로필

  • 2023 ~ 현재
    • 구글 클라우드 아태 지역 최고정보보호책임국 총괄

  • 2017 ~ 2023
    • 구글 클라우드 아태 지역 보안 담당 임원직 역임

  • 2009 ~ 2017
    • IBM 아태 지역 보안 담당 임원직 역임

  • 2007 ~ 2009
    • KPMG First Point Global 상임 IAM 컨설턴트

  • 2005 ~ 2007
    • IBM 보안 컨설턴트

과거 참여 이력

  • 2024 사이버보안콘퍼런스 기조연설
    급변하는 사이버보안 산업 환경, 구글의 시점에서
  • 2024 사이버보안콘퍼런스 패널토의
crossmenu linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram