최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 축사를 하고 있다./조선비즈
최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 축사를 하고 있다./조선비즈

"방송이 AI(인공지능)와 클라우드의 발목을 잡고 있는 형국입니다."

최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′ 축사에서 방송이 AI와 클라우드 기술의 발전을 저해하고 있는 상황을 비판하면서 이같이 말했다.

최 의원은 “국회에서는 여당이 소수당이 되어 힘이 부족한 상황”이라며 “지난 3개월 동안 과방위는 공영방송사 이사진 임기 연장 문제로 싸움을 벌였지만, 정작 중요한 AI·클라우드 관련 사항들은 제대로 진행하지 못했다”고 밝혔다.

이어 “상임위를 방송에서 분리하고 싶은 생각도 있지만, 그렇게 되면 상임위 자체가 마비될 수 있어 쉽지 않다”고 덧붙였다.

최 위원은 “AI와 클라우드는 우리 문명사적 전환기에 매우 중요한 역할을 할 것으로 기업, 언론, 정책 전문가들이 함께 책임을 지고 추진해야 할 과제”라고 강조했다. 그러면서 대한민국이 제조업 강국의 입지를 활용해 초거대 AI 산업 발전을 추진하고 있음을 언급했다.

최 의원은 “마산은 대한민국 최초의 자유무역지역이자 디지털 자유무역지역으로 지정된 곳”이라며 “현재 마산에서는 메가존클라우드, 마이크로소프트(MS), 아마존웹서비스(AWS), SAP, 구글 등 글로벌 기업들과 함께 초거대 제조업 AI 글로벌 실전센터를 운영하고 있다”고 설명했다.

이어 “한화에어로스페이스, 두산에너빌리티, 현대로템, LG전자 등 세계적인 제조 기업들이 밀집해 있는 창원, 마산, 경남 일원에서 나오는 제조 데이터를 통해 AI 기술을 접목할 수 있다면, 대한민국은 제조 강국에서 AI 대국으로 도약할 수 있을 것”이라고 덧붙였다.

#스마트클라우드쇼 2024

= 이경탁 기자

‘2024 스마트클라우드쇼’ 패널 토의
“인간과 상호작용하는 로봇, 우리 생활 일부분 될 것”
“AI 위험성 커져 글로벌 차원 규제 및 협력 필요”

5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에는 (왼쪽부터) 유창동 카이스트 전기 및 전자공학부 교수, 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI CEO가 참여했다./조선비즈
5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에는 (왼쪽부터) 유창동 카이스트 전기 및 전자공학부 교수, 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI CEO가 참여했다./조선비즈

"로봇의 능력은 생성형 인공지능(AI)으로 급속히 발전하고 있으며, 이제는 인간과 자연스럽게 상호작용할 수 있는 시대가 머지않았다."

5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI 로봇과 인간과의 상호작용, AI 발전에 따른 윤리적 문제 등이 다뤄졌다. 이날 패널 토의에는 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI(DeepAI) CEO가 참석했다.

좌장을 맡은 유창동 카이스트 전기 및 전자공학부 교수는 AI가 우리 삶에 미치는 영향을 언급하며 토론을 시작했다. 그는 “AI는 이제 음악과 미술 같은 창의적 작업을 수행할 수 있을 만큼 발전했다”며 “AI가 앞으로 인간과 자연스럽게 상호작용할 날이 머지않았다”고 말했다.

그러면서 유 교수는 가그 교수에게 인간과 로봇이 언제쯤 어떻게 상호작용할 수 있을지 질문했다. 가그 교수는 “로봇이 인간과 협업할 수 있는 방식이 빠르게 발전하고 있으며, 현재의 기술 발전 속도로 보면 2년에서 5년 내에 상용화될 가능성이 높다”고 답변했다. 이어 “지난 10년간 로봇 기술이 급속히 발전해, 과거에는 불가능했던 옷 접기나 음식 손질과 같은 작업을 이제는 로봇이 수행할 수 있게 됐다”고 덧붙였다.

가그 교수는 자율주행차 연구의 발전을 예로 들며 “처음에는 제어와 계획에 중점을 두었던 연구가 이제는 세상을 이해하고 해석하는 문제로 발전했다”며 “이와 같은 변화가 대규모언어모델(LLM)에도 적용되고 있다”고 말했다. 그러면서 “LLM의 발전으로 조만간 인간과 자연스럽게 상호작용할 수 있는 로봇이 등장해 우리 생활의 일부분이 될 것”이라고 했다.

5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI와 로봇의 자율성, 인간과의 상호작용, 그리고 AI 발전에 따른 윤리적 문제를 다뤘다./조선비즈
5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI와 로봇의 자율성, 인간과의 상호작용, 그리고 AI 발전에 따른 윤리적 문제를 다뤘다./조선비즈

바라고나 딥AI CEO는 AI 개발의 윤리적 문제와 이를 해결하기 위한 글로벌 협력 방안에 대해 설명했다. 바라고나 CEO는 “AI의 발전이 빠르게 이루어지고 있지만, 그 과정에서 발생하는 윤리적 문제는 필연적이며, 이를 해결하기 위한 국제적 협력이 필수적”이라고 말했다.

그는 지난해 초 전 세계적으로 AI 훈련 실험을 잠시 멈추자는 제안을 했지만, 현실적으로 AI 개발 중단은 어렵다고 밝혔다. 바라고나 CEO는 “전 세계가 AI 발전을 원하고 있기 때문에 중단은 사실상 불가능하다”며 “AI가 더욱 강력해질수록 그에 따른 위험성도 커질 수 있으며, 이를 방지하기 위한 글로벌 차원의 규제와 협력이 반드시 필요하다”고 강조했다.

유 교수는 짐 노팅엄 수석부사장에게 AI의 신뢰성과 윤리적 사용을 위한 HP의 노력을 물었다.

노팅엄 수석부사장은 “HP는 AI 윤리 부서를 설립해 공정성과 신뢰성을 확보하기 위한 다양한 도구와 정책을 마련하고 있다”며 “AI 도구에는 편향성과 드리프트를 방지하고 환각 상태를 차단하는 기술이 포함되어 있다”고 밝혔다. 이어 “HP는 규제 산업에서도 AI 모델의 신뢰성을 검증하기 위해 파트너들과 협력하고 있다”고 덧붙였다.

노팅엄 수석부사장은 AI 개발자들이 협업하는 과정에서 발생하는 어려움과 이를 해결하기 위한 HP의 솔루션을 제시했다. 그는 “많은 AI 개발자들이 고성능 워크스테이션에서 작업을 하고 있다”면서 “HP의 AI 크리에이션 센터가 제공하는 AI 스튜디오는 데이터 과학자들이 다양한 인프라, 특히 클라우드 상에서 협업할 수 있는 통합 도구”라고 말했다.

#스마트클라우드쇼 2024

= 이경탁 기자

‘생성형 AI로 가치 있는 제품을 만들기 위한 비밀들’ 강연
“고객이 원하는 것은 문제를 빠르고 저렴하게 해결하는 것”
“챗GPT 제외하고 압도적인 서비스 없어 기회”

김진우 라이너 대표가 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘생성형 AI로 가치 있는 제품을 만들기 위한 비밀들’을 주제로 강연하고 있다./조선비즈
김진우 라이너 대표가 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘생성형 AI로 가치 있는 제품을 만들기 위한 비밀들’을 주제로 강연하고 있다./조선비즈

"생성형 인공지능(AI) 시대에도 가장 중요한 것은 고객입니다. 고객의 문제를 해결하는 것이 비즈니스의 핵심입니다."

김진우 라이너 대표는 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘생성형 AI로 가치 있는 제품을 만들기 위한 비밀들’을 주제로 강연에 나섰다.

라이너는 2015년에 설립한 AI 스타트업으로 주로 미국과 한국에서 생성형 AI 기반 검색 및 정보 큐레이션 서비스를 제공하고 있다. 라이너는 연구자, 학생 등 정밀한 검색과 정보 활용이 필요한 사용자들에게 인기를 끌며, 전 세계에서 두 번째로 많이 사용되는 AI 검색 서비스다.

김 대표는 라이너의 밑거름이 된 생성형 AI 기술을 활용한 비즈니스 제품을 성공적으로 만들기 위한 비밀 3가지를 공유했다.

첫 번째로 김 대표는 고객 중심의 접근이 필수적이라고 밝혔다. 그는 “많은 기업들이 AI 기술의 우수성에 집중하는 경향이 있지만, 고객이 원하는 것은 문제가 빠르고 저렴하게 해결되는 것”이라며 “고객은 AI 자체보다는 문제 해결에 더 큰 관심을 가진다”고 말했다.

그는 이어 “고객이 관심을 갖는 것은 문제를 해결하는 방법이 AI인지 아닌지가 아니라, 문제 자체가 얼마나 효과적으로 해결되느냐”라고 덧붙였다. 이를 통해 AI 제품 개발의 초점은 기술의 혁신성보다는 실질적인 문제 해결 능력에 맞춰져야 한다는 것이다.

김 대표는 많은 기업들이 AI 기술이 기존 솔루션과 어떻게 다른지 설명할 때, 단순히 ‘AI입니다’라는 답변만으로는 고객의 신뢰를 얻을 수 없다고 지적했다. 그는 “기술 그 자체보다는, 실제로 사람들의 삶을 어떻게 더 나아지게 할 수 있을지에 대한 고민이 필요하다”며 “AI가 단지 ‘예쁜 쓰레기’가 되지 않도록 주의해야 한다”고 말했다.

김 대표는 두 번째로 홍보와 마케팅의 중요성을 언급했다. 기술이 중요한 것은 맞지만, 이제는 기술을 얼마나 잘 알리고, 시장에서 어떻게 자리 잡게 할 것인지가 더 중요해졌다는 것이다.

김 대표는 “네트워크 효과, 규모의 경제, 브랜드 구축 등을 통해 생성형 AI 제품의 가치를 높일 수 있다”며 “현재 AI 제품 중 챗GPT를 제외하고 압도적인 서비스가 없는 만큼, 지금이 시장을 선점할 좋은 기회”라고 말했다. 그러면서 “브랜드가 AI 비즈니스의 성공에 있어 핵심 요소로 작용할 수 있고, 전 세계적인 경쟁 속에서 자리 잡기 위한 포지셔닝이 중요하다”고 강조했다.

김 대표는 마지막으로 생성형 AI 제품의 비용 구조를 설명했다. 생성형 AI는 기존 소프트웨어(SW)보다 운영 비용이 더 많이 들기 때문에 이를 극복하는 전략이 중요하다는 것이다.

김 대표는 “생성형 AI 제품이 더 복잡한 작업을 처리할수록 비용이 증가하기 때문에, 이를 제대로 관리하지 않으면 비즈니스에 큰 어려움이 따를 수 있다”고 설명했다.

그는 AI 에이전트 시스템의 복잡성을 예로 들며 “고객의 문제를 해결하기 위해 단순한 작업은 가벼운 모델이 처리하고, 복잡한 문제는 고도화된 AI 모델이 처리하는 방식을 통해 효율성을 높일 수 있다”고 말했다. 이어 “오픈소스 AI 모델을 잘 활용하면 비용을 절감하면서도 특정 작업에서 더 높은 성능을 낼 수 있다”고 덧붙였다.

김 대표는 “AI 기술이 계속해서 발전하고 있으며, 이를 통해 더 나은 비즈니스 모델을 구축할 수 있는 기회가 많다”며 “글로벌 시장을 겨냥해 고객의 문제를 해결하는 데 집중한다면 더 큰 성공을 거둘 수 있을 것”이라고 말했다.

#스마트클라우드쇼 2024

= 이경탁 기자

강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다./조선비즈
강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다./조선비즈

"인공지능(AI) 도입의 시작은 데이터 관리입니다. 기업이 데이터를 정확히 관리하고 클라우드를 활용하는 것이 성공적인 AI 도입의 핵심입니다."

강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다. 베스핀글로벌은 아마존웹서비스(AWS), 마이크로스프트(MS) 애저, 구글 클라우드 등 다양한 클라우드 및 AI 솔루션을 제공하는 MSP(클라우드서비스관리제공자) 기업이다.

강 부사장은 AI 도입에서 가장 중요한 첫 단계는 데이터를 모으고 이를 클라우드로 전환하는 것이라고 설명했다. 그는 “기업이 AI를 도입하려면 우선 데이터가 효율적으로 관리되고 클라우드에 기반해야 한다”며 “데이터를 기반으로 AI가 적용될 때 비로소 매출 증대와 비용 절감이라는 실질적인 효과를 기대할 수 있다”고 말했다.

그는 “금융권 A사는 오라클 클라우드를 활용해 보안 문제를 해결하고 AI를 기반으로 한 서비스를 제공하기 위해 클라우드 전환을 진행했다”며 “제조업체 B사 역시 분산된 데이터를 한 곳에 모아 종합적으로 관리하면서 AI를 성공적으로 도입할 수 있었다”고 말했다.

그러면서 “많은 기업이 데이터를 보유하고 있지만, 여러 시스템에 분산되어 있기 때문에 AI 도입이 어렵다. 클라우드를 통해 데이터를 한 곳으로 모으고 연결성을 강화해야만 효과적으로 활용할 수 있다”고 강조했다.

#스마트클라우드쇼 2024

= 이경탁 기자

김종찬 메가존클라우드 클라우드 전략 그룹 전무가 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 '기업의 생성형AI 도입과 비즈니스 혁신'을 주제로 강연하고 있다./조선비즈
김종찬 메가존클라우드 클라우드 전략 그룹 전무가 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 '기업의 생성형AI 도입과 비즈니스 혁신'을 주제로 강연하고 있다./조선비즈

“2026년이 되면 전 세계 기업 중 80%가 생성형 인공지능(AI) 기반 애플리케이션을 업무에 도입할 것으로 전망됩니다. 지난해가 기술 도입을 고려하는 초기 단계였다면, 올해부터는 이를 구체적으로 적용해 기술을 내재화하는 시점이 될 것입니다.”

김종찬 메가존클라우드 클라우드 전략 그룹 전무는 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘기업의 생성형 AI 도입과 비즈니스 혁신’을 주제로 한 클라우드 세션에서 이렇게 말했다.

김 전무는 생성형 AI 시장이 본격 개화하기 시작한 지난해의 경우 대다수 기업이 기술을 도입하는 데 신중했다고 설명했다. 그는 “초기 단계에서는 기술 역량을 확보하는 것도 어려웠고, 이 기술에 어느 정도 비용을 투자해야 하는지, 보안 문제는 없는지 등 고려 대상이 많았다”고 했다.

김 전무는 업무에 생성형 AI 기술이 적용된 사례가 늘며, 올해부터 이를 활용하고자 하는 기업들의 숫자도 증가했다고 했다. 김 전무는 “고객 응대 시스템이나 챗봇 등이 도입되며 올해 1분기부터 구체적인 프로젝트가 실행되고 있고, 기술 활용 역량도 내재화하는 단계”라며 “아직도 부작용에 대한 우려가 존재하지만, 개인의 업무 효율을 높일 수 있다거나 비즈니스 경쟁력을 강화할 수 있다는 순작용도 분명히 존재하기 때문에 여기에 집중하면 비즈니스 혁신이라고 말할 수 있을 것”이라고 했다.

그러면서 그는 “조직 차원에서 생성형 AI 기술 도입을 수용하고, 자사 데이터를 결합하기 시작하는 등 기업 내부에 관련 기술이 문화적으로 정착하기 위한 노력이 진행되고 있다”며 “1~2개의 업무에 도입해 효율을 검토하는 ‘작은 성공’들을 경험적으로 안착시켜 점진적으로 전사적으로 프로세스가 확대하는 접근 방식이 중요하다”고 덧붙였다.

김 전무는 생성형 AI가 업무에 도입된 실제 사례도 함께 소개했다. 김 전무는 크게 영업 전략 및 마케팅 업무, 제조 현장, 이커머스 플랫폼, B2C(기업과 소비자 간 거래) 지식 제공 서비스 등에 메가존클라우드의 서비스가 제공되고 있다고 설명했다. 그는 “생산 공장에 장비 공급사가 제공한 사용 설명서를 책 형태가 아니라 질의응답 방식으로 활용해 생산성을 강화한다거나, 인사나 회계 총무 관련해 필요한 시점에 빠르게 답변해주는 챗봇 등이 사용되고 있다”고 했다.

#스마트클라우드쇼 2024

= 전병수 기자

양승지 SK텔레콤 비전R&D 담당(부사장)이 5일 서울 중구 웨스틴조선호텔에서 열린 '스마트클라우드쇼 2024'에서 '기업 스케일의 비전 AI 기술 - 문제와 기회의 간격'이라는 주제로 강연하고 있다./조선비즈
양승지 SK텔레콤 비전R&D 담당(부사장)이 5일 서울 중구 웨스틴조선호텔에서 열린 '스마트클라우드쇼 2024'에서 '기업 스케일의 비전 AI 기술 - 문제와 기회의 간격'이라는 주제로 강연하고 있다./조선비즈

“SK텔레콤이 인공지능(AI) 모델 개발에서 가장 중요하게 생각하는 일은 양질의 데이터를 모으는 것입니다. 최근 ‘네이처(Nature)’는 AI 모델이 생성한 데이터를 다른 AI 모델이 학습하는 일이 반복되면, 차츰 데이터의 다양성이 없어지고 모델이 붕괴한다는 내용을 발표했는데, 비전AI에서도 마찬가지입니다. 영상에 눈에 보이지 않는 노이즈를 삽입하면 데이터 결과가 완전히 오인되며, 의도적으로 삽입한 워터마크가 강제로 무력화되기도 합니다.”

SK텔레콤의 비전R&D를 이끄는 양승지 담당(부사장)은 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘기업 스케일의 비전 AI 기술 - 문제와 기회의 간격’이라는 주제로 강연하며 이같이 말했다. 양 담당은 “거대언어모델(LLM)의 본질은 어떤 데이터가 많은 지에 집중돼 있다. 어떤 특성을 갖고 있는지는 간과된다”며 “이런 부분들 때문에 상용화되면서 문제가 발생하는 것”이라고 했다.

그러면서 “2년 전 벤처비트 자료에 따르면 80%의 엔터프라이즈 AI 솔루션은 실패한다. 그런데 2년이 지난 지금도 여전히 80%가 실패하고 있다”며 “실제 현장은 전혀 예측할 수 없기 때문”이라고 말했다. 예컨대 CCTV 영상에 거미줄이 등장하면 이를 사람으로 오인할 수 있다는 것이다. 이 같은 데이터는 기존의 학습 데이터에 포함돼 있지도 않고 만들어내기도 어려움이 있다는 것이 양 담당의 설명이다.

그는 “가정했던 상황이 바뀌거나 새 컨셉트가 끊임없이 나오기 때문에 AI 성능은 시간이 지날수록 정확도가 떨어질 수 밖에 없다”며 “얼마나 많은 데이터로 얼마나 오래 학습해야 되는지 아직 잘 모르기 때문에 여전히 시행착오를 겪고 있다”고 했다. 그렇기 때문에 양질의 데이터를 확보하는 일이 중요하다는 것이다. 데이터를 쉽게 얻을 수 없는 경우 영상을 생성해서 학습시키는 방법도 사용한다.

양 담당은 비용 감축에도 노력을 기울이고 있다고 밝혔다. 그는 “영상 데이터는 비용 민감도가 높아서 비용 감축 방안을 일찍부터 고민해왔다”며 “2014년 딥러닝을 개발하기 시작해 2016년 상용화할 무렵, 엔비디아에 비용을 줄일 방법이 있는지 문의했다”고 했다. 그러면서 “텐서RT라는 솔루션을 소개받아 비용 문제를 해결했고, 클라우드와 비교해 100분의 1 정도 크기의 모델로 동일한 정확도를 달성했다”고 전했다.

또 “엣지 컴퓨팅의 컴퓨팅 파워가 제한적이기 때문에 엣지와 클라우드 간의 균형을 지속적으로 맞춰야 하며, 균형을 맞추더라도 AI 시스템을 지속적으로 개선해야 한다. AI 모델이 배포된 후에도 지속적으로 데이터를 수집해 어떤 부분에서 약점이 있는지를 분석하고 있다”고 덧붙였다.

#스마트클라우드쇼 2024

= 변지희 기자

신동훈 KT AI2XL AI코어 기술 담당(상무)이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 발표하고 있다./조선비즈
신동훈 KT AI2XL AI코어 기술 담당(상무)이 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 발표하고 있다./조선비즈

“인공지능(AI)의 혁신이 전 산업에 영향을 끼치고 있다. 이제 AI 경쟁력 보유 여부가 업계의 승자를 결정할 것이다.”

신동훈 KT AI2XL AI코어 기술 담당(상무)은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 이같이 말했다.

신 상무는 “아마존은 향후 10년 간 데이터센터에 1000억달러(약 133조원)을 투자한다고 밝혔고, 마이크로소프트(MS)와 오픈AI도 비슷한 규모의 데이터센터 프로젝트 ‘스타게이트’를 진행한다고 밝혔다”라며 “산업 전반에 AI 활용도가 점차 커지면서, AI 구현에 쓰이는 데이터센터에 대한 빅테크의 투자도 확대되는 것”이라고 설명했다.

신 상무는 “애플, 삼성전자, 구글 등 주요 스마트폰 제조사도 온디바이스(내장형) AI 구현을 위해 제미나이를 비롯한 언어모델을 도입하고 있다”며 “오픈AI는 현실의 물리 법칙을 이해한 동영상 생성기인 ‘소라’를 내놓기도 했다”고 설명했다. 그는 이어 “AI 기능이 적용된 로봇이 사람과 직접적으로 상호 작용하며 자율성을 가지고 스스로 판단해 동작하기도 한다”며 “AI가 좀 더 현실에 가까워져 오고 있는 것”이라고 덧붙였다.

신 상무는 한국도 자체적인 AI 생태계를 구축해야 한다고 강조했다. 그는 “AI가 금융, 공공, 교육 등 다양한 분야에 영향을 끼칠 것으로 예상되는 만큼 한국도 서비스부터 AI 모델, 플랫폼, 인프라를 모두 자체적으로 구현할 수 있는 체계를 만들어야 한다”고 설명했다.

KT는 고객사에 AI 인프라를 구축할 수 있는 서비스를 제공하고 있다. 신 상무는 “KT는 고객사를 위해 데이터 준비부터 AI 모델 학습, 배포까지 한 번에 진행할 수 있는 ‘올인원’ 서비스를 개발했다”며 “서비스 공급 전 과정에 대한 보안을 강화했고, AI가 내놓는 결과물에 대한 윤리성도 확보했다”라고 말했다.

#스마트클라우드쇼 2024

= 김민국 기자

빅 말얄라 슈퍼마이크로 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘수냉식 냉각: 데이터센터의 효율성 및 성능을 혁신하다’라는 주제로 온라인 강연을 진행했다./조선비즈
빅 말얄라 슈퍼마이크로 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘수냉식 냉각: 데이터센터의 효율성 및 성능을 혁신하다’라는 주제로 온라인 강연을 진행했다./조선비즈

“2024 파리 올림픽에서 데이터센터에서 나오는 열로 인근 수영장의 물을 데웠다고 한다. 데이터센터가 전 세계 전력의 1.5~3%에 해당하는 전기를 잡아먹는데, 이런 사례를 보듯 우리는 (열을) 얼마든지 창의적으로 활용 가능하다. 공기가 아닌 액체를 사용해 냉각하는 기술이 세상을 바꾸고 환경을 지킬 것이다.”

빅 말얄라 슈퍼마이크로 비즈니스 개발 부문 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘수냉식 냉각: 데이터센터의 효율성 및 성능을 혁신하다’라는 주제로 온라인 강연을 하면서 “데이터센터의 수명은 뜨거운 열을 얼마나 잘 식힐 수 있느냐에 달려있다고 해도 과언이 아니다”라고 했다.

미국 서버 제조업체 슈퍼마이크로는 비전도성 액체 속에 데이터센터 서버를 침전시켜 열을 식히는 이른바 ‘액침 냉각(Immersion Cooling)’ 방식을 사용한다. 장치를 액체에 담궈 직접적으로 열을 잡아내는 설계로, 공기를 순환시키기 위해 소음이 크고 전기를 많이 쓰는 팬을 쓰지 않아도 된다. 액체는 공기보다 냉각 성능이 최대 1000배에 달하는 것으로 알려졌다. 특히 서버의 열을 빠르게 낮춤으로써 제한된 공간에 빽빽하게 서버를 배치할 수 있다는 장점이 있다.

말얄라 부사장은 “생성형 인공지능(AI)이 도입되면서 이를 위한 AI 칩은 더 많은 열을 발산하고 있다”면서 “수많은 열 냉각기술이 경쟁적으로 개발되고 있는 가운데, 공기가 아닌 액체를 사용한 냉각 방식은 수많은 이점을 준다”고 설명했다.

그는 “첨단 프로세서 기술은 더 많은 코어와 고성능 그래픽처리장치(GPU), 대용량 메모리, 최신 성능 가속기 등을 탑재하고 전력 소모가 커서 기존의 공랭식 냉각 기술만으로 감당하기에 한계가 있다”고 했다. 이어 “그 해법으로 우리는 데이터센터 냉각을 위해 공기가 아닌 액체를 활용하고 있다”면서 “다방면에서 편의성이 있고 환경에 무해하며 비용 절감도 크다. 공간의 활용도나 소음 공해나 탄소발자국 감소 등 모든 요소에서 굉장히 유리한 방식이다. 미래에 가야할 길이라고 본다”고 했다.

슈퍼마이크로는 현재 데이터센터의 와트당 성능을 높이는 데 집중하고 있다. 그는 “슈퍼마이크로의 솔루션은 고온 작동 환경이나 외기·냉수 냉방, 액체 또는 액침 냉각 등을 사용해 데이터센터의 PUE(전력 사용 효율)를 높이는 데 유리하다”면서 “효율적인 회로 구성, 티타늄급 이상의 전원 공급 장치 사용, 고효율 냉각 팬 개발, 공기 채널 레이아웃 적용, 시스템 펌웨어 개선, 소프트웨어 전원 관리 향상 등 에너지 효율을 높이기 위한 기술의 연구·개발을 중점적으로 수행하고 있다”고 했다

슈퍼마이크로는 이 외에도 데이터센터 도입과 운영 비용을 절약하고, 설치와 정비 과정을 간소화하기 위해 빌딩 블록 시스템(Building Block Systems)과 플러그 앤 플레이 랙 솔루션(Plug & Play Rack Solutions)을 제공한다. 빌딩 블록 시스템은 다양한 세대의 제품들 사이에서 상·하위 시스템 간의 호환성을 보장하고 시스템을 상호 공유할 수 있는 솔루션으로, 데이터센터 관리자의 효율적인 업무수행을 지원한다. 플러그 앤 플레이 랙 솔루션은 반복성을 보유한 턴키형 데이터센터로 이행하는 단계의 과정으로서, 사전 검증된 랙 레벨의 AI, 5G, 엔터프라이즈와 클라우드 솔루션을 제공한다.

#스마트클라우드쇼 2024

= 전효진 기자

모든 곳에 활용되는 AI... “상품처럼 표준화 돼”
“저렴한 컴퓨팅 자원이 AI 혁신 가능케 해”
“컴퓨팅 성능 곧 1000배 이상 향상... 인간 두뇌에 필적할 것”

케빈 바라고나 딥AI 최고경영자(CEO)가 5일 서울 중구 웨스틴조선호텔에서 열린 '스마트클라우드쇼 2024'에서 기조강연을 하고 있다./조선비즈
케빈 바라고나 딥AI 최고경영자(CEO)가 5일 서울 중구 웨스틴조선호텔에서 열린 '스마트클라우드쇼 2024'에서 기조강연을 하고 있다./조선비즈

“2024년 현재, 우리는 인공지능(AI)의 황금기를 타고 있습니다. 딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 온 것입니다.”

케빈 바라고나 딥AI(DeepAI) 창업자 겸 최고경영자(CEO)는 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 “과거에는 AI 연구가 소수의 연구소나 대기업에 의해 비밀스럽게 진행됐지만 이젠 기술이 민주화됐다”며 이처럼 말했다.

바라고나 CEO는 이날 ‘새로운 재화: 정보와 계산 능력(Compute and Intelligence as New Commodities)’을 주제로 한 기조강연에서 지난 10여년 만에 AI 기술이 급속하게 발전해 누구나 AI를 쉽게 개발하고 활용할 수 있는 ‘AI의 민주화’가 이뤄지고 있다고 강조했다. 그는 “텍스트에서 이미지를 생성하는 기술의 경우, 2016년 결과물은 흐릿하고 제한적이었지만 이제는 거의 무료로 실사 이미지에 가까운 품질의 이미지를 생성할 수 있는 상황에 이르렀다”며 “이는 AI가 더 많은 데이터를 학습하고, 더 나은 모델을 통해 발전해 온 결과”라고 말했다.

그는 AI 기술이 빠르게 발전한 건 저렴한 컴퓨팅 자원 덕분이라고 말했다. 특히 그래픽처리장치(GPU)를 기반으로 한 대규모 연산 처리 비용이 크게 줄어들면서 AI 연구와 개발이 가속화됐다는 설명이다. 그는 “엔비디아는 AI 연산을 처리하는 가장 저렴한 자원을 제공함으로써 시장에서 우위를 점했고, 이는 AI 컴퓨팅이 상품화됐다는 사실을 보여준다”며 “이제 AI 모델 자체는 특정 기술보다 저렴한 컴퓨팅 자원을 어떻게 활용하느냐에 따라 성과가 달라진다”고 말했다.

AI 모델 시장이 ‘상품 시장화’되면서 AI 연구도 점차 투명해지고 있다고 바라고나 CEO는 전했다. 그는 “대형 연구소들은 AI 연구에서 비밀주의를 강화하고 있지만, 사실 AI 모델 개발에 있어 큰 비밀은 없다”며 “AI 모델의 컴퓨팅 자원과 데이터는 모두 상품화되어 있으며, 연구 결과는 곧바로 다른 연구소나 기업에서도 복제할 수 있게 됐다”고 말했다. 그러면서 “이처럼 AI를 학습시키고 활용하는 방법에 대한 지식은 전 세계적으로 널리 퍼져 있다”며 “허깅페이스 플랫폼과 같은 커뮤니티를 통해 많은 사람들이 AI 모델을 만들고 공유하며, 이는 AI 기술이 소수의 대형 연구소에만 독점되지 않고 전 세계적으로 상품화되는 흐름을 더 빠르게 한다”고 말했다.

바라고나 CEO는 “텐서 프로그램 같은 기술이 AI 모델의 훈련 성공 가능성을 높이고 있으며, 딥러닝은 점점 더 과학적으로 발전하고 있다”며 “앞으로 컴퓨팅 성능은 현재보다 1000배 이상 향상될 것이며, 비용과 에너지 효율성도 크게 개선될 것”이라고 했다. 그러면서 그는 “이제 연산 분야에서 불가능이란 없어졌다”며 “머지 않아 AI는 인간의 두뇌 능력을 넘어서거나 그에 필적할 정도로 발전해 더 많은 가능성을 열어줄 것”이라고 했다.

#스마트클라우드쇼 2024

= 최지희 기자

엣지 AI의 부상... 실시간 데이터 처리, 보안성 강점
성장세 빨라... “올해 80% 기업이 엣지 AI 설계 검토”

박준식 ST마이크로일렉트로닉스 한국지사장이 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 특별강연을 하고 있다./조선비즈
박준식 ST마이크로일렉트로닉스 한국지사장이 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 특별강연을 하고 있다./조선비즈

“‘엣지(Edge·말단 기기) 인공지능(AI)’이 미래 기술의 핵심 축으로 자리 잡고 있다.”

박준식 ST마이크로일렉트로닉스 한국지사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘엣지 AI’ 시대가 이미 시작됐으며, 이 기술이 향후 다양한 산업에 혁신을 가져올 것이라고 했다. 엣지 AI는 클라우드에 의존하지 않고 기기 자체에서 데이터를 실시간으로 처리해 소규모 기기에서도 AI를 구동할 수 있는 기술이다.

박 지사장은 ‘엣지 AI 기반의 새로운 AI 시대’를 주제로 한 강연에서 “우리가 인지하지 못하지만 엣지 AI는 이미 우리의 삶에 깊이 들어와 있다”며 “엣지 AI는 클라우드 AI와 달리 네트워크가 불안정하거나 없는 상황에서도 실시간으로 데이터를 처리할 수 있어 웨어러블 기기와 스마트 빌딩 등 다양한 분야에서 사용되고 있다”고 말했다. 그는 엣지 AI가 기기에서 직접 데이터를 처리하므로 지연이 거의 없고, 네트워크를 거치지 않아 보안성과 프라이버시 보호 측면에서 우수하다는 점을 강조했다.

박 지사장은 엣지 AI의 대표적인 사용 사례로 예측 유지보수 시스템을 소개했다. 기기의 모터에 AI 센서를 추가함으로써 미세한 진동 등을 감지해 기기가 고장 나기 전에 유지보수를 안내하는 것이다. 가전 기기의 경우 세탁기에 AI를 탑재, 세탁물의 무게를 예측하고 물·세제 사용을 최적화해 전력 소비를 절감하는 방식도 많이 사용되고 있다. 폐쇄회로(CC)TV에도 엣지 AI를 사용해 실시간으로 보행자 등 객체를 인식하고 매우 적은 전력만으로도 고성능 비디오 분석을 수행하는 기술도 실생활에 활용되고 있다.

웨어러블 기기에서는 임베디드(내장) 엣지 AI와 MCU·MPU 기반의 고성능 엣지 AI가 상호 보완적으로 활용될 수 있다고 박 지사장은 설명했다. 임베디드 엣지 AI는 소규모 기기에서 적은 전력으로 실행할 수 있으며, 배터리 하나로도 수개월에서 1년까지 동작할 수 있다. 반면, MCU·MPU 기반의 엣지 AI는 더 복잡한 연산이 가능하지만, 상대적으로 더 많은 전력을 소모한다. 이에 복잡한 연산이 필요한 경우에는 MCU·MPU 기반의 AI 엣지를 사용하다가 전력 소모가 최소화될 경우에는 임베디드 엣지 AI를 사용하게끔 기기를 개발하는 것이다.

엣지 AI의 성장세는 가파르다. 박 지사장은 “2020년까지는 약 5%의 고객사가 엣지 AI 설계를 도입했으나, 2023년에는 40%로 늘어났고 올해엔 80%의 고객사가 엣지 AI 설계를 검토할 것으로 예상된다”며 “엣지 AI가 기업들의 필수 기술로 자리 잡고 있다”고 설명했다. 그는 “엣지 AI의 확장성은 무궁무진할 것”이라며 “가령 미래형 블랙박스는 주변의 화재, 유리 파손, 동물 침입 등을 실시간으로 감지해 경고하는 등 다양한 추가 기능을 구현할 수 있을 것으로 예상된다”고 말했다.

향후 엣지 AI 개발을 위해서는 생태계 조성이 특히 중요하다고 박 지사장은 강조했다. 그는 “소프트웨어와 하드웨어가 통합된 환경에서 AI 솔루션을 개발해야 한다”며 “다양한 개발 툴과 데이터 처리 시스템이 필요한 상황”이라고 말했다. 그러면서 “생태계가 수반되면 엣지 AI는 클라우드 AI와 상호 보완적인 역할을 통해 스마트 기기, 스마트 팩토리에서 나아가 스마트 시티 등 여러 산업에 적용될 수 있다”며 “앞으로 엣지 AI의 역할과 중요성은 더욱 커질 것”이라고 말했다.

#스마트클라우드쇼 2024

= 최지희 기자

crossmenu linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram