국내 최대 테크 콘퍼런스, 5일 서울 소공동 웨스틴조선호텔서 성황리에 폐막
‘AI 시대 새로운 기회들’ 주제로
HP, 퀄컴, 레노버, 텐스토렌트 등 글로벌 빅테크 실세 총출동
“‘로컬 AI·컴퓨팅’을 활용하면 비용과 에너지를 크게 절감할 수 있다. 그 기반에는 기업(고객)이 신뢰하는 프라이빗 모델 제공해야 한다.”(짐 노팅엄 HP 수석부사장)
“대규모 워크로드가 필요한 경우에도 온디바이스(내장형) AI가 절대적인 강점이 있다.”(두르가 말라디 퀄컴 수석부사장)
“인간 수준의 범용 AI 로보틱스를 구현하려면 새로운 데이터와 새로운 학습 방법이 필요하다.”(아니메쉬 가그 미국 조지아공대 교수)
“딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 왔다. 챗GPT 무료모델에서 실망한 수요가 우리로 넘어오고 있어서 기회를 보고 있다.”(케빈 바라고나 딥AI(DeepAI) 최고경영자(CEO))
5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′가 ‘인공지능(AI) 시대 새로운 기회들(New Opportunities in the Age of AI)’이라는 주제로 열린 가운데 이른 아침부터 정부, 학계, 산업계 관계자 300여명이 참석해 성황리에 열렸다.
올해 행사에는 세계 1·2위 PC 제조업체인 레노버와 HP, 세계 최대 모바일 반도체 기업 퀄컴을 비롯한 글로벌 빅테크 기업의 핵심 임원들이 총출동했다. 과학기술정보통신부가 주최하고, 조선비즈와 정보통신산업진흥원(NIPA)이 주관한 올해 행사는 오후 6시까지 총 15개 강연 세션이 마련 됐으며, 행사가 끝나는 시간까지 자리를 지키는 관객들이 많았다.
최형두 국민의힘 의원(국회 과학기술방송통신위원회 여당 간사)은 이날 축사에서 “AI와 클라우드는 기업, 언론, 정책 전문가들이 함께 책임을 지고 추진해야 할 과제”라면서 “대한민국이 제조업 강국의 입지를 활용해 초거대 AI 산업 발전을 추진하겠다”고 했다. 강도현 과학기술정보통신부 제2차관은 “9월 출범하는 ‘국가 인공지능(AI) 위원회’를 통해 국가 AI 역량을 총결집할 수 있도록 최선을 다하겠다”면서 “AI 산업 육성과 안전·신뢰 기반 조성을 고려한 AI 기본법 제정도 적극 지원하겠다”고 약속했다. 오세훈 서울시장은 온라인 축사에서 “인공지능(AI)을 가장 잘 활용하는 세계 최고의 인공지능 매력도시로 서울을 탈바꿈 시키겠다”면서 “스마트한 행정서비스로 시민 편의를 높이는 데 집중하겠다”고 전했다.
◇ “온디바이스AI·오픈 플랫폼·로컬 컴퓨팅”… 해결법은 다르지만 핵심은 ‘고객 이해’
기조연설자들은 생성형 AI 경쟁이 심화되고 있는 오늘날, 사업 시작 단계를 넘어 수익화 단계로 접어들고 있는 상황에서 혁신에 성공할 수 있는 비법을 공유했다. 이들은 각자 다른 방식의 해결책을 내놓았으나, 공통적으로 고객으로부터 답을 얻어야한다고 했다.
짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석부사장은 HP가 집중하고 있는 AI 혁신의 3가지 분야로 ▲기업 ▲공간 ▲사람을 꼽았다. 그는 “AI는 이 세 분야에서 ‘로컬’로 운용하는 것이 중요하고, 전 세계가 로컬 컴퓨팅부터 클라우드까지 매끄럽게 연결되어야 성공 가능하다”면서 “가장 우선적으로는 고객을 이해하고 그들과 협업을 통해 해결 전했다. 세계 2위 PC 제조사인 HP는 오늘날 전통적인 하드웨어 중심 사업 모델에서 벗어나 인공지능(AI) 플랫폼 기업으로 정체성을 재정비하고 있다.
두르가 말라디 퀄컴 수석부사장은 “사용자들이 개인화된 AI 경험을 추구하고 있기 때문에 온디바이스(On-device) AI가 무엇보다 중요하다”고 강조했다. 그는 “생성형 AI 구동으로 인한 부하를 엣지 또는 클라우드로 분산시킬 수 있어 이용자들이 누리고 싶어하는 서비스를 다 누릴 수 있도록 할 수 있다”고 덧붙였다.
아니메쉬 가그 교수는 거대언어모델(LLM), 멀티모달에 이어 AI 개발의 다음 단계로 알려진 ‘일반세계모델(General world models)’에 대해 소개했다. 그는 “범용 AI 로봇을 만들려면 구체적으로 무엇을, 어떻게 해야하는지 기억하도록 하는 게 아니라 어떻게 전 세계가 작동하는 지를 학습하게 하는 것이 중요하다”며 “로봇이 인간과 상호작용하게 하는 환경을 만들면 로봇은 스스로 추론을 하고 다양한 동작을 한다”고 했다.
케빈 바라고나 딥AI(DeepAI) 창업자 겸 최고경영자(CEO)는 “딥러닝 모델을 실행하기 위한 컴퓨팅 자원은 이제 ‘상품(commodity)’처럼 취급돼 누구나 AI를 만들고 활용할 수 있는 시대가 왔다”면서 “이제 AI 모델 자체는 특정 기술보다 저렴한 컴퓨팅 자원을 어떻게 활용하느냐에 따라 성과가 달라질 것”이라고 내다봤다.
수미르 바티아 레노버 인프라스트럭처 솔루션 그룹(ISG) 아시아·태평양 사장은 AI의 편의성에도 불구, 많은 기업들이 도입을 주저하고 있다고 지적했다. 그는 이어 “이제 경영진에게 AI 교육은 필수”라면서 “인공지능(AI)이 기업의 생산성을 59% 향상시킬 수 있는 것으로 분석됐다. 경영진부터 AI가 사업을 어떻게 바꿔놓을 수 있을지 배우고 생각해야 한다”고 전했다.
김준우 라이너 대표는 “고객 중심의 접근이 필수적”이라면서 많은 기업들이 AI 기술의 우수성에 집중하는 경향이 있지만, 고객이 원하는 것은 문제가 빠르고 저렴하게 해결되는 것”이라고 했다. 2015년에 설립한 AI 스타트업 라이너는 주로 미국과 한국에서 생성형 AI 기반 검색 및 정보 큐레이션 서비스를 제공하고 있다.
◇ 생성형 AI 무한 경쟁 시대… 미래를 선도할 신기술 소개
미국 서버 제조업체 슈퍼마이크로는 비전도성 액체 속에 데이터센터 서버를 침전시켜 열을 식히는 이른바 ‘액침 냉각(Immersion Cooling)’ 방식을 사용한다. 빅 말얄라 슈퍼마이크로 비즈니스 개발 부문 수석부사장은 “데이터센터가 전 세계 전력의 1.5~3%에 해당하는 전기를 잡아먹는데, 이런 사례를 보듯 우리는 (열을) 얼마든지 창의적으로 활용 가능하다. 공기가 아닌 액체를 사용해 냉각하는 기술이 세상을 바꾸고 환경을 지킬 것이다.
키스 위텍(Keith Witek) 텐스토렌트 최고운영책임자(COO)는 “AI를 구동하기 위한 고성능 반도체의 중요성이 커지면서 수많은 비용이 들고있다”면서 “개발 비용을 최소화하면서도 제품 가치를 차별화할 수 있도록 지원하는 ‘칩렛 기술’과 ‘개방형 생태계(Open Platform)’ 등에 주목해야한다”고 했다.
SK텔레콤의 비전R&D를 이끄는 양승지 담당(부사장)은 “엣지 컴퓨팅의 컴퓨팅 파워가 제한적이기 때문에 엣지와 클라우드 간의 균형을 지속적으로 맞춰야 하며, 균형을 맞추더라도 AI 시스템을 지속적으로 개선해야 한다”면서 “AI 모델이 배포된 후에도 지속적으로 데이터를 수집해 어떤 부분에서 약점이 있는지를 분석하고 있다”고 말했다.
신동훈 KT AI2XL AI코어 기술 담당(상무)는 “KT는 고객사를 위해 데이터 준비부터 AI 모델 학습, 배포까지 한 번에 진행할 수 있는 ‘올인원’ 서비스를 개발했다”며 “서비스 공급 전 과정에 대한 보안을 강화했고, AI가 내놓는 결과물에 대한 윤리성도 확보했다”고 소개했다.
박준식 ST마이크로일렉트로닉스 한국지사장은 “‘엣지(Edge·말단 기기) 인공지능(AI)’이 미래 기술의 핵심 축으로 자리 잡고 있다”고 소개하고 “생태계가 수반되면 엣지 AI는 클라우드 AI와 상호 보완적인 역할을 통해 스마트 기기, 스마트 팩토리에서 나아가 스마트 시티 등 여러 산업에 적용될 수 있을 것”이라고 했다.
“오는 2026년이면 인공지능(AI) 업무 자동화 솔루션인 ‘하이퍼오토메이션’ 시장 규모가 1400조원까지 성장할 것으로 예측된다. 이미 전 세계 기업들은 하이퍼오토메이션 구현을 시작했고 투자를 이어가고 있다.”
박재혁 삼성SDS 하이퍼오토메이션(Hyperautomation) 사업팀 상품기획그룹장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 이같이 말했다.
박 그룹장은 “생성형 AI가 등장했지만, 기업의 고민은 여전하다”며 “AI 인프라를 구현할 때 비용이 들기에 섣불리 활용했다가 수익이 줄 수도 있기 때문이다”라고 설명했다. 그는 이어 “하이퍼오토메이션은 고도화된 AI를 통해 힘들이지 않고 업무를 자동화할 수 있는 개념으로, 최근 업계의 주목을 받고 있다”라고 덧붙였다.
박 그룹장은 “하이퍼오토메이션의 궁극적인 목표는 ‘엑셀 자동으로 만들기’ 같은 단순 작업을 넘어, AI가 사람처럼 문서를 읽고 판단하며 학습한 자료를 토대로 업무를 수행하는 것”이라며 “내년쯤에는 전 세계 70% 이상의 기업이 스스로 의사결정을 할 수 있는 AI 역량을 갖출 것으로 예상된다”고 밝혔다.
삼성SDS는 자사 하이퍼오토메이션 서비스인 ‘브리티 오토메이션’을 고객사에 공급하고 있다. 박 그룹장은 “브리티 오토메이션은 생성형 AI 기술을 통해 고객사에 기업 업무 시작부터 마무리까지 끊김 없는 자동화를 제공할 수 있다”고 설명했다.
그는 이어 “브리티 오토메이션을 이용한 고객사의 실무자 7명이 베트남 보건부의 정책 원문을 번역해서 내용을 확인하고 현지 시장에 제품을 출시하기까지 1주밖에 걸리지 않았다”며 “행정처분 리스크와 제품 출시 지연 같은 요소를 전부 피해간 것”이라고 설명했다.
박 그룹장은 “삼성SDS는 브리티 오토메이션의 기능을 지속해서 보강해 대표 AI 솔루션 업체로서 입지를 다질 것”이라고 말했다.
“AI 서비스, 기술로 접근해선 안돼... 고객 니즈부터 파악해야”
“AI 과도한 기대 경계해야... 안정기 기다릴 필요 있어”
“인공지능(AI) 서비스로 사업 기회를 잡으려면, AI 기술로 접근하기보다는 ‘고객 중심(customer driven)’ 사고를 탑재하는 것이 중요하다.”
최시원 채널코퍼레이션 최고경영자(CEO)는 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 “기업들은 AI를 고객이 원하는 문제를 해결하는 도구로 바라봐야 한다”며 이같이 말했다.
그는 “14년 전 창업한 이후 수많은 실패를 겪으면서 얻은 중요한 교훈은 ‘고객 중심 전략’이었다”며 “AI 기술이 중요한 것은 맞지만, 그보다 더 중요한 것은 고객이 원하는 것을 정확히 파악하고, 이를 해결할 수 있는 솔루션을 제공하는 것”이라고 말했다.
채널코퍼레이션은 채팅 상담 솔루션과 AI 기반 커뮤니케이션 서비스를 제공하는 회사다. 대표적인 서비스는 ‘채널톡’으로, AI 기반 채팅 상담 기능에 더해 고객 정보 수집, 비디오 컨퍼런스콜, 전화 연결 기능을 제공하는 것이 특징이다.
최 CEO는 “사업 실패 후 수많은 이들과 인터뷰를 한 결과, 고객들은 기업과 더 쉽게, 빨리 연결되길 원하고 있는 반면, 업체들은 쏟아지는 문의를 처리할 인력이 부족하다고 토로했다”며 “이에 이 문제를 해소할 방법을 찾기 위해 AI를 들여다보기 시작했다”고 설명했다. 그러면서 그는 “AI 기반 상담 서비스를 제공한 이후 7년간 17만개 이상의 고객사를 확보했고, 일본 시장에서 반응이 좋아 현재 전체 매출의 25%가 일본에서 발생하고 있다”고 했다.
그는 AI 기술이 많은 기회를 창출하고 있으나 ‘AI 하이프’(과장된 기대)를 경계해야 한다고 강조했다. 최 CEO는 “AI는 인터넷과 스마트폰 다음으로 가장 큰 기회라고 보고 있지만 AI 기술이 사업적으로 안정적으로 자리 잡기까지는 시간이 필요하다”며 “비용 대비 효율성에 대한 신중한 접근이 필요하며, 기존 산업의 문제 해결을 돕는 방향으로 AI 사업을 고민할 필요가 있다”고 말했다.
최 CEO는 “시장조사업체 가트너의 분석에 따르면 현재 생성형 AI는 하이프의 정점에 있다는고 한다”며 “이에 우리 회사의 대응 전략은 이런 하이프에 너무 억지로 올라타려 하지 말고, 큰 돈을 투자하기 보다는 관망하면서 하이프 다음의 안정기를 노리자는 것”이라고 설명했다. 또 그는 AI 기술 개발뿐 아니라 고객에게 기술을 잘 전달하고 정착시키는 분배 역량이 중요하다고 전했다. 그는 “AI 솔루션을 도입할 때 고객의 심리적 장벽을 넘는 것이 성공의 핵심”이라며 “이에 분배 능력이 뛰어난 기업이 경쟁에서 우위를 점할 것”이라고 말했다.
‘2024 스마트클라우드쇼’ 패널 토의
“인간과 상호작용하는 로봇, 우리 생활 일부분 될 것”
“AI 위험성 커져 글로벌 차원 규제 및 협력 필요”
"로봇의 능력은 생성형 인공지능(AI)으로 급속히 발전하고 있으며, 이제는 인간과 자연스럽게 상호작용할 수 있는 시대가 머지않았다."
5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’ 패널 토의에서는 AI 로봇과 인간과의 상호작용, AI 발전에 따른 윤리적 문제 등이 다뤄졌다. 이날 패널 토의에는 짐 노팅엄 HP 첨단 컴퓨팅 솔루션 부문 수석 부사장, 아니메쉬 가그 조지아공대 교수, 케빈 바라고나 딥AI(DeepAI) CEO가 참석했다.
좌장을 맡은 유창동 카이스트 전기 및 전자공학부 교수는 AI가 우리 삶에 미치는 영향을 언급하며 토론을 시작했다. 그는 “AI는 이제 음악과 미술 같은 창의적 작업을 수행할 수 있을 만큼 발전했다”며 “AI가 앞으로 인간과 자연스럽게 상호작용할 날이 머지않았다”고 말했다.
그러면서 유 교수는 가그 교수에게 인간과 로봇이 언제쯤 어떻게 상호작용할 수 있을지 질문했다. 가그 교수는 “로봇이 인간과 협업할 수 있는 방식이 빠르게 발전하고 있으며, 현재의 기술 발전 속도로 보면 2년에서 5년 내에 상용화될 가능성이 높다”고 답변했다. 이어 “지난 10년간 로봇 기술이 급속히 발전해, 과거에는 불가능했던 옷 접기나 음식 손질과 같은 작업을 이제는 로봇이 수행할 수 있게 됐다”고 덧붙였다.
가그 교수는 자율주행차 연구의 발전을 예로 들며 “처음에는 제어와 계획에 중점을 두었던 연구가 이제는 세상을 이해하고 해석하는 문제로 발전했다”며 “이와 같은 변화가 대규모언어모델(LLM)에도 적용되고 있다”고 말했다. 그러면서 “LLM의 발전으로 조만간 인간과 자연스럽게 상호작용할 수 있는 로봇이 등장해 우리 생활의 일부분이 될 것”이라고 했다.
바라고나 딥AI CEO는 AI 개발의 윤리적 문제와 이를 해결하기 위한 글로벌 협력 방안에 대해 설명했다. 바라고나 CEO는 “AI의 발전이 빠르게 이루어지고 있지만, 그 과정에서 발생하는 윤리적 문제는 필연적이며, 이를 해결하기 위한 국제적 협력이 필수적”이라고 말했다.
그는 지난해 초 전 세계적으로 AI 훈련 실험을 잠시 멈추자는 제안을 했지만, 현실적으로 AI 개발 중단은 어렵다고 밝혔다. 바라고나 CEO는 “전 세계가 AI 발전을 원하고 있기 때문에 중단은 사실상 불가능하다”며 “AI가 더욱 강력해질수록 그에 따른 위험성도 커질 수 있으며, 이를 방지하기 위한 글로벌 차원의 규제와 협력이 반드시 필요하다”고 강조했다.
유 교수는 짐 노팅엄 수석부사장에게 AI의 신뢰성과 윤리적 사용을 위한 HP의 노력을 물었다.
노팅엄 수석부사장은 “HP는 AI 윤리 부서를 설립해 공정성과 신뢰성을 확보하기 위한 다양한 도구와 정책을 마련하고 있다”며 “AI 도구에는 편향성과 드리프트를 방지하고 환각 상태를 차단하는 기술이 포함되어 있다”고 밝혔다. 이어 “HP는 규제 산업에서도 AI 모델의 신뢰성을 검증하기 위해 파트너들과 협력하고 있다”고 덧붙였다.
노팅엄 수석부사장은 AI 개발자들이 협업하는 과정에서 발생하는 어려움과 이를 해결하기 위한 HP의 솔루션을 제시했다. 그는 “많은 AI 개발자들이 고성능 워크스테이션에서 작업을 하고 있다”면서 “HP의 AI 크리에이션 센터가 제공하는 AI 스튜디오는 데이터 과학자들이 다양한 인프라, 특히 클라우드 상에서 협업할 수 있는 통합 도구”라고 말했다.
‘생성형 AI로 가치 있는 제품을 만들기 위한 비밀들’ 강연
“고객이 원하는 것은 문제를 빠르고 저렴하게 해결하는 것”
“챗GPT 제외하고 압도적인 서비스 없어 기회”
"생성형 인공지능(AI) 시대에도 가장 중요한 것은 고객입니다. 고객의 문제를 해결하는 것이 비즈니스의 핵심입니다."
김진우 라이너 대표는 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘생성형 AI로 가치 있는 제품을 만들기 위한 비밀들’을 주제로 강연에 나섰다.
라이너는 2015년에 설립한 AI 스타트업으로 주로 미국과 한국에서 생성형 AI 기반 검색 및 정보 큐레이션 서비스를 제공하고 있다. 라이너는 연구자, 학생 등 정밀한 검색과 정보 활용이 필요한 사용자들에게 인기를 끌며, 전 세계에서 두 번째로 많이 사용되는 AI 검색 서비스다.
김 대표는 라이너의 밑거름이 된 생성형 AI 기술을 활용한 비즈니스 제품을 성공적으로 만들기 위한 비밀 3가지를 공유했다.
첫 번째로 김 대표는 고객 중심의 접근이 필수적이라고 밝혔다. 그는 “많은 기업들이 AI 기술의 우수성에 집중하는 경향이 있지만, 고객이 원하는 것은 문제가 빠르고 저렴하게 해결되는 것”이라며 “고객은 AI 자체보다는 문제 해결에 더 큰 관심을 가진다”고 말했다.
그는 이어 “고객이 관심을 갖는 것은 문제를 해결하는 방법이 AI인지 아닌지가 아니라, 문제 자체가 얼마나 효과적으로 해결되느냐”라고 덧붙였다. 이를 통해 AI 제품 개발의 초점은 기술의 혁신성보다는 실질적인 문제 해결 능력에 맞춰져야 한다는 것이다.
김 대표는 많은 기업들이 AI 기술이 기존 솔루션과 어떻게 다른지 설명할 때, 단순히 ‘AI입니다’라는 답변만으로는 고객의 신뢰를 얻을 수 없다고 지적했다. 그는 “기술 그 자체보다는, 실제로 사람들의 삶을 어떻게 더 나아지게 할 수 있을지에 대한 고민이 필요하다”며 “AI가 단지 ‘예쁜 쓰레기’가 되지 않도록 주의해야 한다”고 말했다.
김 대표는 두 번째로 홍보와 마케팅의 중요성을 언급했다. 기술이 중요한 것은 맞지만, 이제는 기술을 얼마나 잘 알리고, 시장에서 어떻게 자리 잡게 할 것인지가 더 중요해졌다는 것이다.
김 대표는 “네트워크 효과, 규모의 경제, 브랜드 구축 등을 통해 생성형 AI 제품의 가치를 높일 수 있다”며 “현재 AI 제품 중 챗GPT를 제외하고 압도적인 서비스가 없는 만큼, 지금이 시장을 선점할 좋은 기회”라고 말했다. 그러면서 “브랜드가 AI 비즈니스의 성공에 있어 핵심 요소로 작용할 수 있고, 전 세계적인 경쟁 속에서 자리 잡기 위한 포지셔닝이 중요하다”고 강조했다.
김 대표는 마지막으로 생성형 AI 제품의 비용 구조를 설명했다. 생성형 AI는 기존 소프트웨어(SW)보다 운영 비용이 더 많이 들기 때문에 이를 극복하는 전략이 중요하다는 것이다.
김 대표는 “생성형 AI 제품이 더 복잡한 작업을 처리할수록 비용이 증가하기 때문에, 이를 제대로 관리하지 않으면 비즈니스에 큰 어려움이 따를 수 있다”고 설명했다.
그는 AI 에이전트 시스템의 복잡성을 예로 들며 “고객의 문제를 해결하기 위해 단순한 작업은 가벼운 모델이 처리하고, 복잡한 문제는 고도화된 AI 모델이 처리하는 방식을 통해 효율성을 높일 수 있다”고 말했다. 이어 “오픈소스 AI 모델을 잘 활용하면 비용을 절감하면서도 특정 작업에서 더 높은 성능을 낼 수 있다”고 덧붙였다.
김 대표는 “AI 기술이 계속해서 발전하고 있으며, 이를 통해 더 나은 비즈니스 모델을 구축할 수 있는 기회가 많다”며 “글로벌 시장을 겨냥해 고객의 문제를 해결하는 데 집중한다면 더 큰 성공을 거둘 수 있을 것”이라고 말했다.
"인공지능(AI) 도입의 시작은 데이터 관리입니다. 기업이 데이터를 정확히 관리하고 클라우드를 활용하는 것이 성공적인 AI 도입의 핵심입니다."
강종호 베스핀글로벌 부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘2024 스마트클라우드쇼’에서 ‘클라우드 기반 AI 도입 사례’를 주제로 강연했다. 베스핀글로벌은 아마존웹서비스(AWS), 마이크로스프트(MS) 애저, 구글 클라우드 등 다양한 클라우드 및 AI 솔루션을 제공하는 MSP(클라우드서비스관리제공자) 기업이다.
강 부사장은 AI 도입에서 가장 중요한 첫 단계는 데이터를 모으고 이를 클라우드로 전환하는 것이라고 설명했다. 그는 “기업이 AI를 도입하려면 우선 데이터가 효율적으로 관리되고 클라우드에 기반해야 한다”며 “데이터를 기반으로 AI가 적용될 때 비로소 매출 증대와 비용 절감이라는 실질적인 효과를 기대할 수 있다”고 말했다.
그는 “금융권 A사는 오라클 클라우드를 활용해 보안 문제를 해결하고 AI를 기반으로 한 서비스를 제공하기 위해 클라우드 전환을 진행했다”며 “제조업체 B사 역시 분산된 데이터를 한 곳에 모아 종합적으로 관리하면서 AI를 성공적으로 도입할 수 있었다”고 말했다.
그러면서 “많은 기업이 데이터를 보유하고 있지만, 여러 시스템에 분산되어 있기 때문에 AI 도입이 어렵다. 클라우드를 통해 데이터를 한 곳으로 모으고 연결성을 강화해야만 효과적으로 활용할 수 있다”고 강조했다.
“2026년이 되면 전 세계 기업 중 80%가 생성형 인공지능(AI) 기반 애플리케이션을 업무에 도입할 것으로 전망됩니다. 지난해가 기술 도입을 고려하는 초기 단계였다면, 올해부터는 이를 구체적으로 적용해 기술을 내재화하는 시점이 될 것입니다.”
김종찬 메가존클라우드 클라우드 전략 그룹 전무는 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘기업의 생성형 AI 도입과 비즈니스 혁신’을 주제로 한 클라우드 세션에서 이렇게 말했다.
김 전무는 생성형 AI 시장이 본격 개화하기 시작한 지난해의 경우 대다수 기업이 기술을 도입하는 데 신중했다고 설명했다. 그는 “초기 단계에서는 기술 역량을 확보하는 것도 어려웠고, 이 기술에 어느 정도 비용을 투자해야 하는지, 보안 문제는 없는지 등 고려 대상이 많았다”고 했다.
김 전무는 업무에 생성형 AI 기술이 적용된 사례가 늘며, 올해부터 이를 활용하고자 하는 기업들의 숫자도 증가했다고 했다. 김 전무는 “고객 응대 시스템이나 챗봇 등이 도입되며 올해 1분기부터 구체적인 프로젝트가 실행되고 있고, 기술 활용 역량도 내재화하는 단계”라며 “아직도 부작용에 대한 우려가 존재하지만, 개인의 업무 효율을 높일 수 있다거나 비즈니스 경쟁력을 강화할 수 있다는 순작용도 분명히 존재하기 때문에 여기에 집중하면 비즈니스 혁신이라고 말할 수 있을 것”이라고 했다.
그러면서 그는 “조직 차원에서 생성형 AI 기술 도입을 수용하고, 자사 데이터를 결합하기 시작하는 등 기업 내부에 관련 기술이 문화적으로 정착하기 위한 노력이 진행되고 있다”며 “1~2개의 업무에 도입해 효율을 검토하는 ‘작은 성공’들을 경험적으로 안착시켜 점진적으로 전사적으로 프로세스가 확대하는 접근 방식이 중요하다”고 덧붙였다.
김 전무는 생성형 AI가 업무에 도입된 실제 사례도 함께 소개했다. 김 전무는 크게 영업 전략 및 마케팅 업무, 제조 현장, 이커머스 플랫폼, B2C(기업과 소비자 간 거래) 지식 제공 서비스 등에 메가존클라우드의 서비스가 제공되고 있다고 설명했다. 그는 “생산 공장에 장비 공급사가 제공한 사용 설명서를 책 형태가 아니라 질의응답 방식으로 활용해 생산성을 강화한다거나, 인사나 회계 총무 관련해 필요한 시점에 빠르게 답변해주는 챗봇 등이 사용되고 있다”고 했다.
“SK텔레콤이 인공지능(AI) 모델 개발에서 가장 중요하게 생각하는 일은 양질의 데이터를 모으는 것입니다. 최근 ‘네이처(Nature)’는 AI 모델이 생성한 데이터를 다른 AI 모델이 학습하는 일이 반복되면, 차츰 데이터의 다양성이 없어지고 모델이 붕괴한다는 내용을 발표했는데, 비전AI에서도 마찬가지입니다. 영상에 눈에 보이지 않는 노이즈를 삽입하면 데이터 결과가 완전히 오인되며, 의도적으로 삽입한 워터마크가 강제로 무력화되기도 합니다.”
SK텔레콤의 비전R&D를 이끄는 양승지 담당(부사장)은 5일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘기업 스케일의 비전 AI 기술 - 문제와 기회의 간격’이라는 주제로 강연하며 이같이 말했다. 양 담당은 “거대언어모델(LLM)의 본질은 어떤 데이터가 많은 지에 집중돼 있다. 어떤 특성을 갖고 있는지는 간과된다”며 “이런 부분들 때문에 상용화되면서 문제가 발생하는 것”이라고 했다.
그러면서 “2년 전 벤처비트 자료에 따르면 80%의 엔터프라이즈 AI 솔루션은 실패한다. 그런데 2년이 지난 지금도 여전히 80%가 실패하고 있다”며 “실제 현장은 전혀 예측할 수 없기 때문”이라고 말했다. 예컨대 CCTV 영상에 거미줄이 등장하면 이를 사람으로 오인할 수 있다는 것이다. 이 같은 데이터는 기존의 학습 데이터에 포함돼 있지도 않고 만들어내기도 어려움이 있다는 것이 양 담당의 설명이다.
그는 “가정했던 상황이 바뀌거나 새 컨셉트가 끊임없이 나오기 때문에 AI 성능은 시간이 지날수록 정확도가 떨어질 수 밖에 없다”며 “얼마나 많은 데이터로 얼마나 오래 학습해야 되는지 아직 잘 모르기 때문에 여전히 시행착오를 겪고 있다”고 했다. 그렇기 때문에 양질의 데이터를 확보하는 일이 중요하다는 것이다. 데이터를 쉽게 얻을 수 없는 경우 영상을 생성해서 학습시키는 방법도 사용한다.
양 담당은 비용 감축에도 노력을 기울이고 있다고 밝혔다. 그는 “영상 데이터는 비용 민감도가 높아서 비용 감축 방안을 일찍부터 고민해왔다”며 “2014년 딥러닝을 개발하기 시작해 2016년 상용화할 무렵, 엔비디아에 비용을 줄일 방법이 있는지 문의했다”고 했다. 그러면서 “텐서RT라는 솔루션을 소개받아 비용 문제를 해결했고, 클라우드와 비교해 100분의 1 정도 크기의 모델로 동일한 정확도를 달성했다”고 전했다.
또 “엣지 컴퓨팅의 컴퓨팅 파워가 제한적이기 때문에 엣지와 클라우드 간의 균형을 지속적으로 맞춰야 하며, 균형을 맞추더라도 AI 시스템을 지속적으로 개선해야 한다. AI 모델이 배포된 후에도 지속적으로 데이터를 수집해 어떤 부분에서 약점이 있는지를 분석하고 있다”고 덧붙였다.
“인공지능(AI)의 혁신이 전 산업에 영향을 끼치고 있다. 이제 AI 경쟁력 보유 여부가 업계의 승자를 결정할 것이다.”
신동훈 KT AI2XL AI코어 기술 담당(상무)은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 이같이 말했다.
신 상무는 “아마존은 향후 10년 간 데이터센터에 1000억달러(약 133조원)을 투자한다고 밝혔고, 마이크로소프트(MS)와 오픈AI도 비슷한 규모의 데이터센터 프로젝트 ‘스타게이트’를 진행한다고 밝혔다”라며 “산업 전반에 AI 활용도가 점차 커지면서, AI 구현에 쓰이는 데이터센터에 대한 빅테크의 투자도 확대되는 것”이라고 설명했다.
신 상무는 “애플, 삼성전자, 구글 등 주요 스마트폰 제조사도 온디바이스(내장형) AI 구현을 위해 제미나이를 비롯한 언어모델을 도입하고 있다”며 “오픈AI는 현실의 물리 법칙을 이해한 동영상 생성기인 ‘소라’를 내놓기도 했다”고 설명했다. 그는 이어 “AI 기능이 적용된 로봇이 사람과 직접적으로 상호 작용하며 자율성을 가지고 스스로 판단해 동작하기도 한다”며 “AI가 좀 더 현실에 가까워져 오고 있는 것”이라고 덧붙였다.
신 상무는 한국도 자체적인 AI 생태계를 구축해야 한다고 강조했다. 그는 “AI가 금융, 공공, 교육 등 다양한 분야에 영향을 끼칠 것으로 예상되는 만큼 한국도 서비스부터 AI 모델, 플랫폼, 인프라를 모두 자체적으로 구현할 수 있는 체계를 만들어야 한다”고 설명했다.
KT는 고객사에 AI 인프라를 구축할 수 있는 서비스를 제공하고 있다. 신 상무는 “KT는 고객사를 위해 데이터 준비부터 AI 모델 학습, 배포까지 한 번에 진행할 수 있는 ‘올인원’ 서비스를 개발했다”며 “서비스 공급 전 과정에 대한 보안을 강화했고, AI가 내놓는 결과물에 대한 윤리성도 확보했다”라고 말했다.
“2024 파리 올림픽에서 데이터센터에서 나오는 열로 인근 수영장의 물을 데웠다고 한다. 데이터센터가 전 세계 전력의 1.5~3%에 해당하는 전기를 잡아먹는데, 이런 사례를 보듯 우리는 (열을) 얼마든지 창의적으로 활용 가능하다. 공기가 아닌 액체를 사용해 냉각하는 기술이 세상을 바꾸고 환경을 지킬 것이다.”
빅 말얄라 슈퍼마이크로 비즈니스 개발 부문 수석부사장은 5일 서울 중구 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2024′에서 ‘수냉식 냉각: 데이터센터의 효율성 및 성능을 혁신하다’라는 주제로 온라인 강연을 하면서 “데이터센터의 수명은 뜨거운 열을 얼마나 잘 식힐 수 있느냐에 달려있다고 해도 과언이 아니다”라고 했다.
미국 서버 제조업체 슈퍼마이크로는 비전도성 액체 속에 데이터센터 서버를 침전시켜 열을 식히는 이른바 ‘액침 냉각(Immersion Cooling)’ 방식을 사용한다. 장치를 액체에 담궈 직접적으로 열을 잡아내는 설계로, 공기를 순환시키기 위해 소음이 크고 전기를 많이 쓰는 팬을 쓰지 않아도 된다. 액체는 공기보다 냉각 성능이 최대 1000배에 달하는 것으로 알려졌다. 특히 서버의 열을 빠르게 낮춤으로써 제한된 공간에 빽빽하게 서버를 배치할 수 있다는 장점이 있다.
말얄라 부사장은 “생성형 인공지능(AI)이 도입되면서 이를 위한 AI 칩은 더 많은 열을 발산하고 있다”면서 “수많은 열 냉각기술이 경쟁적으로 개발되고 있는 가운데, 공기가 아닌 액체를 사용한 냉각 방식은 수많은 이점을 준다”고 설명했다.
그는 “첨단 프로세서 기술은 더 많은 코어와 고성능 그래픽처리장치(GPU), 대용량 메모리, 최신 성능 가속기 등을 탑재하고 전력 소모가 커서 기존의 공랭식 냉각 기술만으로 감당하기에 한계가 있다”고 했다. 이어 “그 해법으로 우리는 데이터센터 냉각을 위해 공기가 아닌 액체를 활용하고 있다”면서 “다방면에서 편의성이 있고 환경에 무해하며 비용 절감도 크다. 공간의 활용도나 소음 공해나 탄소발자국 감소 등 모든 요소에서 굉장히 유리한 방식이다. 미래에 가야할 길이라고 본다”고 했다.
슈퍼마이크로는 현재 데이터센터의 와트당 성능을 높이는 데 집중하고 있다. 그는 “슈퍼마이크로의 솔루션은 고온 작동 환경이나 외기·냉수 냉방, 액체 또는 액침 냉각 등을 사용해 데이터센터의 PUE(전력 사용 효율)를 높이는 데 유리하다”면서 “효율적인 회로 구성, 티타늄급 이상의 전원 공급 장치 사용, 고효율 냉각 팬 개발, 공기 채널 레이아웃 적용, 시스템 펌웨어 개선, 소프트웨어 전원 관리 향상 등 에너지 효율을 높이기 위한 기술의 연구·개발을 중점적으로 수행하고 있다”고 했다
슈퍼마이크로는 이 외에도 데이터센터 도입과 운영 비용을 절약하고, 설치와 정비 과정을 간소화하기 위해 빌딩 블록 시스템(Building Block Systems)과 플러그 앤 플레이 랙 솔루션(Plug & Play Rack Solutions)을 제공한다. 빌딩 블록 시스템은 다양한 세대의 제품들 사이에서 상·하위 시스템 간의 호환성을 보장하고 시스템을 상호 공유할 수 있는 솔루션으로, 데이터센터 관리자의 효율적인 업무수행을 지원한다. 플러그 앤 플레이 랙 솔루션은 반복성을 보유한 턴키형 데이터센터로 이행하는 단계의 과정으로서, 사전 검증된 랙 레벨의 AI, 5G, 엔터프라이즈와 클라우드 솔루션을 제공한다.