국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2025’가 27일 오전 서울 중구 웨스틴조선호텔에서 막을 올렸다. 과학기술정보통신부가 주최하고 조선비즈와 정보통신산업진흥원이 주관하는 이번 행사는 ‘AI와 미래(AI and the Future)’를 주제로 인공지능(AI) 기술의 최신 동향과 사회·산업 전반의 변화를 짚는다. 이날 행사에는 이른 아침부터 정부·학계·산업계 인사 300여명이 참석해, AI가 열어갈 새로운 기회와 변화에 높은 관심을 보였다.
이날 개막식에서 배경훈 과학기술정보통신부 장관의 축사를 대독한 송상훈 과기정통부 정보통신정책실장은 “정부는 AI 3대 강국 도약을 목표로 그래픽처리장치(GPU) 1만장 확보, 국산 AI 반도체 실증, 피지컬(physical) AI 개발 지원 등을 포함한 독자 AI 생태계 구축을 적극 추진하고 있다”며 “이 자리가 AI 기술의 발전 방향성과 함께 사회적 함의까지 논의하는 의미 있는 시간이 되기를 기대한다”고 말했다.
오세훈 서울특별시장은 영상 인사말을 통해 “서울시는 내년 자체 대규모언어모델(LLM)을 구축해 행정 전반에 생성형 AI를 도입할 계획”이라며 “오늘 논의하는 아이디어들이 서울을 글로벌 스마트시티로 도약시키는 동력이 되길 기대한다”고 말했다.
이번 콘퍼런스에서는 AI가 텍스트·이미지를 생성하는 단계를 넘어 로봇·자율주행 등 현실 세계로 확장하는 피지컬 AI에 대해 집중적으로 논의한다. 젠슨 황 엔비디아 최고경영자(CEO)가 “로봇 산업도 챗GPT와 같은 전환점을 맞을 것”이라고 선언한 것처럼, 로봇과 AI의 결합은 새로운 성장 축으로 부상하고 있다. 이에 따라 기조연설 무대에서도 피지컬 AI의 미래가 핵심 의제로 다뤄질 예정이다.
첫 번째 기조연설은 피지컬 AI 분야 권위자인 켄 골드버그 UC버클리 교수가 맡는다. 엔비디아와 함께 제조 로봇을 개발하고 있는 그는 ‘AI와 로봇이 이끄는 생산성 혁명’을 주제로, 차세대 로봇 기술이 제조업·농업·의료 분야에 가져올 변화를 소개할 예정이다. 이어 마이크로소프트(MS)의 도나 사르카르 접근성 기술 책임자가 두 번째 연사로 나서 스스로 판단하고 임무를 수행하는 ‘AI 에이전트’가 어떻게 기업의 업무를 지원하고 변화시킬 것인지에 대해 발표한다.
중국 로봇청소기 기업 에코백스의 데이비드 챈 CEO는 ‘가정용 로봇의 진화와 혁신’을 주제로 AI 기반 가전 로봇의 미래를 조망한다. 이어 장병탁 서울대 교수는 ‘K-휴머노이드’와 한국형 AI 전략을 중심으로 발표에 나선다. 네 연사는 윤성로 서울대 교수를 좌장으로 한 패널 토의에서 AI 산업의 기회와 과제에 관해 대담을 나눈다.
오후 세션에는 글로벌 빅테크와 보안·클라우드·모빌리티 등 다양한 분야의 기업들이 무대에 오른다. 전 세계 반도체 설계의 90% 이상을 점유하고 있는 Arm의 모하메드 아와드 수석부사장은 ‘AI의 미래는 Arm에서 설계된다’를 주제로 AI 반도체 전략을 공유한다.
이스라엘 보안 기업 체크포인트의 댄 카르파티 AI센터 총괄은 AI 시대의 사이버 보안 위협과 대응 전략을 공유하고, 쟈오 왕 화웨이 클라우드 아태지역 부사장과 마이크 오길 우버 APAC 공공정책 총괄이 각각 클라우드와 모빌리티 산업에서의 AI 혁신에 대해 발표한다.
국내에서는 이민정 에스원 부사장, 주민식 LG CNS AI선행기술연구소장, 옥상훈 네이버클라우드 리더 등이 연사로 나선다. 이들은 AI와 물리보안, AI 에이전트, 생성형 AI 비즈니스 사례 등 다양한 현장 목소리를 전달한다.
Arm 수석 부사장 겸 인프라 사업부 총괄
“인공지능(AI) 모델을 활용해 랜섬웨어까지 제작해 유포할 수 있다는 우려가 지속해서 제기되고 있다. AI를 활용해 사이버 공격까지 할 수 있다는 의미다. 북한이 위협하고 있는 한국도 AI 위협을 예방하고, 실제로 공격이 이뤄졌을 때 즉시 복구할 수 있는 대책을 조속히 마련해야 한다.”
임종인 대통령비서실 사이버특별보좌관은 20일 서울 중구 웨스틴조선호텔에서 열린 ‘2024 사이버보안콘퍼런스’에 참석해 ‘AI 위협과 기회’를 주제로 한 강연에서 이같이 말했다.
임 보좌관은 “AI가 급속하게 발전하고 파급력이 커지면서 촉발하는 위협 역시 주요한 고려 요소로 부상하고 있다”며 “AI를 활용한 해킹이 연구되고 있고 AI 모델에 백도어와 트로이 목마를 심어 검색 결과를 조작하는 기술도 나오고 있다”고 말했다.
임 보좌관은 또 “현재 탈옥(Jailbreak)’ 기술 등을 통해 AI가 부적절한 검색 결과를 만들도록 유도하는 기술도 개발되고 있다”며 “딥페이크 기술을 사용해 고위 인사를 사칭한 영상을 만들거나 신원을 도용해 계좌 등에 접근하는 사례도 늘고 있다”고 설명했다.
임 보좌관은 이 같은 추세가 사이버 전쟁으로도 확대될 수 있다고 우려하고 있다. 그는 “2021년에는 미국의 대규모 송유관인 ‘콜로니얼 파이프라인’의 시스템이 랜섬웨어의 공격을 받아, 일부 지역에 대한 연료 공급에 차질이 생기기도 했고 최근 러시아-우크라이나 전쟁에서도 사이버 전쟁이 활발하게 진행되고 있다”고 말했다.
임 보좌관은 이어 “현재 바이든 미국 대통령도 안전하고 신뢰할 수 있는 AI 개발을 위한 방향성을 정책적으로 규정해 둔 상황이다”라며 “AI를 활용해 미국 공공기관 보안의 취약점을 찾기 위한 ‘사이버챌린지’ 프로그램도 운영 중이다”라고 덧붙였다.
임 보좌관은 “우리나라도 AI 위협에 대한 대비책을 마련하는 동시에, 실제로 공격받았을 때 즉시 회복할 수 있는 체계를 만들어야 한다”며 “미국을 비롯한 우방국과의 보안 협력도 강화해야 한다”고 설명했다.
“올해는 생성형 인공지능(AI) 기반 사이버보안이 산업 전체의 메가 트렌드다. 해킹 관련 진입 장벽이 낮아지면서 무분별한 사이버 범죄가 생길 위험성도 높아지고 있다.”
김연진 과학기술정보통신부 정보보호기획과장은 20일 서울 소공동 웨스틴조선호텔에서 진행된 ‘2024 사이버보안콘퍼런스’ 강연에서 이같이 말했다.
김 과장은 사이버보안 트렌드가 생성형 AI 등장 전과 후로 나뉜다고 했다. 그는 “지난 2022년 11월 오픈AI가 챗GPT를 공개했고, 직장인 85%는 AI 사용으로 인한 업무 성취감 등 긍정적인 부분도 많았으나, 저작권 문제, 다양성 존중 등 AI 윤리 이슈도 동시에 떠올랐다”고 전했다.
김 과장은 그러나 “최근에는 AI 기술을 악용한 사이버 공격이 늘고있다”면서 “과거에는 전문 해커가 했다면, 요즘에는 특별한 기술이 없더라도 공격자가 AI 프로그램을 활용해 피싱 메일을 손쉽게 작성하는 등 진입장벽이 낮아지고 있다는 특징”이라고 분석했다.
김 과장은 “피싱 메일, 스미싱, 보이스피싱 등 최근 사이버공격의 약 91%가 피싱 이메일로 시작되고 있으며, 미국만 하더라도 피해 규모가 약 5208만달러로 추산된다”고 전했다.
보안 위협 중 AI가 만든 ‘악성코드’에 대한 위험도 커지고 있다. 김 과장은 “AI 보안 위협 중 또 다른 문제로 지적되는 것은 ‘악성코드 제작’”이라면서 “AI는 소스 코드 생성 및 분석에도 용이하고, AI 해킹에 대한 진입장벽이 낮아지면서 무분별한 사이버 범죄가 생길 위험성도 높아지고 있다. 가짜 뉴스, 딥페이크로 인한 신뢰성 낮은 정보가 작성 및 유포될 가능성도 커지고 있는 상황”이라고 전했다.
김 과장은 이어 “영국, 미국, EU 등에선 국가 안보도 AI 기술로 인해 위협받을 것이라고 상당히 심각하게 인식하고 있다”면서 “국내에서도 과학기술정보통신부 뿐 아니라 국가정보원, 금융위원회, 개인정보위원회 등이 적극 나서고 있는 상황”이라고 했다.
과학기술정보통신부는 현재 안전한 AI 시대를 대비하기 위해서 다각적인 정책을 추진하고 있다. 사이버보안 기술을 12대 국가 전략 기술로 선정하고, 지난 4월부터는 생성형 AI 보안 위협 기술 개발 과제가 새롭게 착수됐다. 이 밖에 ‘AI 안전 연구소’도 조만간 설립될 예정이다.
김 과장은 “업계의 이야기를 들어보면 AI 분야 보안 인력이 상당히 부족하다고 한다”면서 “과기정통부는 미래를 책임질 인재 양성을 위해 ‘사이버 10만 인재 양성’을 위해 체계적으로 실행해 나가고 있다”고 전했다. 이 밖에도 “올해부터는 AI기술 발전에 따라 나타나는 역기능 해소를 위해 정보보호 특성화 대학, 박사후연구원, 최정예 화이트해커 양성 지원도 하고 있다”고 덧붙였다.
구글 클라우드 아태 지역 최고정보보호책임국 총괄
엔씨소프트 정보보호최고책임자(CISO)
SK쉴더스 시큐디움 센터장
2023사이버보안콘퍼런스 강연 5 - AI 기반의 보안관제 한계 극복
회원가입 후 이용 가능한 서비스입니다.