“인공지능(AI) 모델을 활용해 랜섬웨어까지 제작해 유포할 수 있다는 우려가 지속해서 제기되고 있다. AI를 활용해 사이버 공격까지 할 수 있다는 의미다. 북한이 위협하고 있는 한국도 AI 위협을 예방하고, 실제로 공격이 이뤄졌을 때 즉시 복구할 수 있는 대책을 조속히 마련해야 한다.”
임종인 대통령비서실 사이버특별보좌관은 20일 서울 중구 웨스틴조선호텔에서 열린 ‘2024 사이버보안콘퍼런스’에 참석해 ‘AI 위협과 기회’를 주제로 한 강연에서 이같이 말했다.
임 보좌관은 “AI가 급속하게 발전하고 파급력이 커지면서 촉발하는 위협 역시 주요한 고려 요소로 부상하고 있다”며 “AI를 활용한 해킹이 연구되고 있고 AI 모델에 백도어와 트로이 목마를 심어 검색 결과를 조작하는 기술도 나오고 있다”고 말했다.
임 보좌관은 또 “현재 탈옥(Jailbreak)’ 기술 등을 통해 AI가 부적절한 검색 결과를 만들도록 유도하는 기술도 개발되고 있다”며 “딥페이크 기술을 사용해 고위 인사를 사칭한 영상을 만들거나 신원을 도용해 계좌 등에 접근하는 사례도 늘고 있다”고 설명했다.
임 보좌관은 이 같은 추세가 사이버 전쟁으로도 확대될 수 있다고 우려하고 있다. 그는 “2021년에는 미국의 대규모 송유관인 ‘콜로니얼 파이프라인’의 시스템이 랜섬웨어의 공격을 받아, 일부 지역에 대한 연료 공급에 차질이 생기기도 했고 최근 러시아-우크라이나 전쟁에서도 사이버 전쟁이 활발하게 진행되고 있다”고 말했다.
임 보좌관은 이어 “현재 바이든 미국 대통령도 안전하고 신뢰할 수 있는 AI 개발을 위한 방향성을 정책적으로 규정해 둔 상황이다”라며 “AI를 활용해 미국 공공기관 보안의 취약점을 찾기 위한 ‘사이버챌린지’ 프로그램도 운영 중이다”라고 덧붙였다.
임 보좌관은 “우리나라도 AI 위협에 대한 대비책을 마련하는 동시에, 실제로 공격받았을 때 즉시 회복할 수 있는 체계를 만들어야 한다”며 “미국을 비롯한 우방국과의 보안 협력도 강화해야 한다”고 설명했다.
“올해는 생성형 인공지능(AI) 기반 사이버보안이 산업 전체의 메가 트렌드다. 해킹 관련 진입 장벽이 낮아지면서 무분별한 사이버 범죄가 생길 위험성도 높아지고 있다.”
김연진 과학기술정보통신부 정보보호기획과장은 20일 서울 소공동 웨스틴조선호텔에서 진행된 ‘2024 사이버보안콘퍼런스’ 강연에서 이같이 말했다.
김 과장은 사이버보안 트렌드가 생성형 AI 등장 전과 후로 나뉜다고 했다. 그는 “지난 2022년 11월 오픈AI가 챗GPT를 공개했고, 직장인 85%는 AI 사용으로 인한 업무 성취감 등 긍정적인 부분도 많았으나, 저작권 문제, 다양성 존중 등 AI 윤리 이슈도 동시에 떠올랐다”고 전했다.
김 과장은 그러나 “최근에는 AI 기술을 악용한 사이버 공격이 늘고있다”면서 “과거에는 전문 해커가 했다면, 요즘에는 특별한 기술이 없더라도 공격자가 AI 프로그램을 활용해 피싱 메일을 손쉽게 작성하는 등 진입장벽이 낮아지고 있다는 특징”이라고 분석했다.
김 과장은 “피싱 메일, 스미싱, 보이스피싱 등 최근 사이버공격의 약 91%가 피싱 이메일로 시작되고 있으며, 미국만 하더라도 피해 규모가 약 5208만달러로 추산된다”고 전했다.
보안 위협 중 AI가 만든 ‘악성코드’에 대한 위험도 커지고 있다. 김 과장은 “AI 보안 위협 중 또 다른 문제로 지적되는 것은 ‘악성코드 제작’”이라면서 “AI는 소스 코드 생성 및 분석에도 용이하고, AI 해킹에 대한 진입장벽이 낮아지면서 무분별한 사이버 범죄가 생길 위험성도 높아지고 있다. 가짜 뉴스, 딥페이크로 인한 신뢰성 낮은 정보가 작성 및 유포될 가능성도 커지고 있는 상황”이라고 전했다.
김 과장은 이어 “영국, 미국, EU 등에선 국가 안보도 AI 기술로 인해 위협받을 것이라고 상당히 심각하게 인식하고 있다”면서 “국내에서도 과학기술정보통신부 뿐 아니라 국가정보원, 금융위원회, 개인정보위원회 등이 적극 나서고 있는 상황”이라고 했다.
과학기술정보통신부는 현재 안전한 AI 시대를 대비하기 위해서 다각적인 정책을 추진하고 있다. 사이버보안 기술을 12대 국가 전략 기술로 선정하고, 지난 4월부터는 생성형 AI 보안 위협 기술 개발 과제가 새롭게 착수됐다. 이 밖에 ‘AI 안전 연구소’도 조만간 설립될 예정이다.
김 과장은 “업계의 이야기를 들어보면 AI 분야 보안 인력이 상당히 부족하다고 한다”면서 “과기정통부는 미래를 책임질 인재 양성을 위해 ‘사이버 10만 인재 양성’을 위해 체계적으로 실행해 나가고 있다”고 전했다. 이 밖에도 “올해부터는 AI기술 발전에 따라 나타나는 역기능 해소를 위해 정보보호 특성화 대학, 박사후연구원, 최정예 화이트해커 양성 지원도 하고 있다”고 덧붙였다.
구글 클라우드 아태 지역 최고정보보호책임국 총괄
엔씨소프트 정보보호최고책임자(CISO)
SK쉴더스 시큐디움 센터장
2023사이버보안콘퍼런스 강연 5 - AI 기반의 보안관제 한계 극복
회원가입 후 이용 가능한 서비스입니다.