“사이버 공격이 진화하고 가속화되지만, 이에 대응하기 위해 필요한 뛰어난 인재를 찾는 건 쉽지 않습니다. 쏟아지는 공격에 인간이 일일이 대응할 수도 없습니다. 이 같은 상황에서 인공지능(AI)이 사이버 공격에 대한 우리의 능력을 증강시킬 수단이 될 수 있습니다.”
마크 존스톤 구글 클라우드 아태 지역 최고정보보호책임국 총괄은 20일 서울 소공동 웨스틴조선호텔에서 진행된 ‘2024 사이버보안콘퍼런스’에 기조연설자로 나서 이같이 말했다. ‘급변하는 사이버보안 산업 환경, 구글의 시점에서’라는 주제로 강연한 존스톤 총괄은 “구글은 사이버 공격을 방어하기 위해 AI를 가장 많이 사용하고 있는 곳”이라면서 사례를 소개했다.
그는 온라인 결제 서비스 페이팔의 영수증 메일을 보여주며 “이 경우 PDF나 텍스트 메일이 아닌, 이미지 메일이기 때문에 피싱 메일인지 빠르게 검증하는 게 쉽지 않다”면서 “그러나 생성형 AI를 통해 이미지 파일 내에 있는 내용을 확인하고, 페이팔의 실제 전화번호와 메일 속 전화번호가 다른 것을 판단하는 식으로 피싱 메일 여부를 확인할 수 있다”고 했다.
존스톤 총괄에 따르면 구글은 ▲추론 ▲학습 ▲속도 ▲규모 등 다양한 측면에서 AI를 활용하고 있다. AI를 활용해 악성 파일을 검토하는 구글 클라우드의 ‘바이러스 토탈’이 대표적이다. 구글이 사이버 위협에 신속하게 대응하는 데에도 AI가 활용되는데, 제미나이 1.5 프로의 경우 34초 만에 방어자에게 분석 결과를 제공한다.
이날 생성형 AI 자체에 대한 방어는 물론 생성형 AI가 악용될 여지를 차단하기 위한 구글의 노력도 소개됐다. 구글은 레드팀(기업의 내·외부의 취약점을 발견해 공격하는 팀)을 운영하고 있다. 구글의 레드팀은 구글이 탈취될 수 있도록 일부러 시나리오를 만들고 이에 대응하는 훈련을 진행한다. 일부러 구글을 구글이 해킹하는 것이다.
구글은 지난 2010년부터 보안 허점을 발견하고 관련 정보를 공개한 사람에게 보상금을 제공하는 ‘버그 헌터 프로그램’도 운영 중이다. 존스톤 총괄은 “수 십억 명의 디지털 시민이 구글을 믿고 개인 정보를 맡기기 때문에, 구글에겐 큰 책임이 있다”면서 “2021년 한 해에만 구글은 100억달러(약 13조8390억원)를 사이버 보안 영역에 투자했다”고 했다.
구글이 이처럼 사이버 공격에 체계적으로 대응하는 데에는 과거 대규모 공격을 받았던 사건이 계기가 됐다. 구글은 지난 2009년 ‘오로라 작전(Operation Aurora)’이라는 사건을 겪었다. 중국 정부와 연계된 사이버 첩보 집단이 구글을 비롯한 대형IT기업 여러 곳을 공격했고, 서버침투, 지적재산권 절도 등이 진행됐다.
존스턴 총괄은 “당시에도 구글의 사이버 보안 기술이 뒤쳐진 게 아니었지만, 이 사건을 계기로 사이버 공격에 대해 더 민첩하게 대응하게 됐다”면서 “이후 ‘보안 내재화(Secure By Design)’라는 개념이 등장했다”고 했다. 보안 내재화란 소프트웨어(SW) 제품·서비스 전 과정에서 보안을 반드시 고려하겠단 취지다.
그는 “오로라 작전 이후로 구글 내에서 여러 프로그램이 진행됐는데, ‘제로 트러스트(Zero trust)’ 아키텍처를 구축한 게 대표적”이라며 “결과적으로 내가 구글에 조인한 지 7년이 되도록 비밀번호를 바꿀 필요가 없는 안전한 네트워크 환경이 구축됐다”고 말했다.
존스톤 총괄은 제로 트러스트는 단일 솔루션으로 완성될 수 없음을 강조했다. 그는 “제로 트러스트는 하나의 제품이 아니라 (사이버 보안을 위한) 방법론이자 조직 전체가 받아 들여야 하는 변화”라며 “AI 등을 접목해 안전하고 복원력 있는 사이버 환경을 만들기 위해 기업의 임원 급에서 꾸준한 논의가 이뤄져야 한다”고 했다.
구글 클라우드 아태 지역 최고정보보호책임국 총괄
마이크로소프트 최고표준임원·전무
2024 첨단산업 표준 리더십 포럼 총회 발제 1 - 인공지능 안전성과 표준
2024 첨단산업 표준 리더십 포럼 총회 질의응답 및 자유 토론
“소비자들은 어떤 서비스를 받을 때 개인화된 고품질 서비스를 신속하게 받기를 원합니다. 하지만 기업들은 이를 균형있게 제공하기가 어렵다고 느끼는 경우가 대부분입니다. 세일즈포스는 생성형 인공지능(AI) 고객관계관리(CRM) 솔루션인 ‘아인슈타인 1′을 통해 기업 생산성을 높이고, 소비자들도 만족할 만한 서비스를 받을 수 있도록 하고 있습니다.
박양교 세일즈포스코리아 클라우드세일즈 영업본부장은 21일 서울 소공동 웨스틴조선호텔에서 진행된 ‘스마트클라우드쇼 2023′에서 강연자로 나서 “맞춤화된 특별 서비스 받기를 기대하는 소비자는 79%, 빠르게 서비스를 받기를 원하는 소비자는 83%에 달하지만 이를 제공하기 어려워하는 직원들은 78%에 달한다”며 이같이 말했다. 세일즈포스는 서비스형 소프트웨어(SaaS) 형태의 클라우드 기반 CRM 시스템 공급업체로, 최근 아인슈타인 GPT의 차세대 버전인 아인슈타인 1을 공개했다.
박 본부장은 서비스 제공 관련 소비자와 기업간 괴리를 해결하는 방안으로 3가지 전략을 소개했다. 그는 “고객들에게 맞춤화된 서비스를 제공하는 ‘커스터머360(Customer 360)’ 서비스, AI를 통한 고객경험 강화, 쉽고 빠른 서비스 확장 세 가지가 필요하다”고 했다. 빠르게 바뀌는 산업 환경에서 소비자들의 요구사항은 점점 늘어나고 있기 때문에 세일즈포스 플랫폼 내에서 영업, 마케팅, 서비스 등 소비자들과 연결된 모든 업무 프로세스에 대해 ‘엔드 투 엔드’ 서비스를 제공하고자 한다는 것이다.
이를 위해 AI가 생성한 콘텐츠를 쓸 수 있게 하는 생성형 AI CRM 솔루션이 ‘아인슈타인 1′이다. 챗GPT와 마찬가지로 ‘챗봇’ 형태이며 세일즈포스의 커스터머 360을 기반으로 매일 2000억 개 이상의 AI 기반 예측을 제공한다. 박 본부장은 “아인슈타인 1 플랫폼은 생성형AI를 이용한 세계 최초의 CRM 솔루션”이라며 “영업, 서비스, 마케팅, 커머스, IT 전 분야에서 사용할 수 있다”고 했다.
예컨대 전화 상담원이 아인슈타인 1 플랫폼을 이용할 경우 사례 데이터 및 상담 기록을 기반으로 요약 노트가 자동으로 생성돼 숙련되지 않은 상담원도 마치 숙련된 상담원처럼 상담할 수 있다. 박 본부장은 “상담원의 생산성을 높이는 것은 물론 실시간 개인화를 통해 고객만족도를 높일 수 있다”고 했다.
그는 “세일즈포스는 비즈니스 전략 변화에 빠르게 대응할 수 있도록 전 세계에 동일한 노 코드·로우 코드 플랫폼을 제공한다”며 “UI, UX의 유연한 확장, 데이터 모델 및 업무 프로세스 추가 기능도 갖췄다”고 덧붙였다.
“이 사진에 나온 티셔츠와 잘 어울리는 바지를 추천해줘.”
“이미지 속 검은색 티셔츠와 잘 어울리는 바지를 찾으신다면, 어두운 색상의 면 또는 폴리 혼방 소재의 바지를 선택하세요.”
멀티모달(시각·청각 등 다양한 감각을 통해 정보를 주고받는 것) 인공지능(AI) 플랫폼에 검은색 티셔츠 이미지와 함께 위와 같은 명령어를 입력하니 아래 답이 나왔다. 이는 카카오엔터프라이즈가 진행한 한국어 LLaVA(대형 언어 및 시각 복합 모델) 실험 결과다. LLaVA는 시각 인코더와 대규모언어모델(LLM)을 연결해 시각 및 언어 이해를 가능케한 모델로, 카카오클라우드는 이를 타깃 모델로 잡고 한국어 학습 실험에 나섰다. 카카오클라우드는 AI 주요 연구 영역인 비전, 자연어 처리, 음성 부문에서 다양한 모델을 개발해 API(응용프로그램 인터페이스) 형태로 제공하고 있다.
전재진 카카오엔터프라이즈 클라우드서비스개발실 클라우드 AI/ML 기술개발 리더는 21일 서울 소공동 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2023’에서 “AI를 개발하기 위해서는 GPU(그래픽처리장치) 서버뿐만 아니라 컴퓨팅, 네트워킹, 스토리지에 대한 깊은 연구가 필요하다”며 “카카오는 단순히 기업과 연구소 등에 플랫폼을 제공하는 것 뿐 아니라 사용성을 명확하게 확인하기 위해 한국어 학습을 포함한 다양한 모델링을 진행하고 있다”고 말했다.
전 리더는 “AI 관련 언어 모델 학습에서 가장 어려운 점은 한국어 데이터가 적다는 점”이라며 “이에 카카오는 오픈 모델을 활용해 LLaVA에서 한국어 학습을 진행했다”고 말했다. 첫 실험 결과 사용자가 이미지와 명령어를 제시하고 간단한 답변을 받는 데엔 문제가 없었으나, AI가 이미지에 나타난 한글이나 국내 장소는 제대로 인식하지 못했다고 한다.
전 리더는 “한국어를 잘 인식하는 모델을 만들기 위해 20억장에 이르는 다국어 데이터 중 한국어 비율 50% 이상, 250음절 이내 길이의 데이터를 뽑아 추가 모델링 실험을 진행했다”며 “여기에 한국 이미지를 추가로 제공해 사전 학습과 파인튠 과정을 거쳐 한국어로 훨씬 자세한 이미지 기반 정보를 얻을 수 있었다”고 설명했다.
전 리더는 “이처럼 LLM 모델뿐 아니라 멀티모달 모델의 중요성이 점점 더 커지고 있는데, 카카오 클라우드는 이런 멀티모달을 개발한 경험이 충분하다”며 카카오 클라우드의 강점으로 효율적 학습 환경 관리, AI 모델 개발 및 배포 파이프라인, 동적 자원 할당 및 대규모 분산학습 지원을 꼽았다. 그는 “카카오 클라우드 머신 러닝은 실시간 스케일 인·아웃으로 유연한 개발 환경을 제공하고, AI 프레임워크를 통해 빠르게 모델을 검증할 수 있다”며 “카카오 클라우드의 숱한 경험을 토대로 외부 기관, 회사 등과 협업을 지속해 좋은 모델을 개발할 수 있도록 계속 노력하겠다”고 말했다.
㈜카카오엔터프라이즈 클라우드 AI/ML 개발 리더
IBM 아시아태평양 지역 CTO·부사장
스마트클라우드쇼 2023 특별강연 1 - 비즈니스를 위한 AI: 생성형 AI를 기업 비즈니스에 도입, 확장하는 법
어도비 아시아태평양 지역 전략개발 총괄
삼성SDS 보안연구팀장(마스터)
2023사이버보안콘퍼런스 강연 2 - 양자컴퓨터 시대의 보안위협과 대응방안
회원가입 후 이용 가능한 서비스입니다.