“미국 펜타곤 근처에서 검은 연기가 피어오르는 사진이 삽시간에 곳곳에 퍼졌다. 생성형 인공지능(AI)이 만들어낸 한 장의 가짜 사진이었다. 이 사진 때문에 주식 시장에서는 수십억달러가 증발하는 피해가 발생했다. 생성형 AI의 창의성에는 한계가 없다. 그래서 필연적으로 안전성이 담보로 되어야 한다.”
데스몬드 앙(Desmond Ang) 어도비 아시아태평양 지역 전략개발 총괄은 21일 서울 소공동 웨스틴조선호텔에서 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2023′에서 ‘크리에이티브 생산성에 생성형 AI가 미칠 영향’이라는 주제로 특별강연을 진행했다.
이날 앙 총괄은 “생성형 AI를 활용한 어도비의 파이어플라이는 디자인 기술이 없는 사람들도 자유롭게 창의성을 발휘할 수 있다”며 “특히 ‘텍스트투이미지’ 기능으로 삽화나 사실적인 그림을 어려움 없이 생성해낼 수 있으며, 기존 사진에서 사물을 추가하거나 삭제, 변경하는 작업도 간단하게 가능하다”고 말했다.
문제는 이 같은 생성형 AI 기반의 이미지 생성 기술이 때로는 ‘가짜뉴스’나 재산권 피해 등 분쟁의 소지를 발생하게 한다는 것이다. 그는 “파이어플라이가 특별한 이유는 안전성을 중요시 하는 기업 고객사들에게 최적화된 기술을 제공한다는 것”이라며 “생성형 AI가 사용하는 이미지 자체에 아무런 법적 문제가 없게 데이터베이스를 구축해놓았다”고 설명했다.
그는 “가령 이미지 프롬프트에 스파이더맨’이라는 단어를 입력했을 때 어도비 파이어플라이는 스파이더맨과 비슷한 이미지를 보여주는데, 이는 직접적으로 지식재산권을 침해하지 않도록 프로그램이 설계돼 있기 때문”이라고 설명했다.
특히 앙 총괄은 어도비의 ‘콘텐츠 자격증명’ 제도를 강조했다. 그는 “어도비는 생성형 AI에서 창작된 이미지가 누구에 의해 창작된 것인지 명확하게 표기하며, 모든 생성 데이터가 이미지에 메타데이터로 포함돼 있다”며 “디지털 콘텐츠를 위한 영향성분표라고 보면 된다. 이 재료가 어디서 왔고 칼로리가 얼마나 되는지 확인할 수 있는 것”이라고 말했다.
한편 어도비는 이 같은 콘텐츠 자격증명을 위해 어도비는 전 세계 1만7000명 이상의 기업 멤버로 구성된 업계 표준을 수립하고 있다. 그는 “더 안전한 AI의 사용을 위해 전 세계 정부와도 대화하며 업계 표준을 확립해 콘텐츠 사용자와 창작자 모두를 보호할 수 있는 방안을 고안해냈다”고 덧붙였다.