AI 교과서 ‘인공지능’ 저자 스튜어트 러셀, 영상 기조연설
“범용 AI, 인간 선호 명확히 알면 ‘미다스 왕’ 문제 재현”
불확실하거나 환경 따라 바뀌는 인간 선호도 그 이유
조선·제조업서 일자리 대체 시작한 AI, 全산업으로 침투 중
韓, 인간형 로봇 강점… “언어이해·계획력 보강해야”
실험실 속, 또는 개인 스마트폰에서 단순 ‘음성 비서’ 정도의 역할을 하던 인공지능(AI)이 빠르게 우리 삶 속으로 들어오고 있다. ‘AI 분야의 교과서’로 평가되며 18개국, 1500여 대학에서 교재로 채택 중인 ‘인공지능’의 저자이자 미국 UC버클리 AI 연구소를 이끌고 있는 ‘AI 최고 석학’ 스튜어트 러셀 미국 UC버클리대 전기공학·컴퓨터과학과 교수는 “이런 ‘범용 AI’에 인간이 선호하는 미래, 목표를 알려주지 않아야 한다”고 강조했다.
29일 열린 국내 최대 테크 콘퍼런스 ‘스마트클라우드쇼 2021′ 둘째날 기조연설에 영상으로 참여한 러셀 교수는 “범용 AI가 인간의 선호를 명확히 알았을 때 그리스 신화에 나오는 미다스(Midas)왕과 같은 불행한 결말을 맞을 수 있다”라며 이렇게 말했다.
그는 “신들에게 만지는 모든 것을 금으로 변하게 해달라고 했던 미다스 왕은 음식을 먹을 수도, 물도 마실 수 없게 됐을 뿐만 아니라 가족도 금이 돼 불행하게 굶어 죽었다”라면서 “인간은 완전하고 정확한 목적을 AI에 입력해야 하지만, 이 입력 목적이 미다스 왕처럼 우리가 선호하는 진짜 미래 모습과 상충할 수 있다”라고 했다. 인간이 정확한 선호를 모르며, 오늘의 선호와 내일의 선호가 바뀔 수 있다는 점 등도 이유로 꼽았다.
러셀 교수는 “AI는 (사전에 인간이 입력한) 목적 달성에 방해가 된다면, 선제적 조치를 취해 인간의 사후 개입도 막을 수 있다”라면서 “기계가 인간이 중요시 하는 것을 어느 정도 알면서도 선호·목적을 정확히 알지는 못할 경우 어떤 대가를 치러나가면서 목적이 무엇인지 인간으로부터 배워나가며 선호를 이해하게 돼 행동이 달라질 것”이라고 말했다.
러셀 교수는 다만 “기계가 한 명이 아닌, 다수의 선호를 어떻게 찾아 나가는가는 개인간 선호 대립이 있을 수 있고, 이는 수천년간 사회학자, 경제학자, 윤리학자가 연구해 온 문제이기도 하다”라면서 “이를 통해 확인한 것은 사람이 원하는 대부분의 선호는 단순히 좋은 차, 큰 집이 아닌, 상대적으로 큰 차, 이웃보다 큰 집이라는 점”이라고 했다.
범용 AI가 반복적인 인간의 육체·정신적인 일자리를 대체할 수 있다는 우려에 대해서도 그래프(하단 이미지 참조)를 보여주며 언급했다.
그는 “x축이 붓의 폭, y축이 고용되는 도장공(painter)이다”라면서 “붓이 한 올 수준의 사이즈라면 페인트칠을 하기 너무 비싸서 아예 도장이 불가능할 것이지만, 넓어질수록 부유층은 도장이 가능하다. 보통 붓이 개발되면 누구나 할 수 있게 된다”라고 했다. 이어 “이 경우 많은 도장공이 고용될 수 있겠지만, 페인트칠을 매주 하는 것이 아니니 수요가 포화상태에 이르러 도장공 일자리가 줄어들 것”이라며 “이런 형태의 고용 곡선은 조선업, 자동차 제조업에서 이미 보이고 있으며, 범용 AI가 도입되면 모든 산업이 자동화되면서 이런 곡선이 나타날 것”이라고 말했다.
러셀 교수는 기조연설 전 조선비즈와 가진 사전 인터뷰에서 “창조적이거나 사람의 관리가 필요하거나, 대인관계에 관한 것에서는 인간의 일자리가 남아있을 수 있다”라면서 “이 중에서도 삶을 향상시키기 위해 다른 사람과 관계를 맺는 대인관계와 관련해서는 일의 범주가 상당히 커질 수 있을 것”이라고 예상했었다.
이날 강연에서 그는 한국 AI 기술력에 대해 높이 평가했다. 러셀 교수는 영국 미디어기업의 ‘글로벌 AI 지수’에서 이스라엘, 독일, 프랑스를 제치고 5위에 이름을 올린 한국에 대해 “미국에서 열린 세계 재난구조로봇대회 ‘다르파 로보릭스 챌린지(DRC)’에서 카이스트(KAIST)의 인간형 로봇 ‘DRC-휴보’가 최종 우승하거나 삼성이 가정용 로봇을 개발하는 성과를 봤을 때 합리적인 평가라고 본다”라면서 “한국은 인간형 로봇에 강점이 있고, AI 기술이 진화한다면 향후 대량생산을 통해 저렴해지고 성능도 유용해질 것”이라고 평했다.
그러면서도 “다만 인간과 소통하고, 여러 사물 등이 있는 가정에 투입되기 위해서는 훨씬 더 뛰어난 언어 이해, 계획력, 조작력 등의 기술이 더 필요하다”라고 덧붙였다.
= 장우정 기자