무어의 법칙, 한계 달해
’AI 구동’ 연산능력 매년 10배↑
”하드웨어·소프트웨어 혁신 동시 필요”
“무어의 법칙은 한계에 도달했다. 인공지능(AI) 구동을 위한 연산 수요를 반도체 집약 속도가 따라가지 못하고 있다.”
빌 레진스키(Bill Leszinske) 퓨리오사AI 상임고문은 21일 서울 중구 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2023′에서 “AI를 통해 놀라운 생산성 증가를 경험하고 있지만, 엄청한 AI 능력을 활용하려면 여러 난제를 극복해야 한다”면서 이같이 말했다. 그가 언급한 무어의 법칙은 마이크로칩에 저장할 수 있는 데이터 분량이 24개월마다 2배로 늘어난다는 내용이다.
레진스키 고문은 인텔에서 약 30년 간 근무하며 시스템온칩(SoC), 솔리드스테이트드라이브(SSD) 부문에서 제품기획, 영업, 마케팅 등을 총괄한 인물이다. 특히 인텔 SSD 부문에서 전략 기획 및 마케팅 CVP(Corporate Vice President)를 역임하며 40억달러 규모의 매출 성장을 주도하는 등 데이터센터 비즈니스에 특화한 인물이다. 그는 지난해 12월 한국에서 태동한 AI 반도체 스타트업 퓨리오사AI에 합류했다.
레진스키 고문은 이날 ‘하드웨어를 능가한 AI, 어디로 향할 것인가?’를 주제로 한 강연에서 “AI 구동을 위한 연산 규모는 지금까지 선형적으로 증가하다가 최근 몇년 사이에 빠르게 증가해 매년 10배 이상 늘어나고 있지만, 마이크로칩 집적화는 느려지고 있다”면서 “AI 반도체 발전 사이클은 4년인데, 트랜스포머가 처음 등장한 이후 챗GPT4가 나오는 데 5년도 걸리지 않았다”고 했다.
그는 “1테라바이트(Terabyte)에도 수십, 수백만장의 사진을 저장할 수 있는데 1테라바이트의 10억배인 제타바이트(Zettabyte)가 기업에서 생성 중”이라며 “제타바이트 단위의 데이터는 저장하는 것도 어려울 뿐더러 데이터센터에서 처리하는 데 많은 전력이 들어간다”고 했다. 이어 “미국 아이오와에 있는 마이크로소프트 데이터센터는 센터 냉각을 위해 아이오와주 담수의 10%를 사용하고 있다”고 덧붙였다.
레진스키 고문은 전 세계적으로 불고 있는 데이터 및 개인정보 보안에 관한 규제로 데이터 처리가 더욱 어려워지고 있다고 했다. 그는 “한국에서 저장·생성된 데이터는 한국 이외의 국가에서 저장하지 못한다는 식의 규제가 전 세계 100여개 이상의 국가에서 도입되고 있다”면서 “유럽연합(EU)의 일반 데이터 보호 규정(GDPR), 미국 캘리포니아주의 소비자 개인정보 보호법(CCPA) 같은 규제가 생기면서 데이터 프로세싱의 복잡성이 증가했다”고 했다.
그는 “최근 어떤 과학자를 인터뷰했는데 챗GPT4가 훌륭하지만 작은 다람쥐 정도의 지능과 역량을 가졌다고 말했다”면서 “더 높은 수준의 AI를 위해 더 많은 기술적 확장이 필요하다”고 했다. 그러면서 “반도체 산업에서 30년 동안 일하면서 엔지니어들이 무어의 법칙에서 영감을 받아 신기술을 만들고 혁신을 이뤄낸 것을 봤다”면서 “AI 발전에 따른 하드웨어 한계를 극복하기 위해선 과거보다 한 차원 높은 혁신을 만들어야 한다”고 말했다.
레진스키 고문은 하드웨어의 한계를 극복하는 방법으로 먼저 연산에 대한 혁신을 언급했다. 그는 “반도체 산업에서 무어의 법칙을 극복하기 위해 패키징 기술을 2차원에서 3차원으로 전환 중”이라면서도 “3D 패키징으로는 충분하지 않다. 강력한 연산기능을 수행하기 위해서는 특정한 기능만 수행하는 도메인 특화 아키텍쳐(Domain Specific Architectures)로 나아가야 한다”고 했다.
그는 이외에도 완전 동형 암호화(FHE), 광자를 이용한 데이터 저장 기술, 컴퓨트 익스프레스 링크(CXL) 등을 하드웨어 개선을 위한 혁신 기술로 언급했다. 소프트웨어 개선에 대해서는 “오픈소스 소프트웨어 커뮤니티와 창의적인 엔지니어들이 혁신을 이루고 있다”면서 “최근에 공개된 라마2 모델이 대표적”이라고 했다. 라마2는 페이스북의 모회사인 메타(Meta)가 오픈소스 형태로 공개한 AI언어 생성 모델이다.
레진스키 고문은 “마지막으로 성장의 선순환을 강조하고 싶다”면서 “앞으로 AI 확장을 위한 연산요구가 증가할텐데, 이는 순차적으로 하드웨어와 소프트웨어 혁신으로 이어질 것이다. 앞으로 성장의 선순환이 가속화되길 희망한다”고 말했다.