지난 3년 동안의 팬데믹은 기업에 '속도의 중요성'이라는 암묵지를 심었다. 불확실성이 가득한 상황에서도 일찍부터 인공지능(AI)·머신러닝(ML) 역량을 확보한 빅테크 기업은 AI를 활용해 차별화한 서비스를 선보이는 데 속도를 내고 있다.
구글의 대표적 AI 모델인 스위치 트랜스포머에 사용된 파라미터 증가세를 살펴보면 성장 속도는 더 체감된다. 데이터로부터 학습한 모델 구성 요소인 파라미터 수는 AI 모델 규모를 가늠하는 척도 가운데 하나다. 2017년 트랜스포머 파라미터는 5000만개에서 2021년 1조6000억개(스위치 트랜스포머)로 증가했다. 약 3만배 늘어난 수치다. 바야흐로 AI 시대다.
하지만 모든 산업군에 AI가 활발하게 적용되진 않는다. 딜로이트 '제조산업 AI 도입 현황' 조사에 따르면 이들의 AI 프로젝트 성공률은 9%에 불과했다. 세계적인 AI 석학으로 꼽히는 앤드루 응(Andrew Ng) 미국 스탠퍼드대 교수는 이유를 제조업 특성에서 찾는다. 제조기업은 △정보통신(IT)기업 AI 프로젝트에 비해 데이터셋 크기가 작고 △도메인에 따라 고객 맞춤화(customization) 비용이 높으며 △개념증명(PoC)과 실제 적용 간 괴리가 크다는 것이다.
이러한 제약 조건에도 제조산업 분야에서 AI로 실질적인 비즈니스 성과를 거두려면 '문제 정의-데이터 수집 및 분석-ML 모델 개발-배포 및 운영'으로 이어지는 ML 라이프사이클을 빠르게 반복할 수 있는 체계를 갖춰야 한다. 각 단계는 비선형적으로 이뤄지기 때문에 여러 가능성을 탐색하며 빠르게 사이클을 반복하면서 개발과 운영 간 간극을 좁히고, AI·ML 모델 성능을 개선해 나가는 것이 중요하다. 이것을 가능하게 해 주는 것이 바로 'ML옵스'(Machine Learning Operations)다.
ML옵스는 가트너가 '2023년 10대 전략 기술' 중 하나로 꼽은 '어댑티브 AI'와도 일맥상통한다. 가트너는 예측하지 못한 상황에 신속히 적응하기 위해, 새로운 데이터에 기반해 런타임 및 개발 환경 내에서 학습할 수 있는 어댑티브 AI 시스템을 전략 기술로 지목한 바 있다.
ML옵스는 소프트웨어 개발에서 널리 활용되는 데브옵스(Development and Operations)의 연장선에서도 이해할 수 있다. 많은 빅테크 기업은 데브옵스 환경을 구축하며 제품과 서비스 개발 주기를 앞당기고, 고객 피드백을 반영해 빠르게 성능을 높이며 '빠른 속도' DNA를 기업에 심었다. 빠른 반복 사이클을 내재화하며 긴 팬데믹 위기 속에서도 유례없는 성장을 이룬 것이다.
제조 및 산업 기업도 이제 개념 증명 단계를 넘어 AI·ML 라이프 사이클을 가속화, AI로 실질적인 비즈니스 가치를 창출해야 한다. ML옵스를 도입하며 빠르게 이런 흐름에 합류한 기업은 이미 의미 있는 비즈니스 가치를 만들어 가고 있다.
글로벌 신재생에너지 기업은 600여개의 태양광 발전소에 각기 다른 기상 데이터로 만들어진 모델을 배포·운영해야 하는 어려움이 있었다. 이 기업은 ML옵스 도입으로 동일한 ML 모델을 각 발전소에 신속하게 배포하고, 통합된 플랫폼에서 모델을 안정적으로 운영하며 모델 성능을 강화하는 사이클을 만들 수 있었다.
데이터 사이언스팀이 있더라도 AI를 산업 현장에 실제 적용하려면 광범위한 ML옵스 영역을 커버할 수 있는 전문 인력과 시간이 필요하다.
반도체 부품 제조기업은 엔터프라이즈 ML옵스 플랫폼을 도입하며 1개월 만에 AI를 비즈니스에 적용했다. 기존 인력만으로 ML옵스를 구축했다면 최대 6개월까지 소요될 수 있는 작업이었다.
이 기업은 이제 기존 데이터 사이언스팀만으로 모델을 생성하고, ML옵스 플랫폼에서 생성된 모델을 재학습시켜 배포하며 인력과 시간 부담을 줄여나가고 있다.
이처럼 ML옵스 프레임워크를 활용해 쉽고 빠르게 AI를 적용하고 개선하는 사이클을 구축한다면 AI를 '확실한 가치 창출의 도구'로 만들 수 있다. 세계 경제의 큰 축을 담당하는 제조 및 산업 기업에 이제 AI도 속도전이다.
심상우 마키나락스 최고기술책임자(CTO) contact@makinarocks.ai
심상우 CTO는?
마키나락스의 공동 창업자이자 최고기술경영자로 서울대학교 화학과 졸업 후, 하버드 대학에서 이론화학(Chemical Physics) 박사 학위를 취득했습니다. 벤처기업에서 네트워크 및 운영체제 쪽의 Low level 프로그래밍을 주로 했으며, Biological system을 비롯한 여러 환경에서의 양자역학적 현상을 컴퓨터로 시뮬레이션 하는 연구를 했습니다. 마키나락스 공동 창업 전, Bank of America Merrill Lynch와 WorldQuant LLC, 삼성전자 등을 거쳤으며 현재는 마키나락스에서 이상탐지 솔루션 및 플랫폼의 연구개발을 담당하고 있습니다.
