What is Real-World AI?

우리는 AI가 더 나은 세상을 만든다고 믿습니다. AI가 만들 혁신은 오피스 생산성과 디지털 환경에만 한정되지 않을 것이라고 확신합니다. 단언컨대, AI는 우리가 숨을 쉬고, 움직이고, 만질 수 있는 Real World에서 전례 없는 혁신을 만들어 낼 것입니다.

광활한 Real World에서 우리는 AI로 산업 현장을 지능화합니다. 무수한 설비에서 나오는 무한한 산업의 데이터를 바탕으로 난제를 해결하고 실질적인 비즈니스 임팩트로 연결합니다. 산업 현장은 끊임없이 변화하고 있으며 도전 과제들도 어려워지고 있습니다. 우리는 산업 특화 인공지능으로 복잡하고 예측할 수 없는 산업 현장의 새로운 지평을 엽니다.

우리가 Real-World AI에 집중하는 이유

Real-World AI가 펼쳐낼 새로운 지평에는 무엇이 기다리고 있을까요? AI가 실현할 가치 끝에는 사람이 있습니다. AI도 결국 사람을 위한 기술입니다. AI는 산업 현장에서 기존에 겪고 있던 실제 문제를 빠르고 정확하게 해결할 뿐만 아니라 사람이 생각하지 못했던 새로운 방법을 모색하고 제안합니다. Real-World AI는 사람과 기술이 조화를 이루어 더 나은 세상을 만들어가는 데 핵심적인 역할을 합니다. 그래서 우리는 산업 현장의 지능화를 통해 사람이 본연의 일에만 집중할 수 있는 미래를 만들어 가고 있습니다. 이유가 너무 추상적인가요?

Real-World AI: 더 큰 시장, 더 큰 가치

ChatGPT와 같은 범용 AI는 디지털 환경에서 번역, 문서 작성, 코딩 등을 수행하며 오피스 생산성을 높이고 있습니다. 패션 이커머스 플랫폼과 콘텐츠 플랫폼에서는 개인화된 추천 시스템을 제공하기도 하고요. 이제 AI가 없는 디지털 세상에서 살기란 불가능에 가깝습니다. 경제적인 측면은 어떨까요? 세계은행은 디지털 경제가 세계 국내총생산(GDP)의 15% 이상 기여하고 있다고 발표했습니다. 디지털 경제의 성장 속도는 빠르지만, 여전히 Real World가 차지하는 절대적인 경제 규모는 전체의 대부분을 차지하고 있으며 AI가 규모가 거대한 시장에 적용되었을 때 그 효용성과 파급력도 더욱 크다고 예상합니다. 자동차, 로봇, 반도체, 배터리, 에너지, 물류 등 AI를 적용할 수 있는 산업도 더 많고 다양합니다.

Real World에 속한 산업에 AI의 가치가 실현되었을 때 불러올 파급효과 또한 큽니다. 예를 들어 제조업에 AI를 적용해 수요 예측이 정확해지면, 물류 산업에서는 재고 관리와 배송 계획을 최적화할 수 있습니다. 이를 통해 배송 시간을 단축하고 물류 비용을 절감합니다. 소매 업체 또한 AI가 예측한 제조 수요 데이터를 기반으로 재고를 최적화하고 판매 촉진 활동을 계획할 수 있습니다. 제조업에서 AI 적용 사례가 늘어나면 IT 기업들은 이를 지원하기 위한 새로운 솔루션과 서비스를 개발하겠죠. 이는 곧 IT 서비스 산업에서 더 많은 연구개발 투자를 유도하고, 신기술 개발 촉진으로 이어집니다.

Real-World AI: 더 큰 잠재력, 더 큰 임팩트

빙산의 일각. Real-World AI가 가진 잠재력과 임팩트를 함축하고 있는 문장입니다. AI와 데이터는 상호 의존적인 관계입니다. AI를 시작하기 위해서는 데이터가 필요하고 데이터는 AI의 성능을 결정짓는 핵심 요소입니다. Digital World에서는 대량의 온라인 데이터를 쉽게 수집하고 분석할 수 있습니다. 물리적 인프라와 관련된 비용도 비교적 적고요. Real World는 어떤가요?

지금 주위를 둘러보세요. 우리는 일상에서 수많은 데이터를 생성하고 있습니다. 스마트폰, 가전제품, 차량, 심지어 우리가 걷는 길과 사용하는 물건들까지 모든 것이 데이터를 만들어 내고 있습니다. 집에서 사용하는 가전제품의 사용 패턴, 우리가 걷는 거리의 환경 변화, 도로 위의 차량 흐름 등은 모두 AI와 만나면 더 나은 세상을 만들 데이터입니다. Real World에서 발생하는 무한한 데이터를 기반으로 AI는 우리의 삶을 더욱 편리하고 효율적으로 바꾸고 예측 불가능한 문제들을 해결하며 혁신적인 솔루션을 통해 새로운 가능성을 열어갈 것입니다.

산업 현장은 어떨까요? 공장의 기계들은 매일 쉬지 않고 가동되며 이 과정에서 진동, 온도, 소리 등의 다양한 데이터가 발생합니다. 이 데이터를 잘 수집하고 정제해 만든 AI는 Real World의 물리적 법칙과 데이터 맥락을 이해합니다. 산업 현장의 상황을 실시간으로 인지하고 장비, 설비, 로봇 등 물리적인 요소들을 제어합니다. 사람이 룰을 정해주고 기계가 반복적으로 수행하는 자동화 패러다임을 AI가 지능화 패러다임으로 완전히 새롭게 정의하게 되는 거죠. 하지만 여전히 충분한 양의 고품질 데이터를 확보하고 일관성 있게 유지하는 일은 큰 도전 과제 중 하나입니다. Real World에서는 아직 수집 및 활용되지 않은 데이터가 무수히 많으며, 이 데이터를 활용하면 AI의 잠재력을 최대한으로 끌어낼 수 있습니다.

더 큰 시장, 더 큰 잠재력을 가진 Real-World AI가 펼쳐낼 새로운 지평이 궁금하신가요? 자동차, 반도체, 배터리, 화학, 국방, 유통, 공공 등 광범위한 산업의 엔터프라이즈 고객과 함께 Real-World AI를 실현하고 있는 마키나락스의 기술력은 곧 이어지는 시리즈에서 만날 수 있습니다. 그전에 우리 회사에 적합한 Real-World AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.

'우리도 AI로 뭐 좀 해봐야 하나?' 모든 기업이 하고 있는 고민이죠. 제조 기업이라고 예외일 수는 없습니다. AI 도입을 고민하는 이유는 분명합니다. 생산 라인 자동화, 장비 예지 보전, 품질 관리 고도화 등 AI는 새로운 가능성을 열어줍니다. 하지만 어디서부터 시작해야 할지, 어떤 접근이 우리에게 맞는지, 비용은 얼마나 드는지 등의 질문이 끊이지 않습니다.

특히 중소 규모의 제조 기업에게는 AI가 여전히 낯설고 복잡하게 느껴집니다. 데이터 인프라, AI 전문 인력, 초기 투자 비용 등 기술과 재정적 장벽이 높습니다. 특히 사업장이 지방에 자리잡고 있다면 AI 관련 최신 기술 트렌드에 대한 접근성도 상대적으로 떨어진다고 느낄 수 있습니다. 산업 특화 AI를 개발하고 기업의 AI 역량 내재화를 지원하는 마키나락스는 이런 고민을 하고 있는 제조 기업들을 적극적으로 돕고 있습니다.

이 포스팅을 읽어보시고 우리 회사에도 같은 해결책이 필요하다고 생각하시면 편하게 연락해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 사례와 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.

서울에서 하는 AI 세미나, 우리 회사에서도 가능할까요?

AI 기술은 급격하게 발전하고 있고 비즈니스 임팩트로 연결되는 사례도 빠르게 늘어나고 있습니다. 마키나락스도 시장 속도에 발맞춰 AI 기술 트렌드를 발표하고 실제 산업 현장에 적용되어 효용성을 입증한 성공 사례를 공유하는 세미나를 진행하고 있는데요. 세미나 이후 네트워킹을 통해 현장의 목소리를 들을 수 있고 새로운 비즈니스 기회로 연결되기도 합니다. 지난 3월에도 서울 코엑스에서 ‘AX 시대, 제조 생산성 혁신을 위한 AI 도입 전략’을 메인 주제로 다양한 AI 기술 트렌드와 실제 AI 도입 성공 사례 발표로 구성된 세미나를 진행했는데요. 세미나 주제를 보신 현대포리텍 교육 담당자님께서 자사 임원을 대상으로 한 방문 특강을 문의해 주셨습니다. 서울에서 하는 세미나, 우리 회사에서도 가능할까요? 가능하죠! 그렇게 마키나락스 구성원들은 충북 음성으로 향했습니다.

현대포리텍은 자동차부품 제조기업으로 합성수지 사출품과 고무 부품류를 주력으로 생산하고 있으며 최근에는 전장부품 제조까지 영역을 확장하고 있습니다. 1975년 설립 이래로 중국, 멕시코, 미국, 인도 등지에 해외법인을 두고 글로벌 시장에서도 활동하고 있습니다. 진출 시장과 사업 영역을 계속해서 확대하고 있는 만큼 AI 시작과 운영에 대한 고민도 많았습니다. 이런 상황을 함께 고민하고자 마키나락스에서 다양한 AI 프로젝트를 성공으로 이끈 안승용 이사가 ‘산업 AI, 연구를 넘어 비즈니스로’를 주제로 강연을 진행했습니다.

AI를 적용하기 위한 기본 조건 3가지

세계적으로 제조업에서 AI 프로젝트가 사업검증(PoC, Proof of Concept)을 통과하는 비율은 16% 수준입니다. 그만큼 제조 현장에 AI를 적용하고 비즈니스 임팩트로 연결하기까지는 많은 준비와 노력이 필요합니다. 마키나락스는 70% 수준의 성공률을 기록하고 있습니다. 성공률이 높은 마키나락스는 제조업에 AI를 성공적으로 적용하기 위해 필요한 3가지 기본 조건을 다음과 같이 제시합니다.

첫 번째, 데이터 인프라가 필요합니다. AI를 잘 활용하기 위해서는 고품질의 많은 데이터가 필요하기 때문인데요. 수많은 데이터로 반복적인 실험을 통해서 우리 공정에 적합한 AI 모델을 개발합니다. 따라서 제조 현장에서 실시간으로 데이터를 생성하고 수집하는 OT 인프라와 데이터의 수집, 저장, 처리 및 분석을 지원하는 IT 인프라가 갖춰져야 합니다.

두 번째는 도메인 특수성을 반영한 ‘Customized AI’입니다. 기업마다 발생하는 데이터와 해결해야 하는 문제가 다르기 때문에 학습을 진행하는 데이터와 접근 방식도 달라야 합니다. 자동차, 반도체 등 각 분야에 대한 이해도 필요하고요. 따라서 도메인과 현장 특성을 반영한 커스터마이즈 AI가 필요합니다. 이를 통해 AI 성능을 높임과 동시에 학습 비용 등을 낮춰 효율을 최적화하는 것이 가능합니다.

세 번째는 원활한 AI 운영을 위한 머신러닝 기반 인프라(MLOps)입니다. 생산 현장에서 나오는 신규 데이터를 실시간으로 AI 모델과 연결하고 자동으로 재학습시켜서 성능을 끌어올리고 결과물을 제대로 활용할 수 있는 플랫폼이 필요합니다. AI 모델 운영 지원의 속도에 따라 제품 생산 속도나 완성품의 품질에도 많은 영향을 미칠 수 있습니다.

제조 현장에 AI를 가장 빠르게 적용하는 방법

우리 회사는 데이터가 충분하지 않으니, 데이터 먼저 수집하고 그다음에 AI를 시작하면 될까요? 한 1년? 2년? 아니 3년은 지나야 충분한 데이터가 쌓일 것 같습니다. 하지만 마키나락스가 직접 산업 현장에 AI를 적용해 본 결과 데이터 수집과 AI 적용을 동시에 진행하면 제조 현장에 AI를 가장 빠르게 고도화할 수 있었습니다. 수년간 모은 데이터가 우리가 해결하려는 문제를 풀 수 있는 AI를 만드는 데 적합할지 장담할 수 없고, 휴먼 에러가 발생하고 있지는 않은지 점검이 필요하기 때문입니다. 결국 AI는 데이터를 잘 모으고 잘 관리하고 다듬는 일부터 시작해야 잘 만들 수 있습니다. 일단 데이터를 모으면서 AI를 시작하게 되면 어떤 식으로든지 우리 공장을 개선하고 혁신할 수 있는 인사이트와 아이디어들을 찾아낼 수 있습니다. 이는 마키나락스가 여러 기업과 협업하면서 찾은 진리입니다.

기술적인 측면을 넘어 AI 적용 속도를 결정짓는 가장 중요한 요소는 경영진의 결정입니다. 미래 기술에 대해 선도적으로 투자하고 빠르게 추진하는 일은 미래를 준비하는 해안과 지혜가 반영된 결과라고 생각합니다. 마키나락스와 같은 산업 AI 전문 기업과 긴밀한 협업을 통해서 현장의 전문 지식이 AI 모델에 반영되어야 한다는 점도 성공적인 AI 도입을 위해 주목해야 합니다.

"좋은 데이터를 잘 수집하기 위한 템플릿이 있나요?", "플라스틱 사출 조건을 머신러닝 기술로 표준화하고 싶습니다", "오늘 발표를 통해 궁금한 점이 많이 해결됐습니다." 강연이 끝나고 난 후 AI와 관련한 질문이 이어졌고, 이후 구체적인 데이터와 문제 해결 방식을 논의하는 미팅도 진행되었습니다. 산업 AI 전문가와 함께 AI의 실질적인 활용 가능성을 체감하고 AI 도입 전략을 함께 구체화했는데요. 손에 잡히지 않을 것 같았던 AI를 이해하고 실질적인 적용 논의까지 진행해 볼 수 있는 시간이었습니다. 보다 자세한 내용은 🔗AI 도입을 시작하는 기업을 위한 산업 지능화 추진 가이드 포스팅에서 확인할 수 있어요. 

마키나락스는 풍부한 제조 데이터 경험과 완성도 높은 AI 플랫폼을 기반으로 산업 현장을 지능화하고 기업의 AI 역량 내재화를 지원합니다. 온라인을 통해서 산업 현장에서 얻은 AI 인사이트 전달하는 다양한 활동도 함께 하고 있는데요. 📝 산업 AI 기술과 트렌드 이야기를 만날 수 있는 블로그, 📹 AI 성공 사례와 보다 자세한 기술을 설명하는 웨비나, 📩 다양한 인사이트를 매달 보내드리는 뉴스레터 등이 있습니다. 이외에 우리 회사에 적합한 AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.

월드컵 2차 예선 경기가 있던 2024년 6월 11일. MLOps Community Seoul의 네 번째 오프라인 밋업 행사가 열렸습니다. 이번 밋업의 주제는 <"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps>입니다. 국가대표 축구 경기도 뒤로할 정도로 AI에 진심인 100여 명이 모인 그날의 열기를 전합니다.

MLOps Community?

MLOps Community는 전 세계 40개 도시에서 15,000명이 활동하고 있는 Global Community입니다. 뉴욕, 런던, 베를린, 파리는 물론 서울에서도 열리고 있는데요. MLOps Community Seoul 오프라인 밋업은 2023년부터 마키나락스가 주최하고 있습니다. ‘MLOps’라는 공통 관심사를 가진 사람들이 모인 MLOps Community Seoul 오프라인 밋업에는 다양한 교류가 활발하게 이뤄집니다. 먼저 머신러닝 엔지니어, 데이터 사이언티스트, CTO, AI 비즈니스 리더 등을 연사로 초청한 전문적인 강연이 진행됩니다. 이를 통해 최신 기술 트렌드를 파악할 수 있고, 실무 적용 사례를 통해 구체적인 인사이트를 얻을 수 있습니다. 강연 후에는 자유로운 네트워킹의 장이 마련되는데요. 업계 최고의 MLOps 전문가들과 교류하며 다양한 인사이트, 채용 정보, 비즈니스 기회를 공유합니다.

MLOps에 진심인 회사 그리고 사람들

MLOps에 관심이 있으신 분들은 ‘MLOps for all(모두를 위한 MLOps)’를 한 번쯤 보셨을 겁니다. MLOps와 관련해 가장 많이 인용되는 기술 문서이기도 한데요. 모두를 위한 MLOps를 집필한 메인 저자 대다수가 마키나락스 소속 개발자라는 사실 알고 계셨나요?

MLOps에 대한 정의는 다양하지만, 마키나락스는 생산성을 시스템적으로 향상시키기 위한 AI 개발, 배포, 운영을 위한 도구 또는 일련의 활동이라고 정의하고 있습니다. 또 효율적인 MLOps는 특정 인프라에 종속적이지 않아야 하고, 단일 플랫폼 하나로 운영해야 하며 외부 시스템과의 연동이 자유로워야 한다고 생각해요.

마키나락스는 국내에서 가장 빠르게 MLOps를 Stand Alone 제품으로 선보인 기업이기도 합니다. 우리가 생각하는 MLOps 철학은 마키나락스 엔터프라이즈 AI 플랫폼 ‘Runway’에 그대로 녹여져 있습니다. 마키나락스 11층 사무실에서 일하는 소프트웨어 엔지니어들이 Runway의 새로운 기능을 배포하면 12층의 Data Scientist, ML Engineer 등 AI를 개발하는 엔지니어들이 바로 사용자가 되어 제품 개발에 참여하기 때문에 가능한 일이었어요. 특히 현장은 잘 알지만 머신러닝과 친숙하지 않은 실무자부터 숙련된 AI 개발자까지 폭넓은 사용자가 쉽게 사용할 수 있다는 점이 Runway의 강점입니다. 너무 자랑만 했나요? 다시 MLOps Community Seoul 오프라인 밋업 현장으로 넘어가겠습니다.

"LLM.. 하긴 해야 되는데.." 하고 있는 당신을 위한 MLOps

이번 MLOps Community Seoul 오프라인 밋업에서는 ‘LLM’을 핵심 키워드로 잡았습니다. 첫 강연은 ‘산업 분야 엔터프라이즈 MLOps 플랫폼 전문가가 바라본 LLM’ 주제로 마키나락스 심상우 CTO가 진행했습니다. 산업 현장에 LLM을 적용하기 위해 했던 시도들과 결과를 공유하고, 질의응답 시간을 통해 RAG, LLMOps 등에 대해서도 논의했습니다. 실제 사례를 통해 어떻게 LLM을 실무에 적용할 수 있는지 구체적으로 이해할 수 있는 시간이었어요.

두 번째 강연을 맡아주신 정이태님은 ‘GraphRAG와 LLMOps’에 대해서 발표했습니다. 앞서 진행된 발표에서도 나왔던 키워드들이라 기술 트렌드를 엿볼 수 있었어요. GraphRAG는 그래프 기반의 Retrieval-Augmented Generation의 약자로, 데이터를 그래프 형태로 구조화하여 보다 더 정확하고 일관된 응답을 생성하는 것을 목표로 하는데요. 이태님이 GraphRAG 작업을 위해 고군분투했던 과정들을 현장감 있게 전달해 주셨습니다.

마지막 강연은 류원탁님이 맡아주셨습니다. ‘AI 프로필 서비스 1/3 가격으로 운영하기’를 주제로 진행된 강연에서는 AI 기반 프로필 서비스를 더 저렴하게 운영할 수 있는 전략과 기술을 소개해 주셨습니다. 실제 사례를 통해 비용 절감 효과를 확인할 수 있었고, AI 모델의 성능을 유지하면서도 운영 비용을 크게 줄일 실질적인 방안을 얻을 수 있었습니다.

연극 아니 발표가 끝나고 난 뒤 모두가 객석에 남아

세 분의 발표가 끝난 후에는 자유롭게 MLOps 관련 고민이나 인사이트를 공유하는 네트워크 시간이 있었습니다. 마키나락스가 준비한 피자와 음료를 즐기면서 이야기를 나눴는데요. 자리를 옮겨 다니며 나누는 대화뿐만 아니라 마이크를 잡고 크게 알리고 싶은 내용들을 전하기도 했습니다. IT 전문 출판사 프리렉에서는 함께 책을 출판할 저자를 모집하셨고, MLOps 관련 논문을 함께 스터디하는 모임의 팀원을 모집하는 분도 계셨어요. 저도 마키나락스의 뉴스레터와 웨비나를 홍보했답니다. 지금 한번 더 홍보할게요. 🔗마키나락스 뉴스레터를 구독해 주세요! 매월 마키나락스가 산업 현장에서 얻은 인사이트를 쏙 넣어드립니다.

오후 10시. 아쉽게도 네트워킹 시간이 끝나 자리를 마무리해야 했는데요. 오프라인 행사 끝난 아쉬운 마음은 오픈카톡방에 올려주신 후기로 달래야 했습니다. 이번 포스팅에서는 MLOps Community Seoul 오프라인 행사 현장을 간략하게 돌아보았는데요. 이번 행사를 오거나이즈 해주신 마키나락스 김인호님과 신훈철님이 개발자 시선에서 본 MLOps Community Seoul에 대한 포스팅은 아래 링크에서 보실 수 있어요. 

🔗 MLOps Community 오프라인 밋업을 준비하는 개발자의 기쁨과 슬픔 

MLOps의 진심인 마키나락스가 만든 Enterprise MLOps Platform Runway를 활용해 보고 싶다거나 고민이 있으신 분들은 마키나락스와 상의해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 사례와 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.

패션쇼 Runway 위에서는 모델이 의상의 가치를 높이죠. 마키나락스의 엔터프라이즈 AI 플랫폼 Runway 위에서는 AI 모델이 기업 데이터의 가치를 높입니다. 그리고 Runway의 가치를 극대화해 고객에게 전달하는 팀이 있습니다. 바로 인터뷰 주인공인 Runway Delta팀인데요. Runway Delta팀은 고객과 직접 만나 소통하며 그 어느팀보다도 Runway의 가치를 최전선에서 전하고 있습니다. Runway 구축과 맞춤화에 기여해 고객의 비즈니스 문제를 해결하고 AI 역량 내재화를 돕고 있는데요. 다양한 직군의 구성원들이 협업하고 있는 Runway Delta팀은 어떻게 Runway의 가치를 전달하고 있을까요?

Runway Delta팀이 하는 일을 자세하게 소개해 주세요.

우리팀이 하는 일은 크게 세 가지로 요약할 수 있습니다. 첫째, Runway 제품 딜리버리로 AI 플랫폼인 Runway를 배포하고 맞춤화해 고객의 비즈니스 문제를 해결합니다. 둘째, 고객의 요구사항 정의를 위해 고객과 적극적으로 커뮤니케이션하며 피드백을 청취하고, 짧은 시간 내에 영향력 있는 해결책을 제시합니다. 마지막으로 제품 설치 및 사용 교육을 통해 Runway를 사용할 수 있는 환경을 구축하고, 고객이 제품에 익숙해질 수 있도록 교육을 진행해 기술 중심의 가치를 창출합니다. 고객사마다 해결하고자 하는 문제와 준비된 환경이 모두 다른데요. 고객이 AI로 풀고자 하는 문제를 Runway 위에서 해결하고 AI 역량을 내재화할 수 있도록 지원합니다. Runway Delta팀은 주어진 환경을 막론하고 임무를 완료하는 것을 목표로 하고 있어요. 현장의 목소리를 내부에 공유해 Runway 제품 고도화에도 기여합니다.

업무 영역이 넓은 만큼 다양한 직무의 구성원이 협업하고 있죠? 어떤 분들이 모여 있나요?

Runway Delta팀은 현재 총 7명이고 Product Manager, Solution Engineer, 제품 교육 담당자로 구성되어 있습니다. 각 직무별로 어떤 역할을 하고 있고 어떤 역량이 중요한지 설명할게요.

Runway Delta팀의 Product Manager(PM)는 Runway를 안정적으로 배포하고 고객의 요구사항을 청취해 Runway의 기능 고도화에 기여하는 역할을 해요. 제품 자체에 대한 기획뿐 아니라 고객과 소통하며 요구사항을 분석하고 문제를 해결하는 솔루션을 제시하는 것까지 수행하는데요. 이 과정에서 고객을 직접 대하는 포지션이다 보니 커뮤니케이션 능력도 중요한 역량이에요. 프로젝트를 처음부터 끝까지 주도적으로 이끌어야 하기 때문에 프로젝트 리딩 스킬도 중요합니다.

Solution Engineer(SE)는 Runway가 고객사에서 안정적으로 운영될 수 있도록 설치 및 검증을 담당해요. 인프라 관련 기술과 제품 설치에 필요한 쿠버네티스, OS 등 DevOps에 대한 전반적인 기술 이해가 필요하고, 고객을 직접 대하는 포지션이다 보니 고객의 목소리에 귀 기울이고 쉽게 기능을 전달하는 역량이 필요합니다.

제품 교육 담당자는 고객들이 Runway 제품의 기능과 사용법을 쉽게 이해할 수 있도록 교육 콘텐츠를 기획하고 운영해요. 직접 만든 콘텐츠를 바탕으로 교육을 진행하고, 고객들의 소중한 의견을 들어 제품을 더 좋게 만드는 데 기여하고 있답니다. 회사 안팎의 다양한 사람들과 소통하며 직접 교육을 진행하는 만큼 기획력, 꼼꼼함, 그리고 적극성이 정말 중요해요.
🔗[모집공고] MLOps 제품 교육 기획/운영 담당자

직무별 역량을 넘어 팀 구성원으로서 필요한 역량은 무엇이 있을까요?

가장 먼저 고객과 일하는 것을 즐겨야 해요. Runway Delta팀의 특성상 고객을 직접 만나 하는 일이 많아요. 사람이 하는 일이다 보니 고객과의 라포 형성이 무엇보다 중요해요. 첫 만남부터 시작해 고객이 마키나락스의 제품을 만족하며 사용하는 좋은 결과를 만들어낼 때까지, 서로 간의 공감대를 형성하고 관계를 발전시켜 나가는 걸 즐기는 분이라면 더 즐겁게 일할 수 있을 거라 생각해요.

고객과 눈높이를 맞추고 고객의 요구사항을 명확하게 파악하는 역량도 중요해요. 고객이 이해하는 것과 회사가 이해하는 것은 다를 수 있는데, 그걸 맞춰가는 게 Runway Delta팀에서 하는 일이에요. 전 과정에서 고객의 요구사항에 대해 확인하고, 우리의 제품이 이러한 요구사항들을 어떻게 반영할 수 있을지 시나리오를 만들고 확인하는 세심한 작업이 필요해요.

특별함을 일반화할 수 있는 역량도 필요합니다. 고객의 요구사항은 모두 달라요. 하지만 고객들의 그런 특별한 요구사항을 잘 모으고 잘 분류해서 일반화할 수 있다면, 더 많은 고객들에게 빠르게 해결책을 제시할 수 있게 되겠죠. 문제를 정의하는 능력이라고 볼 수도 있을 것 같아요. 또 말보다는 문서를 통해, 고객을 설득하고 그러한 과정들을 남기는 것을 지향해요. 그렇기 때문에 문서 작성 역량도 중요합니다. 특히 프로젝트 종료 시에는 산출물을 문서화함으로써 고객과 Delta팀 모두에게 의미 있는 자산으로 남게 되겠죠.

이런 역량들이 실제 업무할 때 어떻게 발휘되나요? 가장 기억에 남는 프로젝트도 궁금해요.

최근에 보험개발원과 프로젝트를 진행했는데요. Runway를 활용해 자동차 사고 사진 정보를 식별하고 관리할 수 있는 AI 시스템을 구축한 프로젝트입니다. 기존에 고객이 사용하고 있었던 AI 플랫폼을 대체하고 커스터마이징하는 작업이 추가 됐는데요. 프로젝트가 마무리되는 시점에 담당자분이 Runway 기능에 대한 칭찬과 더불어 프로젝트를 리딩한 규선님의 PM 역량을 언급하면서 감사 인사를 전달해 주셨어요. 이런 피드백을 전사에 공유하면서 Runway Delta팀뿐만 아니라 마키나락스 구성원들이 뿌듯해했던 기억이 있습니다.

Runway Delta팀 자리에서 가끔 큰 웃음소리가 들릴 때 있어요. 팀의 업무 문화도 소개해 주세요.

개인의 자율성, 동시에 책임감을 중요시합니다
Runway Delta팀은 팀원 각자에게 많은 부분의 자율성을 부여하며 그만큼의 책임감도 요구해요. 스스로 의사 결정하기가 어려운 경우에는 빠르게 팀원들에게 도움을 요청하여 함께 문제를 해결하고, 리소스를 효율적으로 사용해요.

팀 성과가 곧 팀원의 성과!
개인의 성과도 중요하지만, 팀과 팀원의 성과를 함께 달성하여 팀 전체의 성과를 극대화하는 것을 추구해요. 프로젝트 진행 중 어려운 점이 있다면 팀원들에게 도움을 요청하고, 서로 도와 빠르게 문제를 해결하는 방향을 지향해요. 또한 재사용할 수 있는 문서 템플릿 생성 등을 통해 다른 프로젝트 수행 시에 활용하거나, 다른 팀원들도 활용할 수 있도록 하는 것도 팀 전체의 생산성과 효율성을 높이기 위해 추구하는 방향 중의 하나랍니다.

의견은 자유롭게 제안하고 수평적으로 논의해요
매주 위클리를 진행해 각자 담당 프로젝트의 이슈나 현황을 공유하고, 문제가 있으면 함께 논의해요. 같이 하고 싶은 것을 제안하기도 해요.

모든 정보는 다 함께 공유해요
정보 공유는 슬랙 채널이나 이메일을 통해 진행함으로써 팀원 간 정보가 소외되는 일이 없도록 하고 있어요. 개인 간 DM보다는 공개 채널을 활용하는 건 마키나락스에서 지향하는 방향이기도 하고요. Fact 기반으로 심플하게 공유하자! 가 Delta팀에서 추구하는 방향입니다.

Runway Delta팀의 장점을 꼽자면요? 너무 많겠지만 3가지만 알려주세요.

Delta팀은 팀원 각자의 다양성과 장단점이 잘 조화를 이루어 시너지를 내는 팀이라고 생각해요. 각자의 성격, MBTI, 나이, 경력, 백그라운드 모두 다른 사람들이 만나 언제나 화기애애한 분위기를 만들어 내거든요. 얼마 전에는 꽃을 좋아하는 팀원이 있어서 티타임을 하고 함께 꽃을 사러 간 적도 있고요. 참고로 저희 팀은 현재 남자가 6명, 여자가 1명이에요 (웃음). 팀원의 핸드폰이 고장 나서 직접 서비스센터 예약을 해서 함께 간 적도 있어요. 때론 멘토로, 때론 삼촌으로, 때론 친구로, Delta팀의 매력이라고 생각해요. 장점이 정말 많은데 요청해 주신 대로 3가지만 뽑아봤어요.

1. AI기술을 통해 제조 및 산업 현장의 문제를 해결하는데 직/간접적으로 관여해 프로젝트를 경험해 볼 수 있어요.
2. AI기술의 지속적인 성장을 위한 필수조건이 되어가고 있는 MLOps 플랫폼 구축에 대한 일련의 경험들을 해볼 수 있어요.
3. 자율성과 책임감을 기반으로 문제를 해결하기 위해 주도적, 적극적으로 일하는 능력 있는 구성원들이 많아요. 따뜻한 성품도 함께 겸비한 멋진 팀원들과 함께하면 (때론) 일하는 것이 즐겁답니다.

반대로 Runway Delta팀에서 일하면서 어려운 점은 어떤 게 있을까요? 이건 1개만 알려주세요.

고객과 많이 만나고 소통하는 팀의 특성상 출장이 꽤 있는 편이에요. 고객사가 다양한 지역에 있다 보니, 생각보다 거리가 멀 수도 있고, 새로운 장소에서 새로운 고객들을 만나야 하는 것이 어려운 점이 될 수 있어요. 그런데 저희 팀은 이걸 스트레스도 받아들이기 보다는 긍정적으로 바꾸어 기쁜 마음으로 업무하고 있는데요. 바로 ‘맛집 탐방’입니다. 힘들고 어렵다는 생각보다는 그 지역의 맛집을 꼭 다녀오자! 는 생각을 하면 여행 갈 때처럼 마음이 들썩인답니다. Delta팀 맛집 채널이 있어서 지역별 맛집과 생생한 사진과 리얼 후기를 공유하고 있어요. 다음주에는 마키나락스의 고객사인 경북하이브리드부품연구원이 있는 경상북도 영천으로 출장을 가는데 오일장 분식집이 유명하다고 해서 한껏 기대 중이랍니다. (하하) 아, 뭉티기도 정말 기대하고 있어요!

오늘도 최전선에서 Runway의 가치를 전파하고 있는 Runway Delta팀의 향후 계획과 목표가 궁금합니다.

고객사가 많아질수록 Delta팀에서 직접 핸들링하는 것이 어려워질 수 있습니다. 한정된 인원으로 운영되다 보니까요. 이럴 때 우리의 역할을 해줄 수 있는 써드파티 등의 협력체를 구축하고, 동일한 품질의 결과를 만들어내기 위해서는 재사용할 수 있는 템플릿을 구축하는 일이 필요해요. 또한 설치 검증을 자동화하는 작업도 중요한 목표 중에 하나인데요. 최근 Runway 설치검증 자동화를 통해 기존에 24시간이 소요되던 과정을 0.5시간으로 줄여 팀 업무 효율에 큰 향상이 있었는데요. 이와 같은 업무 효율화는 항상 현재 진행형이랍니다.

고객들이 각자의 환경에서 Runway의 기능들을 더욱 잘 활용하고, 이를 통해 최고의 시너지를 만들어낼 수 있도록 도와주는 것이 Delta팀의 역할인데요. 특히 마지막 단계에서 Runway 교육담당자는 사용자의 눈높이에서 제품을 더욱 잘 이해하고 활용할 수 있는 콘텐츠를 제작하고, 적합한 교육을 통해서 사용자 경험을 향상하는 역할을 해요.

Delta팀에서 하는 일련의 과정, 즉 고객과 소통하여 요구사항을 파악하여 솔루션을 고안하고, 이를 바탕으로 만들어진 제품을 잘 설치하고, 제품을 잘 사용할 수 있도록 교육하는 것까지, Delta팀의 PM, SE, 교육담당자가 최고의 시너지를 발휘해 사용자 경험을 극대화하는 것이 우리 팀이 하는 일이자 목표입니다.

Runway Delta팀은 계속해서 규모가 커지고 있는데요, 팀 합류에 관심 있는 분들께 마지막으로 한마디 부탁드립니다.

진짜 고객의 찐 목소리를 들어볼 수 있는 경험을 원한다면, Runway Delta팀으로 오세요! AI를 통해 문제를 풀고 싶은 고객의 목소리를 직접 듣고, 함께 고민하며 문제를 해결하는 경험은 정말 소중한 경험이에요. 또 마키나락스에는 다양한 소모임이 있는데요. 함께 캠핑이나 축구를 하실 분 환영합니다! 독서나 영화도 좋고요. 다 맞춰드립니다 (하하하). 훌륭한 인성과 뛰어난 능력이 있는 구성원과 함께하기에 기대하셔도 좋아요!

“어디선가 누군가에 무슨 일이 생기면 틀림없이 나타난다 델타 델타~” 추억의 애니메이션 짱가의 주제곡이 저절로 떠오르는 Runway Delta팀의 인터뷰, 잘 보셨나요? 인터뷰를 진행하면서 Runway Delta팀의 Runway를 향한 애정을 곁들인 열정과 무한한 긍정 마인드셋을 느낄 수 있었습니다. 특히 실제 산업 현장에 AI를 적용하는 고객사와 그런 고객을 위한 AI 플랫폼을 제공하는 마키나락스의 연결고리 역할을 하는 직업인으로서의 진중한 태도가 인상 깊었습니다. AI 역량 내재화를 시작하는 기업이 많아질수록 Runway Delta팀의 역할과 크기도 계속해서 확대되고 있는데요. Runway Delta팀과 함께 AI가 만들어낼 혁신을 경험하고 싶다면 🔗 마키나락스 채용공고를 확인해 주세요. 마키나락스는 여러분의 지원을 항상 환영합니다.

대규모 언어 모델(LLM, Large Language Models)은 이상탐지, 예지보전, 최적화, 예측분석 등 산업 현장의 특정 과제를 수행하는 AI는 아닙니다. LLM은 인간과 기계 간 소통 장벽을 줄이는 Gateway 역할을 하며, 현장 작업자가 공정 및 장비와 ‘대화’할 수 있는 환경을 제공합니다. LLM을 통해 산업 현장 상황을 실시간으로 파악하고 필요시 명령을 통해 제어나 최적화도 수행할 것으로 기대하고 있는데요. LLM이 산업 문제를 직접 풀지는 않지만 이 모든 작업을 자연어로 가능하게 한다는 점에 큰 의의가 있습니다.

🔗AI 시대, 제조 특화 LLM이 중요한 이유 포스팅에서 제조 현장에서 LLM이 하게 될 역할과 도메인 특화 LLM의 중요성을 알아봤습니다. 이번 포스팅에서는 도메인 특화 LLM의 정의와 성능을 높이기 위해 주목받고 있는 기술 트렌드를 정리했습니다. 또 실제 산업 현장에서 LLM이 가치를 만들기 위해 왜 산업 현장 데이터 경험이 중요한지 살펴보겠습니다.

 

제조 현장에서 바로 ChatGPT를 사용하지 못하는 이유

우리가 쉽게 사용해 볼 수 있는 ChatGPT와 같은 범용 LLM의 학습 데이터는 세상의 모든 지식과 정보를 담고 있지만, 보안이 엄격하게 준수되어야 하는 기업 내부 데이터는 배우지 못했습니다. 산업 현장의 특수한 데이터를 학습하지 못한 LLM 모델은 도메인 특수성 또한 반영하지 못합니다. 세상만사에 통달한 것 같아 보이는 ChatGPT에게 아무리 현장 문제점의 해결법을 물어봐도 일반적인 해결 방법을 얘기하다 결국에는 ‘기술지원팀에 문의하라’는 답변만 돌아올 뿐입니다.

산업 현장에서 발생하는 데이터는 숙련된 현장 엔지니어가 봐도 바로 해석할 수 없는 형태가 대부분입니다. 제조 현장 예를 들면 온도, 압력, 진동, 생산 속도, 고장 기록 등 다양한 형태의 데이터가 수집됩니다. 현재 LLM 기술 수준에서 LLM 모델은 텍스트로 1차 가공된 데이터만 학습할 수 있습니다. 그렇기 때문에 산업 현장에서 수집한 raw 데이터를 모아둔 DB를 Corpus(대규모 텍스트 데이터베이스)로 변환하는 작업이 필요합니다. 약관 등 많은 데이터가 텍스트화되어 있는 금융 산업과 비교해 제조 현장의 LLM 도입 속도가 더딘 이유가 여기에 있습니다.

 

그래서 등장한 도메인 특화 LLM

데이터는 기업의 자산입니다. 기업은 데이터 반출에 민감한 경우가 많을 수밖에 없죠. OpenAI가 제공하는 LLM 모델의 성능이 보장되었다고 해도 보안이 중요한 우리 기업의 데이터를 제공하기는 어렵습니다. 민감한 데이터와 프라이버시를 보호하기 위해 조직 내부에서만 사용되는 ‘프라이빗 LLM(Private LLM)’, 특정 도메인이나 용도에 맞게 조정된 ‘커스텀 LLM(Custom LLM)’으로 대표되는 ‘도메인 특화 LLM(Domain-Specific LLM)’가 등장한 이유입니다.

도메인 특화 LLM은 제조, 유통, 의료, 법률, 금융 등 특정 도메인에 깊이 있는 전문 지식을 이해하고 있는 AI입니다. 보통 사전학습된 오픈소스 LLM 모델에 도메인 특화 데이터를 Fine-tuning을 해서 높은 전문성과 정확성을 제공합니다. 

어렵게 정제한 데이터로 Fine-Tuning을 진행한 LLM 모델은 원하는 답변을 잘 할 수 있을까요? 사전학습 데이터보다 상대적으로 적은 수의 데이터는 오히려 LLM 전반의 추론능력을 하락 시킬수도 있으며 여전히 할루시네이션(Hallucination)이 빈번히 발생합니다. 도메인 특화 LLM을 제대로 활용하기 위해서는 우리 기업 데이터에 맞게 성능을 끌어올리는 추가 작업이 필요한 이유입니다. 추가 작업 시 주목받으며 활발한 연구가 진행되고 있는 기술이 RAG와 Prompt Chain인데요. 두 기술이 어떤 방식으로 작동하는지 살펴보겠습니다.

 

도메인 특화 LLM 기술 트렌드1: RAG

가장 대표적인 방법은 RAG(Retrieval-Augmented Generation)입니다. RAG는 정보 검색과 언어 생성 모델을 결합한 방법입니다. 기존 LLM 모델보다 더 정확하고 관련성 높은 응답 생성을 목표로 해요. RAG는 세 단계로 작동합니다. “가장 최근에 고장이 발생한 기계는 뭐야?”라는 질문을 했다고 가정해 볼게요. 

RAG는 질문에 정확한 답을 할 수 있는 도메인 특화 데이터를 미리 가지고 있다고 볼 수 있습니다. 사용자에게 질문을 받았을 때, 연관성이 높은 대규모 데이터베이스나 문서 집합을 잘 훈련된 LLM에 제공해서 자연스럽고 일관된 텍스트를 생성하는 거죠.

또 RAG는 Fine tuning과 비교해 더 적은 계산 리소스와 시간을 들여서 빠르게 feasibility(실현 가능성)를 검증할 수 있습니다. LLM 모델이 목표 성능에 도달하기까지 소요된 시간을 사전에 예측하기 비교적 쉽기 때문입니다. RAG는 실제 관련 문서를 기반으로 응답을 생성함으로써 정확성과 관련성이 크게 높아집니다. 검색 모듈이 먼저 관련 문서를 좁혀주기 때문에, 생성 모듈은 더욱 작은 범위의 정보를 바탕으로 응답을 생성하여 계산 자원을 효율적으로 사용합니다. 관련된 문서를 함께 제공할 수 있기 때문에 신뢰도도 올라갈 수 있습니다.

 

도메인 특화 LLM 기술 트렌드2: Prompt Chain  

Prompt Chain은 복잡한 질문이나 작업을 수행하기 위해 여러 단계의 프롬프트를 연결하는 방법입니다. 더 정확하고 풍부한 답변을 위해 관련된 질문을 연속적으로 하여 논리적인 사고를 하게 하는 방식입니다. 각 단계는 이전 단계의 출력을 입력으로 사용하며, 점진적으로 문제를 해결해 나갑니다. 이는 복잡한 논리적 추론이나 여러 단계의 정보 처리가 필요한 경우에 유용합니다. 제조 현장 예를 들어, “어떤 로봇을 가장 먼저 점검해야 할까? 그 로봇의 조치기록과 담당자를 알려줘” 질문을 해결하기 위해서는 아래 단계를 거쳐 답변을 도출합니다.

다양한 유형의 데이터와 정보가 존재하는 제조 환경에서 Prompt Chain을 사용하면 정보를 단계별로 처리하고 통합할 수 있습니다. 복잡한 작업을 더 작은 하위 작업으로 분해하고, 각 작업을 단계별로 처리하는 접근이 가능해지는 거죠. 긴 시간에 걸친 문제 해결 과정이나 연속적인 작업이 많은 제조 현장에서 Prompt Chain은 컨텍스트 유지와 추적이 가능하게 합니다. 설비 유지보수, 품질 관리, 생산 공정 최적화, 프로젝트 관리, 데이터 분석 등 복잡하고 단계별로 진행되며, 지속적인 모니터링과 조정이 필요한 작업에 적용될 수 있습니다.

이 밖에도 Chain-Of-Thought(COT), Few shot learning, 관련 파이프라인 검색, Meta Filtering, 등 더 정확하고 풍부한 답변을 하도록 하는 기술이 있습니다. 마키나락스에서는 이런 기술들을 모두 LLM 서비스의 두뇌를 담당하는 agent에 탑재하고 질문에 맞는 작업들을 수행하게 해 보다 전문적이고 관련된 풍부한 답변을 도출합니다.

 

Industrial LLM for the Real World  

지금까지 도메인 특화 LLM의 성능을 높여주는 최신 기술 트렌드를 알아봤습니다. 산업 특화 LLM의 핵심은 산업 현장의 실질적인 문제를 해결하는 역량입니다. LLM 모델 개발도 데이터가 중요한데요. 어떤 데이터를 기반으로 도메인 특화 LLM을 학습시킬지 결정하는 일은 LLM을 적용할 공정, 문제 등을 정의하는 과정과 동일합니다. 이미 자동화가 많이 이뤄진 산업 현장이라면 단순 질의 응답을 위해 도메인 특화 LLM 모델을 만들기에는 ROI(Return on Investment, 투자수익률)가 안 나온다고 판단할 수 있습니다.

그렇기에 산업 데이터 경험이 중요합니다. 산업의 복잡성과 고유한 요구사항, 다양한 장비와 설비에서 수집하는 데이터에 대한 이해가 높을수록 다양한 각도에서 LLM을 발전시킬 수 있습니다. 오늘 자세히 살펴본 RAG와 Prompt Chain 외에도 텍스트를 작은 단위로 분할하는 ‘토크나이징(Tokenizing)’, 모델 평가 방법을 만들기 위한 ‘다운스트림(Downstream)’ 등 작업 설계 시 산업 현장 데이터 경험이 바탕이 되기 때문입니다. 데이터를 직접 들여다봐야 토크나이징을 잘할 수 있고 산업 데이터를 바탕으로 문제정의를 해본 경험이 있어야 다운스트림 태스크를 설계하기 수월합니다.

마키나락스는 데이터를 유의미하게 만들어 산업 현장을 지능화하는 일을 하고 있습니다. 산업 현장의 정확한 상황을 판단하기 위해서는 AI 결과뿐만 아니라 다양한 데이터들을 참조해 종합적인 판단을 내려야 하는데요. 그간의 경험을 바탕으로 범용 LLM이 활동하는 온라인 세계(Virtual world)를 넘어 산업 특화 LLM을 통해 로봇, 공정, 설비, 장비 등 물리적 세계(Real world)에서도 혁신을 만들어 나갈 계획입니다. 마키나락스와 함께 Real world에서 Industrial LLM가 만들 혁신을 경험해 보고 싶다면 언제든 아래 배너를 통해 연락해 주세요. 마키나락스가 여러 산업 현장에서 얻은 실질적인 AI 성공 경험을 바탕으로 함께 고민하고 방법을 제안해 드리겠습니다.

회사에 병가를 신청할 때 진료확인서와 진단서 중 어떤 서류를 제출해야 하는지 알고 있나요? ChatGPT에 물어본다고 해도 명확한 답을 알 수는 없습니다. 회사마다 규정이 다르고 ChatGPT는 우리 회사 규정을 학습하지 않았기 때문입니다. 담당자나 병가 신청 경험이 있는 동료에게 물어보면 가장 빨리 알 수 있을 텐데요. 하지만 지금이 오전 6시이고 병원 창구 앞이라면 누구한테 물어봐야 할까요? 이런 상황을 직접 겪은 마키나락스 AI 엔지니어 장종하님은 회사에 복귀해 곧바로 ‘드민이’를 개발했습니다. 이른 아침, 야근, 주말 등 담당자가 일하고 있지 않은 상황에도 24시간 답변해 줄 AI 챗봇이 탄생한 계기입니다. AI 회사에서는 대규모 언어 모델(LLM, Large Language Models)을 업무에 어떻게 활용하고 있을까요? 최신 AI 기술을 적용해 만든 챗봇 개발 과정과 구성원들의 사용 후기를 소개합니다.

 

똑똑하고 귀여운 우리 회사 맞춤 AI 드민이

드민이는 회사의 행정업무를 뜻하는 ‘Administration’에 인격을 부여해서 지은 이름입니다. 미니언즈를 닮은 귀여운 외모에 항상 마키나락스 내부 데이터를 공부하고 있습니다. 귀엽죠? 드민이는 마키나락스 구성원들이 Slack(슬랙) ‘ask-admin’ 채널에 회사 생활 관련 문의를 하면, 바로 스레드로 답변을 달아줍니다. 담당자나 해결 방법을 알려줘요. 또 슬랙에 @드민이를 검색한 후 DM을 보내도 빠르게 답변을 해주고요. 업무 관련 내용뿐만 아니라 같이 잡담도 나눌 수 있습니다. “배고프다”고 말을 걸면 간식을 챙겨먹으라고 다정하게 답해주고 간식을 신청하는 슬랙 ‘snack’ 채널에 지금 먹고 싶은 간식을 신청하라고 안내해 줍니다. 회사 관련 퀴즈도 만들어 주고요. 똑똑하죠?

 

드민이는 어떤 방법으로 개발된 LLM인가요?

드민이는 ▲잘 만들어진 LLM ▲우리 회사 데이터에 특화된 답변을 할 수 있게 정보를 주는 RAG(Retrieval-Augmented Generation) ▲사용 편의성을 위한 Slack-Bolt. 세 가지를 결합해서 만들었습니다. 종하님이 그린 전체적인 스키마는 아래와 같습니다.

드민이는 마키나락스 근무 규칙, 취업 규칙, 퇴직연금DC규약, 노사협의회 정책, 슬랙 채널 ‘ask-admin’ 내용, 전문연구요원 관련 문서 등 다양한 운영 관련 데이트를 참고해서 답변합니다. 이때 슬랙 채널 데이터를 제외하면 모두 PDF 방식의 데이터이고 PDF 데이터도 모두 텍스트로 변환했습니다. 또한, 잘못된 정보를 제공하는 할루시네이션(Hallucination)은 줄이고 명확한 문장을 전달하기 위해 Prompt Engineering을 통해 모르는 내용은 모른다고 하고 최대한 담당자를 추론할 수 있게 유도했습니다. 

‘회사 전화번호가 뭔가요?’ 라는 질문을 받았을 때, 이 문장을 모델이 잘 이해할 수 있도록 숫자로 임베딩(embedding)하는 과정을 수행합니다. 이후 리트리브(Retrieve)를 수행해 이 문장과 관련된 문장 여러 개를 추출하는 과정을 거치게 됩니다. RAG를 간단히 설명하면 질문에 답을 할 수 있는 데이터를 미리 가지고 있고 그 데이터를 잘 훈련된 LLM이 이해하기 쉽게 답변을 생성해 주는 방식입니다. 드민이를 만든 기술에 대한 자세한 내용은 🔗도메인 특화 LLM 성능을 높이는 AI 기술 트렌드 포스팅을 참고해 주세요.

 

사내 챗봇을 Slack에 연동하는 방법

드민이의 초기 기획 단계에서는 ChatGPT처럼 별도의 웹페이지에서 답변하는 방향을 생각했습니다. 하지만 드민이 오픈 전 관련 구성원들에게 테스트를 진행했는데, 생각보다 사용률이 높지 않았다고 해요. 그래서 종하님은 ‘ask-admin 데이터를 주로 참고했으니 회사에서 가장 많이 사용하는 슬랙과 연동하면 접근성이 좋아지지 않을까?’라는 생각을 하고 실행에 옮겼습니다.

지금부터 Slack-Bolt를 사용해 슬랙과 드민이를 연동한 방법을 단계별로 설명해 드릴게요.

1. Slack 앱 생성: 먼저 Slack 앱을 생성하고 해당 앱의 설정에서 기본적인 구성을 완료해야 합니다. Slack 앱의 설정에서는 OAuth 토큰, 슬랙 봇 토큰 등을 얻을 수 있습니다.
2. Bolt 설치: 선택한 언어(Node.js, Python, Java)에 따라 Bolt를 설치합니다. 이를 위해 해당 언어의 패키지 관리자를 사용하여 Slack-Bolt 패키지를 설치합니다.
3. 앱 설정 및 이벤트 구독: Slack 앱의 설정에서 이벤트 구독을 활성화하고, 앱이 반응할 이벤트 유형을 선택합니다. 예를 들어, 메시지가 채널에 게시되거나 멘션 되었을 때 앱이 반응하도록 설정할 수 있습니다.
4. 액션 설정: Slack 앱이 수행할 작업 또는 응답을 정의합니다. 이를 위해 Bolt의 API를 사용하여 각 이벤트에 대한 콜백 함수를 작성합니다. 예를 들어, 사용자가 특정 메시지를 보낼 때 앱이 특정 작업을 수행하도록 콜백 함수를 작성할 수 있습니다.

아래 예제 코드와 같이 수행한다면 스레드 달기, 답변, 이모지 달기 등의 작업을 할 수 있습니다.

드민이랑 일해보니 어떤가요?

드민이는 실제 마키나락스 구성원들의 효율성을 높여주고 있습니다. 회사의 살림을 책임지고 있는 ask-admin 채널에는 정말 다양한 질문들이 생기고 있는데요. 자연스럽게 반복적인 질문들이 생기는데, 이때 드민이의 존재가 빛을 발하고 있습니다. 또 여러 가지 업무를 진행하고 있는 담당자들이 실시간으로 슬랙 채널을 확인하는 일은 쉽지 않은데요. 이때도 드민이가 가장 먼저 답을 해주고, 담당자를 알려주기 때문에 하루 종일 채널을 모니터링해야 하는 수고로움을 덜었습니다. 덕분에 다른 업무에 더 집중할 수 있다고 해요.

“드민이는 그동안 채널 안에서 나눴던 모든 질문과 답변을 학습해서 빠르게 답변을 해주고 있는데요. 바쁜 admin실의 귀여운 인턴 역할을 톡톡히 하고 있어요. 앞으로 더욱 똑똑해진 드민이를 기대합니다. 드민이 파이팅!” 드민이에게 담당자로 가장 많이 소환되는 용현주님은 드민이에게 칭찬을 아끼지 않았습니다. 다른 구성원들도 드민이 덕분에 슬랙이 더 활발해지고, 사내 분위기도 더 좋아졌다고 입을 모아 말했답니다. 드민이를 만든 종하님은 드민이가 ‘똑똑하다’는 말을 들을 때 가장 보람을 느낀다고 해요. 이런 게 아버지의 마음일까요? 마키나락스 구성원 여러분 앞으로 드민이에게 똑똑하다고 칭찬 많이 해 주세요!

 

LLM TF팀과 드민이의 상관관계

드민이는 마키나락스 구성원들의 효율적인 회사 생활을 지원해 주고 있는 동시에 산업 특화 LLM 개발을 위해 중요한 역할을 하고 있습니다. 다양한 시도와 연구를 진행 중인 마키나락스 LLM TF팀의 테스트 베드로 활약하고 있는 것인데요. 최근에는 CSV 파일을 기반으로 차트 그려주는 기능 테스트를 수행하고 있고, Runway 위에서 동작하고 있는 덕분에 Vector DB 와 챗봇을 쉽게 연결하는 기획도 이루어지고 있습니다. 또 마키나락스가 진행한 RAG 기반의 로봇 예지정비 특화 LLM 에이전트 아키텍처를 구현하는 작업에도 드민이 개발 경험이 녹아있습니다. 이 외에도 LLM을 실제 산업 현장에 적용할 수 있는 무궁무진한 테스크를 검증하는 데 핵심적인 역할을 해줄 것으로 기대하고 있어요.

마키나락스는 제조, 유통, 배터리, 반도체, 국방, 물류 등 다양한 산업 현장을 AI로 지능화하고 있습니다. AI를 실제 물리적인 환경과 연결하고 있는데요. 산업 현장 데이터에 대한 깊은 이해를 바탕으로 기업 고유의 시스템과 LLM 을 결합해 탁월한 성능으로 도메인에 특화된 LLM 서비스를 제공합니다. 우리 회사에 적합한 AI와 관련한 논의가 필요하시면 아래 배너를 통해 언제든 편하게 문의해 주세요. 마키나락스가 함께 고민하겠습니다.