많은 기업이 여전히 AI 모델, 특히 LLM만 도입하면 모든 문제가 해결될 것이라 기대합니다. 하지만 현실은 다릅니다. 최근 MIT의 보고서에 따르면 전 세계 기업의 95%는 생성형 AI(GenAI)를 도입하고도 아무런 성과를 내지 못하고 있습니다. 400억 달러에 달하는 천문학적인 금액이 투자되었음에도 단 5%의 기업만이 AI 도입에 성공하는 이유는 무엇일까요? 바로, AI는 설치로 끝나는 소프트웨어가 아니라, 현장에서 계속 가다듬어야 하는 기술이기 때문입니다. 최근 관심이 뜨거운 전방 배치 엔지니어(Forward Deployed Engineer, 이하 FDE)는 바로 이 지점에서 등장합니다.

FDE(Forward Deployed Engineer, 전방 배치 엔지니어)란?

올해 11월 “AI 시대 새 주인공, ‘현장 배치 엔지니어’…올해 채용 800% 급증”이라는 보도가 나오며 국내에서도 FDE가 본격적으로 주목받기 시작했습니다. 해당 기사들은 파이낸셜타임즈(FT, Financial Times)·인디드 하이어링랩(Indeed Hiring Lab)이 발표한 보고서를 근거로, 오픈AI·앤트로픽(Anthropic)·코히어(Cohere) 등 주요 AI 기업들이 연구 중심 조직에서 상용화(production) 중심으로 인력 구조를 재편하고 있다고 전합니다.

FDE는 고객의 현장에 직접 들어가 AI가 실제 업무 흐름 속에서 작동하도록 끝까지 책임지는 역할을 수행합니다. 보통의 엔지니어들이 사무실에서 소프트웨어에서 제품을 개발한다면 FDE는 말 그대로 전방(Forward), 즉 고객사의 현장에 배치(Deploy)됩니다. 단순히 코드를 전달하는 역할이 아니라, 고객의 현장에서 복잡한 비즈니스 맥락을 이해하고 그 자리에서 기술적인 해결책을 설계하고 구현합니다.

SWE(소프트웨어 엔지니어)와 FDE(전방 배치 엔지니어)의 차이점

현장 배치 엔지니어, 기업 파견 엔지니어로도 불리는 FDE는 데이터 구조와 시스템, 조직의 일하는 방식까지 함께 조정하며 AI 도입을 완성합니다. OpenAI(이하 오픈AI), Palantir(이하 팔란티어)와 같은 글로벌 AI 기업들이 FDE를 전략적 직무로 바라보고 공격적으로 채용에 나서는 이유도 여기에 있습니다. 이제 AI의 성패는 모델이 아니라 ‘현장 구현력’에서 갈리기 시작했기 때문입니다. 그렇다면 실리콘밸리에서 시작한 이들은 왜, ‘현장’으로 엔지니어를 보내기 시작했을까요?

범용 AI 대표 OpenAI는 왜 지금, FDE에 주목하는가?

글을 쓰고 있는 지금(2025년 12월 22일) 기준으로 오픈AI의 채용 페이지를 살펴보면, 뉴욕·샌프란시스코를 포함한 미국 주요 도시뿐 아니라 파리·뮌헨·더블린·런던 등 유럽, 그리고 도쿄·싱가포르까지 전 세계에서 총 28개의 FDE 포지션을 모집하고 있습니다. 특히 채용 공고에서 오픈AI는 FDE의 역할을 “연구 성과를 실제 운영 시스템(production system)으로 구현한다”고 명시합니다. 범용 AI의 대표 오픈AI가 FDE를 ‘모델 전달’이 아니라 ‘현장에서 프로덕션을 완성하는 역할’로 규정한다는 점은, AI의 승부처가 어디로 옮겨가고 있는지를 보여줍니다.

범용 AI의 선두주자로 꼽히는 OpenAI가 FDE 포지션을 미국, 유럽, 일본 등 세계 각지에서 적극적으로 채용하고 있다는 것은 많은 점을 시사합니다.

이러한 변화가 단순한 채용 트렌드가 아니라는 점은 오픈AI 글로벌 FDE 책임자인 콜린 자비스(Colin Jarvis)의 인터뷰에서 더 선명해집니다. 그는 알티미터 캐피털 팟캐스트에 출연해 “FDE의 임무는 컨설팅(service)이 아니라, 고객의 문제를 해결하는 재사용 가능한 제품(product)을 만들어내는 것”이라고 강조했습니다. 또한, ChatGPT 출시 이후 기대감은 커졌지만, 일반화를 우선하는 기존 접근 방식으로는 복잡한 문제를 갖고 있는 기업을 실제 프로덕션 단계까지 이끌기에는 한계가 있었다고 회고합니다. 오픈AI가 이러한 한계를 경험한 것은 FDE 조직의 출발점이 되었습니다.

콜린 자비스는 “FDE는 단기적이고 손쉬운 컨설팅의 유혹을 경계해야 한다”고 말하며, 핵심은 서비스가 아니라 ‘제품화 가능한 해법’을 만들어내는 것임을 분명히 했습니다. 여기서 그는 “고객의 고통을 먹고 제품을 배설한다(We ingest the pain of complexity to ship products that actually work in the field)”는 팔란티어의 격언을 인용하기도 했는데요.

오픈AI 글로벌 FDE 책임자가 팔란티어의 격언을 인용한 이유는 무엇일까요? 그 답은 간단합니다. FDE라는 직무 개념을 가장 먼저 체계화하고, 이를 핵심 조직으로 발전시킨 기업이 바로 팔란티어이기 때문입니다. 팔란티어는 정부·국방·제조 등 복잡한 산업 현장에서 AI와 소프트웨어를 실제로 작동시키기 위해, 오래전부터 FDE를 전략 조직으로 삼아 사업을 확장해 왔습니다.

팔란티어는 왜, FDE를 만들었을까?

팔란티어의 Foundry, Gotham, AIP 같은 제품은 ‘설치하면 바로 돌아가는 범용 소프트웨어’와는 결이 다릅니다. 정부·국방·제조처럼 데이터 구조가 복잡하고, 보안 제약이 높은 환경에서 실제로 굴러가야 하는 운영 시스템에 가깝죠. 문제는 여기서 시작됩니다. 실리콘밸리의 사무실에서 만든 ‘좋은 제품’만으로는, 고객의 워크플로우와 데이터 지형을 끝까지 장악하기 어렵습니다. 결국 팔란티어는 하나의 결론에 도달합니다.

“사람이 현장에 들어가야 하고, 그 역할을 만든다”

팔란티어는 이미 2019년 Dev versus Delta: Demystifying engineering roles at Palantir을 통해 이 역할을 Forward Deployed Software Engineer(이하 FDSE)로 정의했습니다. 내부적으로는 ‘Delta’라고 부릅니다. 같은 엔지니어라도 Dev와 Delta의 초점은 애초에 다릅니다. Dev는 ‘하나의 기능을 여러 고객에게 확장시키는 사람’이고, Delta는 반대로 ‘한 고객에게 여러 기능을 엮어서 성과를 내는 사람’입니다. Dev가 플랫폼 자체를 만든다면, Delta는 그 플랫폼을 고객 환경에 배포·구성하고 문제를 해결하는 쪽에 가깝다고 팔란티어는 설명합니다.

여기서 중요한 포인트가 하나 더 있습니다. Delta는 컨설턴트가 아닙니다. 이 오해는 지금까지도 워낙 흔하기에, 팔란티어는 2019년부터 공식 블로그를 통해 이를 분명히 짚어왔습니다. 컨설팅이 “분석·권고·일회성 솔루션”에 머무는 경우가 많다면, Delta는 팔란티어의 제품뿐 아니라 여러 프로그래밍 언어, 오픈소스 도구, 빌드 도구, 그리고 개인의 창의력까지 총동원해 해법을 만든다고 설명합니다. 이는 오늘날 오픈AI가 말하는 FDE의 정의와도 정확히 맞닿아 있는 지점입니다.

팔란티어는 2019년부터 공식 블로그를 통해 SWE와 FDSE(Forward Deployed Software Engineer) 차이를 설명하고, 제품을 현장에서 완성하는 역할로 정의했습니다.

그래서 ‘현장’이 핵심이 됩니다. 팔란티어의 FDSE의 인터뷰를 담은 A Day in the Life of a Palantir Forward Deployed Software Engineer 포스팅(2020년 발행)에서는 이 점이 더욱 직접적으로 드러납니다. FDSE는 고객의 가장 깊은 현장에 밀착해, 팔란티어의 기존 소프트웨어 플랫폼을 구성(configure)함으로써 가장 어려운 문제를 푼다고 전합니다. Dev가 ‘하나의 기능’을 만든다면, FDSE는 ‘고객의 현장 한 곳’에서 여러 기능을 엮어 즉시 작동하는 해법을 만들어냅니다. 즉, 팔란티어가 말하는 전방 배치는 ‘출장’이 아니라, 제품을 현실에 맞게 작동시키는 마지막 1km(last mile)라고 할 수 있습니다.

팔란티어 공동창업자가 설립한 실리콘밸리의 벤처캐피털인 8VC의 The AI Services Wave 글을 보면 팔란티어가 왜 이 모델을 조직 전략으로 만들었는지가 더 또렷해집니다. 팔란티어가 강조하는 핵심은 ‘비즈니스 온톨로지(ontology)’입니다. 복잡한 조직에서는 데이터가 여러 형식과 시스템에 흩어져 있고, 온톨로지는 그 복잡한 워크플로우를 데이터-로직-행동으로 매핑해 ‘무엇을 먼저 연구개발(R&D) 해야 하는지’까지 결정하게 합니다. 그리고 이 모든 과정의 전제는, 현장에 깊이 들어가 문제를 함께 정의하는 고객과의 밀도 높은 협업입니다.

정리하면, 팔란티어가 FDSE를 만든 이유는 다음과 같습니다. 제품이 약해서가 아니라, 제품이 ‘현장에서 완성되는 성격’이었기 때문입니다. 현장에 들어가 복잡성을 삼키고, 그 복잡성을 다시 제품으로 흡수해야 다음 고객에서는 더 빨리, 더 적은 노동으로 같은 가치를 낼 수 있습니다. 팔란티어의 FDSE는 바로 그 역할을 수행하는 조직이고, 그래서 이는 하나의 ‘직무’가 아니라 제품 확장의 스케일 전략으로 이해할 수 있습니다.

왜 지금, 기업의 AI 도입에 FDE가 중요해졌을까?

AI 기술이 3.4개월마다 2배의 속도로 발전하고 있음에도, 이를 실제로 ‘일로 연결하는 단계’까지 끌고 간 기업은 극소수입니다. MIT가 발간한 The GenAI Divide: State of AI in Business 2025 보고서는 “생성형 AI 도입에 수십억 달러가 투자됐지만 95%의 기업이 측정 가능한 성과를 얻지 못했다”고 지적하며 이 격차를 GenAI Divide라고 명명했습니다. 실제로 기업들은 ChatGPT 같은 범용 LLM을 업무에 ‘써보긴’ 했지만 대부분은 파일럿 단계에 머물렀고, 통합된 AI 파일럿(Integrated AI pilots) 중 정식 운영으로 이어져 성과를 만든 기업은 단 5%에 불과했습니다. 이로 인해 ‘AI 버블론’ 같은 해석도 나왔지만, 이는 GenAI Divide에 부딪혀 AI를 배포까지 하지 못한 조직이 많다는 의미에 가깝습니다.

MIT 보고서가 던지는 핵심 질문은 ‘왜 실패하는가’가 아니라 ‘어떤 선택이 이 격차를 건너게 하는가’입니다. 결론은 의외로 명확합니다. 인터뷰 샘플 기준으로 내부 구축(Build)으로 실제 배포에 도달한 비중은 약 33%에 그친 반면, 외부 파트너십(Buy)은 약 67%로 두 배 높은 성공률을 보였습니다. 이건 “외부가 더 낫다”는 단편적인 평가라기보다, 배포를 끝까지 가져가는 구조를 함께 택했느냐에 가깝습니다. 파트너십 기반 프로젝트는 파일럿이 운영 단계로 이어지는 전환율과 실사용(usage) 지표가 더 높았고, Time-to-Value와 총비용, 운영 워크플로우와의 정합성에서도 유리했다고 보고서는 설명합니다.

[마키나락스] AI, 왜 95%는 실패하고 5%만 성공할까?

MIT 보고서와 관련한 내용은 마키나락스 블로그 포스팅  AI, 왜 95%는 실패하고 5%만 성공할까?에서 더 자세하게 확인하실 수 있습니다(이미지 클릭 시 이동)

즉, 성공하는 기업과 실패하는 기업이 만드는 격차의 본질은 현장 적응과 운영 정착입니다. 실패의 원인은 기술 부족이 아니라, AI가 조직의 워크플로우·데이터·사람의 맥락에 맞게 계속 학습하고 적응하지 못한 데 있습니다. 아무리 뛰어난 모델이라도 그것만으로는 기업의 실제 업무 시스템에 자연스럽게 스며들어 돌아가지 않습니다. 그래서 MIT는 “완벽한 도구를 기다리기보다, 내부 프로세스에 맞게 깊이 커스터마이즈하고 현장 도입을 함께 끌고 갈 수 있는 파트너십”을 강조합니다.

이 현실은 한국 기업에도 그대로 적용됩니다. 국내 대기업들은 대형 SI(System Integrator) 역량을 바탕으로 핵심 시스템을 내부에서 구축·운영해 오며 안정성과 통제력을 확보해 왔습니다. 하지만 AI 시대의 기술 내재화는 과거와 완전히 다른 패러다임이 필요합니다. 기술 스택은 빠르게 파편화되고, 새로운 기술과 표준이 매주 등장합니다. 전통적인 SI 방식(요구사항 수렴→설계→개발→배포)의 프로세스는 이 속도와 불확실성을 구조적으로 담기 어렵습니다. “맞춰 만든 것”을 배포하는 시점에는 이미 현장 요구와 기술 기준이 진화해 ‘뒤처진 것’이 되고 맙니다. 무엇보다 수많은 산업 현장에서 쌓인 ‘AI 적용 노하우(Field Experience)’는 단기간에 복제할 수 없으며, 현장의 피드백 루프 없이 “우리가 직접 할 수 있다”는 신념은 오히려 속도를 늦추고 최신 AI 기술로부터 조직을 고립시킬 위험이 큽니다.

그래서 이 보고서의 결론은 선택(Build vs Buy)가 아니라 배포를 끝까지 완주할 실행 조직이 있느냐로 수렴합니다. 벤더의 데모와 PoC는 빠르게 지나가지만, 정작 데이터 권한·보안·레거시 연동·현업 프로세스·책임 소재 같은 ‘현장의 복잡성’이 등장하는 순간 프로젝트는 멈추기 쉽기 때문입니다. FDE는 바로 여기서, Buy 전략을 “도입”으로 끝내지 않고 ‘정착’과 ‘운영’으로 바꿔주는 배포 실행의 전략적 레이어가 됩니다. 즉 Buy는 의사결정이고, FDE는 그 의사결정이 현장에 착륙하는 방법입니다. 파트너십이 성공 확률을 두 배로 올린다는 MIT의 결론은, 결국 현장에서 배포를 완성할 조직(FDE)이 있을 때만 현실이 된다는 말과 다르지 않습니다.

마키나락스의 FDE, ‘산업 특화 AI’를 현장에서 완성한다

마키나락스는 2017년 설립 이후 제조·국방 등 미션 크리티컬한 산업 현장을 중심으로 AI 프로젝트를 수행해온 산업 특화 AI(Vertical AI) 1세대 기업입니다. 이런 현장은 데이터의 상관관계가 명확하지 않고 시스템은 복잡하며, 보안과 책임 소재도 까다롭습니다. 그래서 산업 현장에서 AI는 ‘좋은 모델’만으로는 절대 완성되지 않습니다. 결국 승부는 현장에서 문제를 정의하고, 데이터를 정리하고, 운영 시스템에 붙여서 끝까지 돌아가게 만드는 실행력에서 갈립니다. 마키나락스가 FDE를 ‘선택지’가 아니라 ‘핵심 조직’으로 재편한 이유도 여기에 있습니다.

이를 위해 마키나락스는 고객 현장에서 수행해오던 배포·운영 중심의 업무를 고도화하고자 2024년 초 Runway 개발본부 산하에 Delta팀을 신설했고, 이후 이 조직을 전략적으로 확장해 올해부터는 FDE 본부 체계로 운영하고 있습니다. 현재는 AI 엔지니어, 프로젝트 매니저, 소프트웨어 엔지니어 등 약 50명의 팀원이 FDE 본부에 소속되어, 고객사 현장의 가장 깊숙한 곳에서 가장 복잡한 문제를 함께 해결하고 있습니다. 여기서 말하는 ‘현장’은 데이터 권한과 보안 제약, 레거시 연동, 현업 프로세스, 책임 소재까지 모두 얽힌 환경에서 프로덕션을 완성하는 곳입니다.

올해 마키나락스 Year-end Party에서는 FDE 본부 내 여러 팀에서 수행한 사례를 상호 공유하고 우수  프로젝트를 선정하는 시간을 가졌습니다. 

성과는 숫자로도 드러납니다. 마키나락스의 FDE는 2025년 한 해에만 반도체·에너지·배터리·국방 등 미션 크리티컬한 산업 현장에서 123개의 프로젝트(과제)를 수행했습니다. 이 가운데는 이미 실제 프로덕션 환경에 도달한 프로젝트도 있고, 상용화를 눈앞에 둔 프로젝트도 있고, 수년에 걸쳐 진행되는 선행 프로젝트도 있습니다. 중요한 건 프로젝트의 ‘개수’보다, 그 과정에서 축적된 현장 기반의 실행 노하우(Field Experience)입니다. 이러한 노하우는 보고서나 매뉴얼로는 복제될 수 없습니다. 결국 현장에 들어가 문제를 다시 정의하고, 반복적으로 피드백을 받으며, 운영 시스템이 버티는 형태로 개선해나갈 때만 쌓일 수 있습니다.

또 하나 주목할 변화는, 올해 마키나락스가 AI 에이전트를 실제 운영 환경까지 상용화를 본격화 하고 있다는 점입니다. 2025년 한 해에 ‘현장’에 상용화 한 AI 에이전트는 20여개로, 이는 일반적인 대화형 AI가 아니라 예지보전·수요예측·공정 최적화 등 복합 태스크를 수행하는 멀티 에이전트들입니다. 그리고 이러한 실행의 기반에는 마키나락스의 핵심 제품인 AI 플랫폼 Runway가 있습니다. Runway는 단순한 모델 도입 도구를 넘어, ‘현장’에 필요한 데이터 흐름과 운영 구조를 표준화해 해결책을 더 빠르게 만들고 반복 가능한 형태로 배포할 수 있도록 진화하고 있습니다.

마키나락스의 다양한 산업 지능화  사례 

생성형 AI는 이미 충분히 강력해졌습니다. 이제 기업의 과제는 ‘좋은 모델을 고르는 것’이 아니라, GenAI Divide를 뛰어 넘어 ‘모델을 배포하고 운영’하며 현장에 착륙시켜 실제 성과로 만드는 것입니다. 이 때 승부를 가르는 건 현장에서 끝까지 프로덕션을 완성하는 실행 조직이 있느냐입니다.

그래서 지금, 기업의 AI 도입에 FDE는 매우 중요합니다. FDE는 ‘컨설팅’이 아니라, 고객의 복잡성을 삼키고 그 복잡성을 다시 제품과 운영 시스템 안으로 흡수해 다음 배포를 더 빠르게 만드는 전략 조직이기 때문입니다. AI가 정말로 ‘일이 되는’ 순간은 발표자료가 아니라 현장에서 만들어집니다. 이제는 모델이 아니라 현장 구현력이 경쟁력입니다. 그리고 마키나락스는 그 경쟁력을 FDE 조직을 통해 가장 AI-native 기업다운 방식으로, 가장 산업 현장에 밀착한 방식으로 증명해 나가고자 합니다.