기업들이 속도와 효율성을 동시에 달성해야 한다는 압박이 갈수록 커지고 있다. 이에 따라 점점 더 많은 기업이 반복적이고 시간이 많이 드는 수작업 워크플로를 AI 기반 시스템으로 대체하고 있다. 최근 맥킨지(McKinsey) 보고서에 따르면 전 세계 기업의 92%가 향후 3년 내 AI 투자를 확대할 계획이지만, 현재 AI 시스템이 ‘완전한 성숙 단계’에 있다고 응답한 곳은 1%에 그쳤다. 이는 야망과 구현 사이의 격차를 보여 준다.
2025년 7월 17일, 나스닥닷컴의 보도에 따르면 엔터프라이즈 데이터 파이프라인은 오랫동안 노동집약적이며 비용이 많이 드는 분야였다. 데이터 처리를 위해서는 다수의 엔지니어, 복잡한 통합 작업, 그리고 빈번한 수동 업데이트가 필요했다. 분석 결과가 도출될 때쯤이면 데이터는 이미 구식이 되기 일쑤였다. 그럼에도 데이터 인프라는 여전히 최우선 과제로 꼽힌다. 다양한 산업에 걸쳐 기업들은 내부·외부 데이터에서 가치를 추출하기 위해 매년 수십억 달러를 투입하고 있다.
데이터 수집과 실행 간의 지연을 해소하기 위해 최근에는 실시간 자동화를 목표로 하는 새로운 AI 시스템이 등장하고 있다.
AI 에이전트의 부상: 전통적 데이터 워크플로의 한계
가장 주목받는 변화는 AI 에이전트의 활용이다. 이는 스스로 워크플로를 실행·적응하고, 필요에 따라 추가 작업을 처리할 새로운 에이전트를 생성할 수 있는 지능형 시스템이다.
이들 플랫폼에서는 사용자가 자연어로 “고객 행동을 분석해 이탈 위험을 식별하고, 실시간으로 유지팀에 알리라”와 같은 지시를 내리면, 시스템이 이를 전체 워크플로로 변환해준다. 따라서 별도의 코딩이나 복잡한 설정이 필요 없다.
사티아 니타(Satya Nitta) Emergence AI 공동 설립자 겸 CEO는 “템플릿이 아니라 결과를 제공하는 도구”라며, 기술 병목 현상을 줄이고 엔지니어링 자원을 확보할 수 있다고 설명했다.
플랫폼별 기능에는 차이가 있지만, 전반적으로 학습·적응·확장이 가능하며 지속적인 인간 개입이 필요 없는 지능형 에이전트의 채택이 확대되는 추세다.
단순 자동화를 넘어선 확장성
과거 자동화 도구가 정적 작업 반복에 초점을 맞췄다면, 현대 AI 에이전트는 더욱 역동적으로 설계된다. 일부 플랫폼은 재귀적 에이전트 아키텍처(recursive agent architecture)를 실험 중인데, 이는 시스템이 계획·테스트·배포 과정을 거쳐 추가 에이전트를 스스로 생성하도록 한다. 그 결과 기업은 인력 충원 없이도 데이터 세트 정제, 플랫폼 간 데이터 마이그레이션, 머신러닝 결과 검증, 모델 수정 등 복잡한 작업을 처리할 수 있다.
Emergence AI 외에도 여러 업체가 이 분야에 뛰어들고 있다. 예컨대 Hebbia는 금융 및 법률 산업에 특화된 AI 플랫폼을 개발해 소규모 팀이 방대한 문서·데이터를 빠르게 처리하도록 돕는다. 다만 Hebbia는 회수 증강 생성(RAG·Retrieval-Augmented Generation) 기법에 의존하며, 완전한 자율 에이전트 구조는 아니다.
Stack AI는 최근 자금 조달에 성공해 노코드(No-Code) 플랫폼을 확장하고 있다. 이 플랫폼은 대규모 언어 모델(LLM)을 활용해 CRM 통합, 데이터 입력 자동화 등 실용적 용례에 집중한다. 접근 방식은 전통적 자동화에 가까우나, 고객 접점 업무에 LLM을 적용한다는 점에서 차별성을 갖는다.
용어 해설*
• 재귀적 에이전트 아키텍처: 문제 해결을 위해 또 다른 에이전트를 계획·생성·테스트하며 계층적으로 확장하는 설계 방식이다.
• RAG(회수 증강 생성): LLM이 외부 지식베이스에서 관련 정보를 ‘회수’해 응답 품질을 높이는 기술로, 완전한 자율성보다는 정보 검색 효율성에 중점을 둔다.
가시화되는 성과
에이전트 기반 AI 플랫폼은 초기 단계이지만 이미 구체적 성과가 나타나고 있다.
다양한 산업에서 이들 도구를 활용한 조직은 다음과 같은 결과를 보고했다:
- 분석 응답 향상으로 주당 수백만 달러 비용 절감
- 데이터 거버넌스·발견 업무 시간 최대 70% 단축
- 온라인 포럼에서 월 수백만 건 콘텐츠를 실시간 모더레이션
이 초기 사례는 AI 에이전트가 운영 최적화를 위한 핵심 기술로 자리 잡을 가능성을 시사한다.
미래 노동 환경에 미칠 영향
AI 에이전트를 도입한 기업은 전통적 엔지니어링 자원에 덜 의존하면서도 더 빠르고 정확한 의사결정을 내릴 수 있게 됐다. 이는 팀 구조와 업무 방식 전반의 변화를 예고한다.
업계 관측통들은 에이전트 기반 시스템 확산이 IT 서비스 및 스태프 어그멘테이션(Staff Augmentation) 시장을 재편할 것이라고 본다. 실제로 한 AI 플랫폼 기업은 글로벌 엔지니어 인력 네트워크인 안델라(Andela)와 협력해 다중 에이전트 시스템 교육 프로그램을 시작했다. 향후 기업 환경에서 표준 인프라가 될 것에 대비해 인재를 양성하려는 움직임이다.
에이전트가 실험적 도구에서 신뢰할 수 있는 인프라로 진화함에 따라, 기업 운영 방식은 오버헤드 감소·의사결정 가속·적응력 향상이라는 세 가지 축을 중심으로 재정의될 가능성이 크다.
현재로서는 이러한 시스템을 효과적으로 구현·확장하는 기업이 수작업 프로세스에 묶인 경쟁사보다 상당한 우위를 확보할 것으로 전망된다.
전문가 시각 및 전망
취재진은 AI 에이전트가 데이터 인프라를 ‘생성·실행·피드백’의 자가 순환 구조로 전환시킬 것으로 본다. 이는 클라우드 전환이 가져온 변화보다 더 깊숙이, 그리고 빠르게 조직 문화를 바꿀 것이다. 다만 투자 대비 효용을 극대화하려면 ▲정교한 데이터 거버넌스 프레임워크 ▲투명한 책임·감사 체계 ▲보안 우려 해소가 전제돼야 한다.
결국 기업들이 AI 에이전트를 통해 실시간 의사결정과 비용 절감이라는 두 마리 토끼를 잡을 수 있다면, 데이터 주도형 경쟁력은 새로운 표준이 될 것이다.
