Artistgndphotography | E+ | Getty Images
최근 생성형 인공지능(Generative AI)과 대규모 언어 모델(LLM)이 빠르게 확산하면서 사이버 보안 지형이 극적으로 변하고 있다. 공격자들은 사람 목소리와 영상을 정교하게 위조한 딥페이크부터 맞춤형 피싱 이메일, 악성코드 작성까지 손쉽게 구현할 수 있는 도구를 확보했다.
2025년 8월 10일, CNBC 뉴스의 보도에 따르면, 이러한 위협의 확산은 방어 측면에서도 인공지능 활용을 촉진하고 있다. 기업 재무·법무 분야에 이어 사이버 보안 전담 ‘에이전틱 AI(agentic AI)’가 탐지·분석·경보를 자동화하며 돌파구로 부상했다.
‘에이전틱 AI’는 인간처럼 자율적·역할기반으로 행동하는 인공지능을 의미한다. 단순 챗봇이나 자동응답 시스템과 달리, 목표 달성을 위해 스스로 판단·행동·학습하며 인간 사용자의 업무를 ‘대리(agent)’한다는 개념이다.
“허튼 경보 제거해 인력 소진 줄인다”
브라이언 머피(Brian Murphy) 릴리아퀘스트(Rel iaQuest) 최고경영자는 “대기업 환경에선 탐지부터 대응까지 업무량이 방대하다”며 “AI가 1·2차 티어의 의미 없는 노이즈를 걸러내 실질 위협에 집중할 수 있게 한다”고 말했다.
머피는 인간 인력이 자동화 덕분에 소모적 업무에서 해방돼 전략적 분석에 집중할 수 있다는 점을 강조했다. 아마존의 앤디 재시(Andy Jassy) CEO 역시 지난 6월 임직원 서한에서 “AI 에이전트가 전 세계 수십억 개 규모로 확산해 ‘단순 반복 작업’을 줄이고 업무를 더욱 흥미롭게 만들 것”이라고 전망한 바 있다.
“피싱 이메일은 과거엔 오타와 조잡한 폰트 때문에 한눈에 구별됐지만, AI가 등장하면서 평균적 범죄자도 한층 정교해졌다.” ― 브라이언 머피, ReliaQuest CEO
‘그레이매터 에이전틱 팀메이트’가 하는 일
릴리아퀘스트는 최근 ‘GreyMatter Agentic Teammates’라는 자율형 AI 에이전트를 출시했다. 이는 보안운영센터(SOC)에서 탐지 엔지니어나 위협 인텔리전스 연구원이 수행해 온 업무를 대신한다. 머피는 “인시던트 대응 분석가의 역량을 배가시키는 동료”라고 설명한다.
예를 들어 다국적 기업의 임원 해외출장 시, 노트북이 현지 네트워크에 접속하면 보안팀은 매번 접속 사실을 확인하고 장치 보안을 점검해야 한다. 에이전트는 이러한 확인 절차를 자동화하고, 이사회·오프사이트 등 반복 이벤트도 ‘프로세스 템플릿’으로 등록해 즉시 실행한다. 머피는 “비슷한 사례가 수백 건”이라며 업무 경감 효과를 강조했다.
자동 ‘격리·차단’으로 단계적 고도화
통신기술 기업 시니버스(Syniverse)의 최고정보·보안책임자(CISO) 저스틴 델라포르타스(Justin Dellaportas)는 AI가 로그 분석 같은 기본 작업뿐 아니라, 피싱 이메일 격리·삭제와 침해 계정 접근 차단 등 실제 조치까지 자동화하고 있다고 밝혔다.
그는 “범죄 조직이 AI로 취약점을 대량 탐색하며 침투 속도와 성공률을 높이고 있다”며 “수비측도 기술을 적극 도입해야만 위협 속도에 대응할 수 있다”고 말했다. 이어 각 기업이 위험 허용도에 따라 AI 도입 단계를 ‘기어 다니기(crawl)→걷기(walk)→달리기(run)’로 설정해야 한다고 조언했다.
‘신뢰하되 검증’ 원칙을 적용해 초기에는 AI 결과를 사람이 확인하고, 효과가 입증되면 더 복잡한 문제로 범위를 확장하는 방식이다.
전문 인력 대체 아닌 ‘역량 증폭’
델라포르타스는 에이전틱 AI가 미래에 일부 업무를 넘겨받더라도 전문가를 대체하기보다는 능률을 높이는 도구로 간주한다. 머피 역시 “숙련된 보안 인력 부족 문제를 완화하면서 동시에 진입 장벽을 낮출 수 있다”고 말했다.
머피는 “입문자가 ‘헬프 데스크’ 수준 업무부터 시작해야 했던 기존 구조가 AI 덕분에 단축될 수 있다”고 설명했다. 다만 AI 의사결정 구조와 교육 필요성은 여전히 남아 있다고 덧붙였다.
확산되는 사내 AI 에이전트
리서치 기업 가트너(Gartner)가 2025년 5월 CIO·IT 리더 147명을 조사한 결과, 24%가 이미 일부 AI 에이전트를 도입했다. 이 중 절반 이상은 IT·인사·회계 등 내부 업무 지원에 집중돼 있었고, 외부 고객 지원 용도는 23%에 불과했다.
가트너 AI 전략팀의 아비바 리탄(Avivah Litan) 부사장은 “보안은 AI 활용 초기 ‘낮은 과실(low-hanging fruit)’ 영역”이라며 “디지털 보안 도우미가 인력 부담을 덜고 새로운 공격에 대응할 것”이라고 전망했다. 다만 “복잡도 높은 업무로 확장 가능한지”가 과제로 꼽혔다.
머피는 “기업들은 AI가 공격에 사용된다는 현실을 알기에, 방어에도 AI를 적용하는 속도가 재무·법무보다 더 빨라질 수 있다”고 내다봤다.
전문가가 짚은 ‘Agentic AI’ 핵심 용어
Agentic AI: 특정 목표 달성을 위해 지시·계획·실행·학습을 스스로 반복하는 자율형 인공지능. 계층형 에이전트 구조를 도입해, 사용자는 ‘프롬프트’만으로 복잡한 작업을 위임할 수 있다.
Phishing(피싱): 이메일·메신저 등을 통해 개인정보·계좌정보를 탈취하는 사회공학적 공격. 생성형 AI로 문맥·문체·언어 오류를 제거한 ‘맞춤형’ 피싱이 가능해졌다.
Threat Intelligence(위협 인텔리전스): 사이버 공격 기법·인프라·행위자를 분석해 사전 경고를 제공하는 정보 체계. AI는 방대한 위협 데이터를 실시간 분석·시각화한다.
전망과 시사점
전문가들은 에이전틱 AI가 ‘디지털 전우’로 자리매김하며 보안인력을 지원할 것으로 본다. 동시에 공격자도 같은 기술을 쓰는 ‘창과 방패’의 딜레마가 심화될 전망이다.
결국 기업들은 AI가 생성한 알림과 조치의 투명성·감사 가능성을 확보하고, 인간 전문가가 최종 책임을 지는 거버넌스를 구축해야 한다. AI를 ‘자동 방패’가 아닌 ‘지능형 조력자’로 받아들이는 전략이 요구된다.
© 2025 CNBC. 무단전재·재배포 금지.
