전 세계 주요 지역의 IT 애플리케이션 리더 중 15%만이 사람의 감독 없이 목표를 수행하는 완전 자율 ‘AI 에이전트(AI Agent)’를 고려하거나, 시범 운영, 구축 중인 것으로 조사됐다. AI 에이전트란 사용자나 시스템을 대신해 자율적으로 목표를 설정하고, 환경과 상호작용하며 데이터를 수집·분석해 최적의 해결책을 도출하는 인공지능 기반 시스템을 말한다.

가트너(Gartner)는 올해 5월부터 6월까지 북미, 유럽, 아시아·태평양 기업의 IT 애플리케이션 리더 360명을 대상으로 설문조사를 실시, 생성형 AI와 에이전틱 AI가 기업 애플리케이션에 미치는 영향을 파악했다.

맥스 고스(Max Goss) 가트너 시니어 디렉터 애널리스트는 “에이전틱 AI를 둘러싼 과대광고는 계속 확산되고 있다”며 “공급업체들은 기존 생성형 AI 어시스턴트의 한계를 극복할 차세대 AI 기술로 AI 에이전트를 제시하고 있다”고 말했다. 이어 “이번 조사에서도 응답자의 75%가 AI 에이전트를 시범 도입했거나, 배포 중, 배포 완료했다고 답했지만, 거버넌스 부재, 기술 성숙도, 확산에 대한 우려가 진정한 에이전틱 AI 구축을 가로막고 있다”고 전했다.

완전 자율 솔루션 구축의 주요 장애 요인으로는 공급업체의 보안·거버넌스·환각 방지 역량에 대한 신뢰 부족과 조직의 준비 상태에 대한 우려가 지목됐다. 설문조사에 따르면, 응답자의 19%만이 공급업체의 환각 방지 기능을 높이 또는 완전히 신뢰한다고 답했으며, 74%는 AI 에이전트가 조직 내 새로운 공격 경로가 될 것이라고 우려했다. 또 이를 관리할 적절한 거버넌스 체계를 갖추었다고 확신한 응답자는 13%에 그쳤다.

◇AI 에이전트, 영향력은 상당하지만 혁신 효과는 미지수

설문조사 응답자의 26%는 AI 에이전트가 생산성에 혁신적 변화를 불러올 것으로 예상했으며, 절반 이상인 53%는 영향력은 크지만 혁신적인 수준은 아닐 것이라고 답했다. 이외에 20%는 효과가 제한적일 것이라고 전망했다.

또 AI 활용 목표에 대해 IT와 비즈니스 직원, 경영진 간 의견이 매우 일치한다고 답한 응답자는 14%에 불과했다. 의견이 일치하는 기업은 그렇지 않은 기업보다 AI 에이전트를 혁신적이라고 평가할 가능성이 1.6배 높았으며, 생성형 AI 도구에서 가치를 발견할 가능성이 3배 이상 높은 것으로 나타났다.

이와 관련해 고스 시니어 디렉터 애널리스트는 “AI 활용 목표와 그 가치 측정 방법에 대한 합의가 성공적인 AI 배포의 핵심임에도 불구하고, 많은 기업이 이를 확보하지 못하고 있다”고 꼬집었다.

◇기업, AI 에이전트 배포의 우선순위 재정립 필요

AI 활용 목표에 대한 내부 합의가 부족한 기업은 AI 에이전트가 가장 큰 영향을 미칠 분야로 ‘사무 생산성’을 꼽을 가능성이 거의 두 배에 달했다. 반면, 의견이 일치한 기업은 ‘고객 서비스’, ‘ERP(Enterprise Resource Planning, 전사적 자원관리)’, ‘영업’ 등 보다 직접적이고 가치 창출이 가능한 활용 사례에 집중하는 경향을 보였다.

고스 시니어 디렉터 애널리스트는 “AI 에이전트 활용 방안에 대한 이해가 부족한 기업에서는 사무 생산성과 디지털 업무 환경이 기본 선택지가 될 수 있지만, 반드시 최대 가치를 제공하는 영역은 아니”라고 말했다. 이어 “이번 조사 결과, AI 에이전트의 영향을 가장 크게 받을 분야로는 분석 및 비즈니스 인텔리전스가 64%로 1위를 차지했으며, 고객 서비스 55%, 사무 생산성 39%로 그 뒤를 이었다”고 설명했다.

◇AI 에이전트, 향후 2~4년 내 앱 및 인력 대체 어려워

AI 에이전트의 장기적 도입 전망은 불확실하지만, 리더 대부분은 향후 2~4년 내 이 기술이 애플리케이션이나 인력을 대체할 가능성은 높지 않다고 예상했다. AI 에이전트가 애플리케이션을 대체할 것이라고 강력히 동의한 응답자는 12%에 불과했으며, 작업자를 대체할 것이라는 응답자는 7%에 그쳤다. 다만 어느 정도 동의하는 비율은 각각 34%, 29%로 훨씬 높게 나타났다.

고스 시니어 디렉터 애널리스트는 “AI 에이전트는 보편화된 지 이제 겨우 12개월밖에 안 된 기술임을 고려할 때, 이는 상당한 수치이며 에이전틱 AI를 둘러싼 과대광고와 불확실성이 동시에 존재함을 보여준다”고 말했다.

가트너는 기업이 에이전틱 AI를 도입할 때 다음 세 가지 핵심 영역에 집중할 것을 권장했다. 첫 번째는 ‘AI 에이전트 거버넌스 구축’이다. 특정 플랫폼에 종속되지 않는 거버넌스 프레임워크를 구축해 무분별한 확산 위험을 방지해야 한다. 또 기업이 다양한 도구와 영역에 걸쳐 AI 에이전트 기능을 안전하게 개발할 수 있도록 명확한 지침·정책·제어 기능을 제공해야 한다.

두 번째는 ‘영향력 높은 영역에 전략적 배치’다. AI 에이전트 활용 목적에 대해 IT와 비즈니스 부서 간 합의를 도출하는 것이 성공의 핵심이다. 사무 생산성 제품군에 AI 에이전트를 배포하는 것이 위험 부담이 크고 수익성이 낮다면, 고객 서비스나 데이터 및 분석과 같이 보다 실질적인 ROI(Return on Investment, 투자수익률)를 제공할 수 있는 다른 영역을 고려할 수 있다. 적절한 활용 사례에 AI 에이전트를 도입하면, 기술에 대한 신뢰를 구축하고 에이전트를 가장 효과적으로 활용할 수 있는 영역을 식별할 수 있다.

세 번째는 ‘멀티벤더 전략 채택’이다. 가트너는 AI 에이전트 전략을 단일 공급업체에 의존하기에는 아직 이르다고 판단한다. 기업은 ERP, CRM(Customer Relationship Management, 고객 관계 관리), 디지털 워크플레이스 포트폴리오 전반에서 다양한 옵션을 탐색하고, 변화하는 요구사항을 충족할 수 있는 공급업체 역량을 활용해야 한다.