회의 자료에, 뉴스 헤드라인에, 동료의 메신저에…
요즘 AI 트렌드를 논하는 자리에는 처음 보는 단어가 꼭 하나씩 섞여 있습니다.
온톨로지, 하네스, 에이전트 워싱, 머신 커스터머. 어디선가 들어본 것 같아 고개를 끄덕이지만, 막상 설명하려면 말문이 막히는 단어들입니다.
이 글은 그 낯선 단어들을 따로따로 외우는 대신, 'AI 에이전트'라는 큰 그림 안에서 각자 어떤 역할을 하는지 따라가 보려 합니다. 역할을 알고 나면 낯선 단어도 훨씬 명확한 실체로 다가옵니다.
┃에이전트 워싱, 이름이 실체보다 먼저 달려갈 때
기업 AI의 무게중심은 '답하는 AI'에서 스스로 판단하고 행동하는 '일하는 AI', 즉 AI 에이전트(AI Agent)로 빠르게 옮겨 가고 있습니다. 하지만 시장의 기대와 달리 실제 도입 속도는 더디기만 합니다. 가트너에 따르면, AI 에이전트를 실무에 도입한 기업은 아직 17%에 그치고 있죠. 반면 60% 이상은 향후 2년 안에 도입하겠다는 기대를 품고 있습니다.
이러한 기대와 현실의 간극 속에서 눈속임이 등장합니다. 스스로 판단할 자율성(Autonomy) 없이, 기존의 챗봇이나 단순 규칙 기반(Rule-based) RPA 솔루션에 'AI 에이전트'라는 그럴싸한 포장지만 씌우는 이른바 '에이전트 워싱(Agent Washing)' 입니다.
가트너는 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 비용 증가, 불분명한 비즈니스 가치, 미흡한 리스크 통제로 취소될 것으로 내다봤습니다. 에이전틱 AI를 내세우는 수천 곳의 업체 가운데 실체를 갖춘 곳은 약 130곳에 불과하다는 추정도 함께 내놨습니다.
그렇다면 과연 진짜와 가짜는 어떻게 가려낼 수 있을까요? 가장 쉬운 방법은 두 가지를 확인해 보는 것입니다.
👍🏻첫째, AI가 우리 회사의 비즈니스를 제대로 ‘아는가’.
👍🏻둘째, 그렇게 아는 AI에게 일을 믿고 ‘맡길 수 있는가’.
여기에 하나를 더 짚어 봐야 합니다. 이 AI가 앞으로 마주하게 될 새로운 고객입니다. 지금부터 이 순서를 따라 낯선 단어들을 하나씩 풀어 보겠습니다.
▲ AI 에이전트를 이해하는 단어 지도. 회사의 데이터에서 출발해 AI가 회사를 ‘알게’ 하는 기술과 일을 ‘맡기는’ 기술을 거쳐, 새로운 고객인 머신 커스터머로 이어집니다. XGEN은 두 기술을 Knowledge · Model · Governance 역량으로 하나의 플랫폼에서 함께 다룹니다. (제공=플래티어)
┃AI가 우리 회사를 ‘알게’ 하는 기술
AI가 회사를 ‘안다’는 것은 무슨 뜻일까요? 우리 회사의 고객과 상품, 숫자가 각각 무엇을 뜻하고 서로 어떻게 연결되는지 이해한다는 뜻입니다. 아무리 똑똑한 AI도 이걸 모르면 그럴듯한 오답(할루시네이션)을 내놓기 마련이죠. 예를 들어 경영진이 "이번 분기 B상품군 매출이 왜 급감했지?"라고 묻는다면, AI는 사람이 머릿속으로 하던 일을 차례로 해내야 합니다. 이 과정에서 여섯 개의 단어가 등장합니다.
먼저 온톨로지(Ontology)로 고객, 주문, 상품, 마케팅 캠페인이 각각 무엇이고 서로 어떤 관계인지 ‘의미’를 규정합니다. 이 정의에 따라 실제 데이터를 연결한 것이 지식 그래프(Knowledge Graph)입니다. 'A 캠페인은 B 상품군이 대상이었고, B 상품군은 5월에 부품 재고가 부족했다'처럼 표마다 흩어져 있던 팩트들이 입체적인 관계로 이어집니다.
동시에 숫자, 이름 등 파편화된 기준도 하나로 묶어야 합니다. 부서마다 제각각인 ‘매출’의 산정 기준을 하나로 통일해 일관성을 지키는 것이 시맨틱 레이어(Semantic Layer)이고, CRM(고객관리)과 ERP(전사자원관리)에 서로 다르게 적힌 동일 고객을 하나로 식별해 내는 것이 엔티티 해석(Entity Resolution)입니다.
이제 문서를 찾아서 엮을 차례입니다. 온톨로지가 사람이 정해 둔 정의대로 데이터를 ‘정확하게’ 잇는다면, 벡터 임베딩(Vector Embeddings)은 정의되지 않은 표현까지 뜻이 ‘비슷한’ 것끼리 찾아냅니다. 질문에 ‘매출 급감’이라고만 입력해도 ‘실적 부진’이나 ‘수익성 악화’라고 적힌 보고서를 찾아낼 만큼, 단어의 형태가 아닌 ‘유의미한 유사성’으로 문서를 발굴하죠.
나아가 Graph RAG(그래프 기반 검색 증강 생성)는 이렇게 찾은 문서들에 지식 그래프의 관계망을 더해, "5월 캠페인 종료와 부품 재고 부족이 맞물려 신규 고객 유입이 줄었다"는 진단을 근거 경로와 함께 제시합니다.
정리하면, 온톨로지·지식 그래프·시맨틱 레이어·엔티티 해석은 회사의 데이터를 ‘같은 뜻, 같은 기준’으로 정리하는 기술이고, 벡터 임베딩과 Graph RAG는 필요한 근거를 찾아 답으로 엮는 기술입니다. 특히 Graph RAG는 앞서 정리한 관계를 따라 근거를 엮기 때문에, 정리가 탄탄할수록 답도 정확해집니다.
플래티어의 에이전틱 AI 플랫폼 엑스젠(XGEN)은 이 과정을 Knowledge 역량으로 구현합니다.
💡Knowledge: 문서, 엑셀 표, 이미지 등 사내에 흩어진 데이터를 AI가 읽을 수 있는 형태로 변환한 뒤, 데이터 간의 개념과 관계를 온톨로지로 구조화합니다. 질문이 들어오면 비슷한 내용을 찾는 벡터 검색과 관계를 따라가는 그래프 검색을 함께 실행해, 원인과 근거를 함께 제시합니다.
┃AI에게 일을 ‘맡기는’ 기술
회사를 잘 알게 됐다고 해서 곧바로 AI에게 일을 맡길 수 있을까요? 아직은 아닙니다. ‘일한다’는 것은 답을 내놓는 데서 그치지 않고, 스스로 계획을 세우고 도구를 써서 실제 업무를 처리한다는 뜻이기 때문입니다. 그만큼 실수의 대가도 커집니다. 권한을 벗어난 할인율을 마음대로 고객에게 제안하거나, 임원 열람용 기밀 문서를 읽고 답할 수도 있죠. 그래서 일을 맡기려면 AI가 정해진 기준 안에서만 움직이도록 붙잡아 줄 장치가 필요합니다. 여기서 다섯 개의 단어가 등장합니다.
가장 큰 틀은 하네스(Harness)입니다. 하네스는 본래 말의 힘을 제어하고 방향을 잡는 ‘마구(馬具)’를 뜻하는데, AI 영역의 하네스 엔지니어링은 LLM이라는 강력한 말에 제어 장치를 다는 일입니다. 요청이 들어온 순간부터 결과가 나갈 때까지, AI가 무엇을 참고하고 어떤 도구를 쓰며 언제 멈출지를 하나의 흐름으로 관리합니다.
그 흐름의 중심에는 에이전트 루프(Agent Loop)가 있습니다. AI가 실제로 일을 처리하는 방식을 말하는데, 에이전트는 한 번에 답을 내지 않고 계획을 세우고 실행한 뒤 결과를 확인하는 과정을 목표를 이룰 때까지 되풀이합니다. 이 루프를 계속 돌지, 여기서 멈출지를 판단하는 것도 하네스의 몫입니다.
결과가 쓸 만한지는 Judge(여기서는 ‘판정 모델’로 하려고 합니다)가 가립니다. 판정 모델은 다른 AI의 답변을 채점하는 역할로 활용되는 AI입니다. 답을 만든 AI가 채점까지 맡으면 자기 답을 객관적으로 평가하기 어렵기 때문에, 답을 만드는 역할과 채점하는 역할을 따로 두는 것이죠. 채점 결과가 기준에 못 미치면 에이전트는 다시 시도합니다.
넘지 말아야 할 선은 가드레일(Guardrail)이 지킵니다. 개인정보처럼 밖으로 나가면 안 되는 데이터나 승인 범위를 넘는 요청을 걸러내 AI의 판단이 위험한 행동으로 이어지지 않게 합니다. 여기에 권한 관리(RBAC·ABAC)가 더해져, 사용자의 역할과 속성에 따라 AI가 접근할 수 있는 정보의 범위를 나눕니다. 같은 질문이라도 묻는 사람의 권한에 따라 받을 수 있는 답이 달라지는 것이죠.
역할로 나눠 보면, 하네스가 전체 흐름을 설계하고, 그 안에서 AI는 에이전트 루프라는 반복 과정을 거쳐 일을 처리합니다. 판정 모델은 품질을, 가드레일과 권한 관리는 안전을 책임집니다.
물론 이 장치들을 실제로 만드는 일은 생각보다 섬세합니다. 플래티어는 하네스를 직접 설계하면서 도구를 세 번 호출해 답을 얻어낸 상황, 세 번 모두 품질 미달로 실패한 상황, 외부 서비스 오류로 세 번 재요청을 보낸 상황이 모두 똑같이 ‘재시도 3회’로 기록되는 문제를 마주했습니다. 겉보기엔 같은 로그지만, 그 이면의 상황은 완전히 다르죠.
따라서 하네스 설계의 핵심은 기능을 더하는 데 있지 않습니다. 하나로 뭉뚱그려 불리던 상황들을 정확히 나누고, 각각을 따로 통제하는 데 있습니다. AI에게 업무를 믿고 맡길 수 있느냐는 결국 이런 디테일을 얼마나 집요하게 챙기느냐에 달려 있습니다.
엑스젠(XGEN)은 이 과정을 Model과 Governance 역량으로 구현합니다.
▲ XGEN의 전략적 하네스 엔지니어링. 9 Stage·3 Phase의 고정 파이프라인으로 LLM이 업무 환경에서 일관되게 동작하도록 통제하고, 사전 정책 검사부터 사후 품질 평가까지 AI 응답 정확도를 다층적으로 보장합니다. (제공=플래티어)
💡Model:하네스 엔지니어링으로 요청이 들어온 순간부터 답이 나갈 때까지를 9단계로 나눠 관리합니다. 입력 검증, 대화 이력 주입과 도구 선택, 실행 전 예산·컨텍스트·도구 정책 검사, 실행 뒤 판정 모델의 품질 평가와 재시도까지 거쳐, 같은 모델을 쓰더라도 결과가 들쭉날쭉하지 않도록 붙잡아 둡니다.
💡Governance:가드레일과 프라이빗 인프라로 기업의 데이터 주권을 지킵니다. 정책을 기반으로 에이전트의 위험 요소를 식별해 위험도를 평가하고, 사용자 승인 워크플로우에 따라 계정을 관리하며, RBAC·ABAC 기반으로 조직과 역할별 접근 권한을 세밀하게 제어합니다. 퍼블릭과 프라이빗 AI 환경을 통합 지원해 업무 민감도에 따라 나눠 운영하며, 보안성과 효율성을 동시에 확보합니다.
┃AI가 마주할 새로운 고객, 머신 커스터머
AI가 회사를 알고 일을 맡을 수 있게 됐다면, 이제 시선을 회사 밖으로 돌려 볼 차례입니다. 머지않아 우리 회사의 AI가 마주할 시장에는 한 번도 겪어보지 못한 낯선 바이어가 기다리고 있습니다. 바로 사람을 대신해 구매 결정을 내리는 기계, ‘머신 커스터머(Machine Customer)’입니다.
가트너에 따르면, 사람 대신 B2B 구매 여정을 밟는 인터넷 연결 기기는 2025년 30억 대에서 2030년 80억 대로 폭증할 전망입니다. 사람의 개입 없이 기계가 스스로 재고를 파악하고, 단가를 협상하며, 부품을 자동 주문하는 시대가 코앞에 다가온 것입니다.
중요한 것은 이들의 쇼핑 방식입니다. 사람은 다소 애매모호한 상품 설명도 문맥을 통해 유추하지만, 머신 커스터머는 정의된 코드와 데이터대로만 읽고 판단합니다. '당일 발송'이라는 문구가 정확히 '몇 시까지의 주문'을 의미하는지 시스템적으로 정의되어 있지 않다면, 기계는 그 상품을 장바구니에서 제외할 수도 있습니다. 앞서 살펴본 ‘알게 하는 기술’과 ‘맡기는 기술’이 단순한 내부 업무 효율화를 넘어, 거래의 조건이 됩니다.
┃에이전트를 고를 때 던져 볼 세 가지 질문
여기까지 따라오셨다면, 낯선 트렌드 용어들이 하나의 명확한 지도 위에 자리 잡혔을 것입니다. 그리고 이 지도는 곧바로 우리 회사를 위한 '진짜 에이전트'를 판별하는 질문 3가지로 치환됩니다.
이 기술은 파편화된 우리 회사의 비즈니스 맥락(온톨로지)을 제대로 이해하고 있는가?
정해진 권한과 보안 기준(하네스) 안에서 믿고 일을 맡길 수 있는가?
앞으로 폭발적으로 늘어날 머신 커스터머와의 거래 환경까지 대비할 수 있는가?
이 세 가지 질문에 분명하게 답할 수 있는 기술이라면, 적어도 이름만 바꾼 ‘가짜 에이전트’는 아닐 것입니다. 앞으로도 IT 업계에는 수많은 낯선 단어들이 쏟아지겠지만, 오늘 그려 본 이 지도만 있다면 새 단어가 AI를 ‘알게’ 하는 쪽인지, 일을 ‘맡기는’ 쪽인지 충분히 가늠해 볼 수 있을 것입니다.
[출처]
Gartner, Hype Cycle for Agentic AI, 2026
Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027
Stop Agent-Washing: Differentiate With Human-Centric Agentic Experiences
재시도 횟수로는 실행을 설명할 수 없었습니다 (1편)
답을 만든 모델에게 채점까지 맡기고 있었습니다 (4편)
재시도를 다 썼는데 같은 답을 계속 채점하고 있었습니다 (10편)
오늘 콘텐츠가 마음에 드셨나요?
플래티어 뉴스레터를 구독해 보세요!
플래티어가 엄선한 콘텐츠를 이메일로 빠르게 전송해 드릴게요.
