AI의 다음 경쟁력은 데이터의 의미에 있습니다

생산성 향상을 넘어 고객가치로 연결하는 시맨틱 레이어와 온톨로지

이 문서가 말하고 싶은 것

AI를 도입해 문서를 작성하고, 정보를 검색하고, 코드를 만들고, 고객 문의를 처리하는 속도를 높이는 시도는 이미 많은 곳에서 진행되고 있다. 실제 생산성 향상 사례도 확인되고 있다.

하지만 일을 더 빨리 처리하는 것만으로 고객에게 새로운 가치가 생기는 것은 아니다.

고객이 체감하는 변화는 AI가 회사 데이터 속에서 의미를 찾아 다음 행동으로 연결할 때 만들어진다.

• 문제가 생긴 뒤 빠르게 답하는 것을 넘어, 문제가 생기기 전에 발견한다.
• 모든 고객에게 같은 안내를 보내는 대신, 지금 필요한 도움을 제안한다.
• 현황을 보여주는 데서 끝나지 않고, 다음에 무엇을 해야 할지 알려준다.
• 담당자의 경험에만 의존하지 않고, 데이터에 근거해 일관된 조치를 실행한다.

이 흐름을 간단히 표현하면 다음과 같다.

AI 도입 → 업무 생산성 향상 → 데이터의 의미 이해 → 더 나은 판단 → 실제 실행 → 고객이 체감하는 가치

여기서 가장 어려운 부분은 AI가 답을 만드는 일이 아니다. 우리 데이터가 무엇을 뜻하는지 정확히 이해하고, 그 의미를 바탕으로 틀리지 않는 행동을 선택하는 일이다.

그래서 DB 메타데이터, 데이터 딕셔너리, 시맨틱 레이어와 온톨로지가 필요하다. 이들은 단순한 데이터 정리 작업이 아니라, AI의 답을 고객가치로 연결하기 위한 기반이다.

이제 전체 내용을 먼저 짧게 정리하고, 이어지는 본문에서 왜 데이터의 의미가 중요한지와 어떤 방식으로 준비해야 하는지를 자세히 설명한다.

먼저 보는 핵심 요약

우리가 가려는 방향

핵심 내용 다섯 가지

1. AI의 생산성 효과는 이미 나타나고 있다. 문서 작성, 개발과 고객지원 등에서 처리시간을 줄이고 업무량을 높인 사례가 있다.

2. 하지만 생산성 향상만으로 고객가치가 완성되지는 않는다. 고객이 체감하는 가치는 AI가 데이터에서 의미를 찾아 더 나은 판단과 실제 조치로 연결할 때 만들어진다.

3. 출발점은 DB 메타데이터와 데이터 딕셔너리다. 테이블·컬럼·코드·단위·날짜의 뜻을 정확히 설명해야 AI가 회사 데이터를 제대로 읽을 수 있다.

4. 고객가치까지 연결하려면 시맨틱 레이어와 온톨로지가 필요하다. 시맨틱 레이어는 공식 지표와 계산법을 한곳에서 관리하고, 온톨로지는 여러 시스템의 업무 개념과 관계를 연결한다. DB 설명만으로 AI가 계속 추정하게 두지 않기 위한 핵심 기반이다.

5. 고객 행동으로 이어질수록 검증과 통제가 중요하다. 승인된 데이터와 규칙을 사용하고, 결과의 근거를 남기며, 처음에는 사람이 승인한 뒤 검증된 업무부터 자동화해야 한다.

한 문장 결론

DB 메타데이터와 딕셔너리를 기본으로 정비하고, 그 위에 시맨틱 레이어와 온톨로지를 구축해 데이터의 의미를 정확한 판단과 실행으로 연결한다.

자세히 보기

AI 도입의 첫 번째 성과는 ‘업무 속도’에서 나타났다

생성형 AI는 반복적인 지식 업무에서 분명한 가능성을 보여주고 있다.

약 5,000명의 고객지원 상담사를 분석한 연구에서는 AI 지원 도구를 사용한 상담사가 시간당 해결한 고객 문제 수를 평균 약 14% 늘렸다.[1] GitHub가 95명의 개발자를 대상으로 실시한 통제 실험에서는 Copilot을 사용한 그룹이 주어진 개발 과제를 평균 55% 더 빠르게 완료했다.[2]

이 수치가 모든 회사와 업무에 그대로 적용된다는 뜻은 아니다. 업무 종류와 사용자 경험에 따라 효과는 달라진다. 다만 AI가 다음과 같은 일을 빠르게 만드는 데 유용하다는 방향은 이미 확인되고 있다.

• 문서 초안 작성과 요약
• 자료 검색과 정보 정리
• 코드 작성과 반복 작업 자동화
• 상담 답변 추천
• 회의록과 보고서 작성

이 단계의 가치는 주로 같은 일을 더 빠르게 처리하는 것이다. 내부 업무시간과 비용을 줄이고, 직원이 판단과 문제 해결에 더 집중하게 해준다.

중요한 성과다. 그러나 고객 입장에서 보면 이것만으로는 충분하지 않을 수 있다. 회사가 보고서를 더 빨리 쓰게 되었다는 사실보다 고객은 자신의 문제가 더 빨리 해결되고, 더 적합한 제안을 받고, 불편과 위험을 미리 풀어주는지를 중요하게 느낀다.

고객가치는 ‘데이터를 행동으로 바꿀 때’ 만들어진다

AI가 고객에게 실질적인 도움을 주려면 질문에 답하는 단계를 넘어야 한다.

예를 들어 고객 이탈 가능성이 높다는 분석 결과가 나왔다고 하자.

결과를 대시보드에 보여주는 것만으로는 고객에게 아무 변화가 없다. 다음 과정으로 이어져야 가치가 생긴다.

1. 어떤 고객에게 문제가 있는지 찾는다.
2. 왜 문제가 생겼는지 이해한다.
3. 고객에게 적합한 조치를 선택한다.
4. 담당자에게 알리거나 시스템이 조치를 실행한다.
5. 실제로 문제가 해결됐는지 확인한다.

고객가치는 마지막까지 이어졌을 때 나타난다.

• 배송 지연 가능성을 미리 발견해 고객에게 안내
• 반복 장애 신호를 찾아 서비스 중단 전에 조치
• 고객의 사용 상황에 맞는 다음 기능이나 상품 추천
• 계약 이탈 신호를 감지해 적절한 지원 제공
• 재고 부족을 예상해 주문 실패 전에 물량 조정

즉, AI 활용의 다음 단계는 더 많은 답변을 만드는 것이 아니라 데이터에서 의미를 찾고, 그 의미를 판단과 실행으로 연결하는 것이다.

그런데 데이터의 ‘의미’는 DB만 봐서는 알기 어렵다

사용자가 이렇게 질문한다고 가정해보자.

“최근 서비스 이용이 줄어 이탈 가능성이 높은 고객을 찾아줘.”

AI가 답하려면 다음을 알아야 한다.

• ‘고객’은 가입 계정인가, 결제 중인 계약 고객인가?
• ‘이용 감소’는 로그인, 기능 사용, 거래량 중 무엇을 뜻하는가?
• 어느 기간과 비교해 얼마나 줄어야 위험으로 보는가?
• 장애나 휴일 때문에 일시적으로 이용이 줄어든 경우는 어떻게 처리하는가?
• 여러 계정이 한 고객사에 속하면 어떻게 묶는가?
• 이미 해지한 고객이나 테스트 계정은 어떻게 제외하는가?

AI는 DB의 테이블 이름과 컬럼 이름만 보고 이 규칙을 정확히 알 수 없다. 정보가 없으면 가장 그럴듯한 기준을 만들어낼 수 있다.

잘못된 분석이 단순 보고서로 끝나면 사람이 발견하고 고칠 여지가 있다. 그러나 분석 결과가 고객 알림, 가격 제안, 영업 연락이나 서비스 제한 같은 실행으로 바로 이어지면 잘못된 의미 해석의 영향은 훨씬 커진다.

AI가 실행에 가까워질수록 데이터 의미의 정확성과 검증이 더 중요해진다.

가장 먼저 할 수 있는 일: DB에 좋은 설명서를 붙인다

가장 현실적인 출발점은 DB 메타데이터와 데이터 딕셔너리를 제대로 만드는 것이다.

메타데이터는 쉽게 말해 데이터에 대한 정보다. 데이터 딕셔너리는 테이블, 컬럼, 코드와 업무 용어의 뜻을 정리한 데이터 사전이다.

예를 들면 다음 내용을 관리한다.

• 테이블과 컬럼이 무엇을 뜻하는지
• 어떤 데이터가 공식 원천인지
• 날짜의 기준과 금액의 단위
• 상태 코드가 의미하는 것
• 데이터 갱신 시점과 담당자
• 함께 사용해야 하거나 사용하면 안 되는 데이터

이 설명이 잘 되어 있으면 AI가 데이터를 훨씬 정확하게 찾고 이해할 수 있다.

데이터 구조가 단순하고 계산 규칙이 많지 않다면 메타데이터와 딕셔너리만 잘 관리해도 충분한 효과를 얻을 수 있다. 처음부터 큰 온톨로지를 만들 필요는 없다.

고객가치로 연결하려면 시맨틱 레이어와 온톨로지가 필요하다

데이터 딕셔너리에 각 컬럼의 뜻이 적혀 있어도 AI가 여전히 판단해야 하는 부분이 있다.

예를 들어 ‘이탈 위험 고객’을 찾으려면 AI가 다음을 직접 정해야 할 수 있다.

• 사용할 고객 테이블
• 이용량을 계산할 데이터
• 여러 시스템의 고객번호를 연결하는 방법
• 이탈 위험을 판단하는 기간과 기준
• 제외해야 하는 고객과 예외 조건

이 판단을 매번 AI에 맡기면 질문할 때마다 다른 결과가 나올 수 있다.

시맨틱 레이어는 자주 사용하는 지표와 계산을 공식 규칙으로 만든다.

• 공식 지표: 최근 30일 서비스 이용 감소율
• 대상: 유효한 유료 계약 고객
• 비교: 이전 30일 평균 사용량
• 제외: 테스트 계정, 서비스 장애 기간
• 고객 연결: 계약 고객번호 기준
• 위험 기준: 이용량 40% 이상 감소

AI가 이탈 기준을 새로 만들지 않고 승인된 지표를 사용하게 하는 것이다.

온톨로지는 고객, 계정, 계약, 서비스, 이용 활동처럼 여러 시스템에 흩어진 업무 개념과 관계를 정리한다. 예를 들어 ‘한 고객사가 여러 계정을 가질 수 있다’, ‘계정은 하나의 계약에 속한다’, ‘이용 활동은 특정 서비스와 연결된다’는 관계를 기계가 이해할 수 있게 만든다.

DB 설명은 출발점이고, 시맨틱 레이어와 온톨로지는 다음 단계다

두 방식 중 하나만 선택해야 하는 것은 아니다.

DB 메타데이터와 딕셔너리는 기본이고, 고객을 이해해 행동까지 연결하려면 시맨틱 레이어와 온톨로지를 함께 구축해야 한다.

두 계층의 역할은 분명히 다르다. 시맨틱 레이어는 ‘어떤 숫자를 어떤 공식과 데이터로 계산할 것인가’를 책임지고, 온톨로지는 ‘고객·계정·계약·서비스·활동이 서로 어떤 관계인가’를 책임진다. 하나는 계산의 일관성을 만들고, 다른 하나는 여러 데이터 사이의 의미를 연결한다.

따라서 이 문서가 제안하는 목표 구조는 다음과 같다.

1. DB 메타데이터와 딕셔너리로 데이터의 기본 뜻을 설명한다.
2. 시맨틱 레이어로 공식 지표·계산식·올바른 데이터 연결 방법을 관리한다.
3. 온톨로지로 여러 시스템의 업무 개념과 관계를 연결한다.
4. 검증과 권한 통제로 이 규칙이 실제 실행에서 지켜지게 한다.

데이터가 단순한데 큰 온톨로지를 먼저 만들면 관리 부담만 커질 수 있다. 반대로 여러 시스템의 데이터를 연결해 고객 행동까지 바꾸려는데 컬럼 설명만 제공하면 AI가 중요한 계산과 관계를 계속 추정하게 된다.

답변에서 실행으로 갈수록 필요한 안전장치

온톨로지나 시맨틱 레이어를 도입했다고 자동으로 안전해지는 것은 아니다. 정의한 규칙이 실제 실행 과정에 연결되어야 한다.

실행 전에 확인한다

• 승인된 데이터와 공식 지표를 사용했는가?
• 올바른 방법으로 데이터를 연결했는가?
• 고객과 기간, 제외 조건을 맞게 적용했는가?
• 개인정보와 접근 권한을 지켰는가?
• 비정상적으로 큰 조회나 위험한 명령은 없는가?

결과와 근거를 함께 남긴다

• 어떤 데이터를 사용했는가?
• 어떤 계산식과 기준을 적용했는가?
• AI는 질문을 어떻게 이해했는가?
• 결과의 확실하지 않은 부분은 무엇인가?
• 실제로 어떤 조치가 실행되었는가?

중요한 실행은 단계적으로 자동화한다

처음에는 AI가 조치를 추천하고 사람이 승인하게 한다. 정확도와 효과가 충분히 확인된 반복 업무부터 자동 실행 범위를 넓힌다. 가격, 계약, 서비스 제한, 민감정보와 관련된 결정은 더 강한 검증과 승인 절차를 둔다.

외부 사례가 보여주는 점

업무 의미와 데이터 관계를 제공하면 데이터 질의 정확도가 개선될 수 있다는 사례도 확인된다.

• Snowflake는 네 개 데이터셋에서 일반 Claude 3.5 Sonnet 평균 57%, 의미 모델을 포함한 Cortex Analyst 평균 78%를 보고했다.[3]
• 2026년 arXiv 사전논문은 한 개 소매 데이터셋의 100개 질문에서 업무 의미 문서를 추가했을 때 세 모델의 정확도가 각각 17~23%포인트 높아졌다고 보고했다.[4]
• 현실적인 기업 데이터 작업을 다룬 Spider 2.0에서는 o1-preview 기반 코드 에이전트의 성공률이 21.3%에 머물렀다.[5]

이 수치는 각각 다른 데이터와 평가 조건에서 나온 결과이므로 우리 회사의 예상 정확도로 그대로 사용할 수는 없다. 다만 두 가지 방향은 분명하다.

1. 정리된 환경에서 성능이 좋은 AI도 복잡한 기업 데이터에서는 어려움을 겪는다.
2. 업무 의미와 공식 관계를 제공하면 AI가 추정해야 할 부분을 줄일 수 있다.

우리는 이렇게 시작하면 된다

1. 고객가치가 큰 질문을 먼저 고른다

답을 만들기 쉬운 질문보다 실제 행동으로 바꿀 수 있는 질문을 선정한다.

• 이탈 가능성이 높은 고객은 누구인가?
• 반복 장애가 발생하기 전에 어떤 신호가 나타나는가?
• 어떤 고객에게 어떤 지원이나 제안이 필요한가?
• 주문 실패나 배송 지연을 미리 줄일 수 있는가?

2. 질문에 필요한 데이터의 뜻을 정리한다

관련 DB의 메타데이터와 딕셔너리를 점검하고, 공식 데이터, 단위, 코드값, 날짜 기준, 담당자와 올바른 연결 방법을 채운다.

3. 시맨틱 레이어와 온톨로지를 구축한다

시맨틱 레이어에는 고객지표, 이용량, 위험 신호의 계산식과 제외 조건을 정의한다. 온톨로지에는 고객, 계정, 계약, 서비스와 이용 활동의 관계를 정의한다. 처음부터 전사 범위를 한꺼번에 만들기보다 고객가치가 큰 업무 영역부터 구축하고 확장한다.

4. 작은 범위에서 판단과 실행을 시험한다

실제 업무 질문 30~50개와 정답을 준비해 정확도를 측정한다. 처음에는 담당자에게 다음 행동을 추천하는 수준으로 시작하고, 효과와 안전성이 확인된 업무만 자동화한다.

5. 고객 결과로 성과를 측정한다

문서 작성시간이나 AI 사용량만 보지 않는다.

• 고객 문제 해결시간이 줄었는가?
• 장애와 불편을 미리 줄였는가?
• 이탈률이나 주문 실패가 감소했는가?
• 제안의 적합성과 고객 만족도가 높아졌는가?
• 잘못된 판단과 불필요한 연락은 줄었는가?

AI의 최종 성과는 생성한 답변 수가 아니라 고객에게 만들어낸 변화로 평가해야 한다.

마무리 — 더 많은 답보다 더 나은 행동

AI로 문서 작성, 검색, 코딩과 상담을 빠르게 하는 것은 좋은 출발점이며 실제 생산성 효과도 있다. 그러나 여기에서 멈추면 AI는 기존 업무를 더 빠르게 수행하는 도구에 머문다.

다음 단계는 회사 데이터 속에서 고객과 업무의 의미를 정확히 찾고, 더 나은 판단과 실행으로 연결하는 것이다.

이를 위해서는 다음 순서가 현실적이다.

DB 메타데이터와 딕셔너리를 기본으로 정비한다. 그 위에 시맨틱 레이어를 구축해 공식 지표와 계산을 통일하고, 온톨로지를 구축해 여러 시스템의 업무 개념과 관계를 연결한다. 그리고 이 의미 체계를 검증된 실행으로 이어 고객이 실제로 체감하는 결과를 만든다.

우리가 목표로 해야 할 것은 더 많은 답을 만드는 AI가 아니다. 고객의 상황을 제대로 이해하고, 필요한 순간에 올바른 행동을 돕는 AI다.

참고자료

[1] E. Brynjolfsson, D. Li and L. R. Raymond, Generative AI at Work, NBER Working Paper 31161. 약 5,000명의 고객지원 상담사 자료에서 AI 도구 사용 시 시간당 해결 건수가 평균 약 14% 증가했다.

[2] GitHub, Research: quantifying GitHub Copilot’s impact on developer productivity and happiness. 95명의 개발자들 대상으로 한 특정 JavaScript 과제 실험 결과다.

[3] Snowflake, Agentic Semantic Model Improvement: Elevating Text-to-SQL Performance, Cortex Analyst 공식 문서.

[4] M. Rumiantsau and I. Fokeev, Semantic Layers for Reliable LLM-Powered Data Analytics, arXiv preprint, 2026.

[5] Z. Lei et al., Spider 2.0: Evaluating Language Models on Real-World Enterprise Text-to-SQL Workflows, ICLR 2025.

다음으로 읽어볼 글

• AI가 회사 데이터를 이해하지 못하는 진짜 이유
• 온톨로지
• 기업 AI 전략