
AI 시대, 데이터는 왜 여전히 활용되지 못하는가?
— 데이터 DNA와 데이터 리터러시의 문제
요즘 AI 활용에 대한 기대와 실무 사이 간극이 점점 커지고 있습니다. 통상 진행해 오던 업무에 대해 “그거 AI가 다 해주지 않아?”라는 인식이 팽배해진 반면, 실제 AI 활용도는 그 기대에 못 미치기 때문이죠.
데이터 산업에 있어서도 마찬가지입니다. AI로 기존의 많은 문제 -데이터 활용의 어려움 등- 를 해결할 수 있을 것 같지만, 실제로는 어디서부터 시작해야 할지 모르는 경우가 대부분입니다.
먼저 기업들이 데이터를 다루는 두 가지 케이스를 짚어 보겠습니다.
데이터는 ‘존재’하지만, ‘활용’하지 못한다
현장에서 다양한 기업을 만나보면 공통적으로 발견되는 패턴이 있습니다. 데이터는 많은데 어디서부터 손 대야 할지 모르거나, 데이터를 분석하고 시각화하는 툴을 사용하는데도 해석하는 방법을 모르기도 합니다.
- v 데이터는 이미 충분히 쌓여 있습니다
- v 다양한 BI 도구와 리포트가 존재합니다
- v 분석 결과도 지속적으로 만들어집니다
결론은 하나로 모아집니다. 데이터는 존재하나, 활용 가치가 없는 상태로 방치되어 있다는 겁니다.
데이터는 KPI의 기초이자, 성과 창출의 근거
반대로 현장에서 데이터를 잘 활용하는 경우를 보겠습니다. 이들 기업은 데이터가 알려주는 대로 의사결정을 합니다. 감과 노하우를 수치화하고, 누구나 보편적으로 이용할 수 있는 객관적 근거로 활용하죠. ‘구슬이 서 말이라도 꿰어야 보배’라는 말을 실천하는 조직입니다.
정량 성과에 있어서 객관적인 KPI를 설정하고, 달성 여부를 판단합니다.
분석 결과를 보는 것에 그치지 않고, 반드시 실제 실행으로 연결합니다.
데이터 조직과 비즈니스 조직이 서로 다른 언어로 이야기하지 않습니다.
이렇게 데이터를 활용할 줄 아는 기업은 대체로 적확한 의사결정을 합니다. 이러한 판단이 우수한 비즈니스 성과로 연결되는 건 당연지사겠죠.
AI는 문제를 해결하지 않는다
데이터 활용이 어려운 많은 기업은, AI를 도입하면 문제가 해결될 것이라 기대합니다. 하지만 현실은 그렇지 않습니다. AI는 기존의 데이터 활용 수준을 그대로 확장시키는 기술에 가깝기 때문입니다.
데이터 활용이 잘 되지 않는 조직은 AI를 도입해도 같은 문제를 반복합니다. 반대로 데이터 활용이 잘 되는 조직은 AI를 통해 훨씬 빠르게 확장됩니다.
핵심은 데이터 리터러시다
결국 이 문제의 본질은 기술이 아니라, 사람과 조직에 있습니다. AI 시대의 경쟁력은 기술이 아니라 데이터 리터러시에서 결정됩니다
하지만 여기서 말하는 데이터 리터러시는 단순히 데이터를 읽는 능력이 아닙니다.
대부분의 조직은 이미 ‘값’을 가지고 있습니다.
문제는 그 값을 설명할 수 있는 ‘맥락’과 ‘관계 구조’를 갖고 있지 않은 경우가 태반이라는 겁니다. “왜 이런 결과가 나왔는가”를 설명하지 못하는 것이죠.
데이터 리터러시란 ‘숫자 → 원인 → 행동’으로 이어지는 사고 구조를 의미합니다
이 구조가 조직 전반에 자리 잡을 때, 비로소 데이터는 실제 의사결정으로 연결될 수 있습니다.
데이터는 ‘질문하는 대상’이 되어야 한다
데이터를 보고하는 데만 쓰지 마십시오. 앞으로는 데이터 활용 방식 자체가 바뀌어야 합니다.
기존에 1) 리포트를 요청하고 2) 데이터를 정리한 뒤 3) 결과를 확인하는 흐름이었다면
이제는 1) 질문을 중심으로 데이터를 탐색하고 2) 그 결과의 원인을 이해하며 3) 그에 맞는 행동을 결정하는 구조로 전환되어야 합니다
예를 들어, 영업 조직에서 이번 달 매출 리포트를 확인해 정리된 데이터를 받은 뒤 결과를 해석하곤 했다면,
이제는
“이번 달 매출이 예상보다 낮은 이유는 무엇인가?”
“어떤 고객군에서 감소가 발생했는가?”
와 같은 질문을 바로 던지고, 그에 대한 답을 즉시 확인하는 방식으로 바뀌어야 합니다.
AI Agent가 만드는 변화
최근에는 AI Agent 기반의 접근 방식이 등장하면서 데이터 활용 방식 자체가 빠르게 변화하고 있습니다. 하지만 단순한 자연어 질의만으로는 충분하지 않습니다.
중요한 것은 데이터 간의 관계를 이해하고, 결과를 ‘설명할 수 있는 구조’를 만드는 것입니다
이를 위해 최근에는 온톨로지 기반 데이터 구조와 AI Agent를 결합하여 단순 조회가 아니라 ‘설명 가능한 분석’을 만드는 접근이 주목받고 있습니다.
결과를 단순히 보여주고 그치는 것에서 벗어나, 데이터를 통해 이유까지 설명하는 방식으로 전환되는 것입니다.
결론: AI 도입 이전에 점검해야 할 것
AI는 이제 선택이 아닌 필수가 되어가고 있습니다. 그러나 그 이전에 반드시 점검해야 할 것이 있습니다.
"우리 조직은 데이터를 ‘설명할 수 있는 구조’로 만들고 있는가?"
데이터를 보유하는 것보다 중요한 점은, 데이터를 ‘이유를 설명하는 경로’로 작동하게끔 활용하는 것입니다.
이 조건이 갖춰지지 않은 상태에서의 AI 도입은 문제를 해결하기보다 오히려 확대할 가능성이 높습니다.
반대로 데이터를 통해 원인과 행동으로 이어지는 구조를 갖춘다면, AI는 비로소 비즈니스 성과를 만들어내는 도구로 작동하게 될 것입니다.

이재훈 | Chief AI & Data Officer, BigxData
Microsoft에서 데이터 및 기술 전략을 리드했으며, LG CNS와 KT에서 AI 자문위원으로 활동했습니다. 현재 BigxData에서 CAIO로서 기업의 데이터를 AI가 이해할 수 있는 구조로 전환하는 일을 하고 있습니다. 데이터를 그래프로 확장하고, 온톨로지로 구조화하며, 그 위에 LLM을 결합해 설명 가능한 데이터와 의사결정 기반을 만듭니다.

AI 시대, 데이터는 왜 여전히 활용되지 못하는가?— 데이터 DNA와 데이터 리터러시의 문제
요즘 AI 활용에 대한 기대와 실무 사이 간극이 점점 커지고 있습니다. 통상 진행해 오던 업무에 대해 “그거 AI가 다 해주지 않아?”라는 인식이 팽배해진 반면, 실제 AI 활용도는 그 기대에 못 미치기 때문이죠.
데이터 산업에 있어서도 마찬가지입니다. AI로 기존의 많은 문제 -데이터 활용의 어려움 등- 를 해결할 수 있을 것 같지만, 실제로는 어디서부터 시작해야 할지 모르는 경우가 대부분입니다.
먼저 기업들이 데이터를 다루는 두 가지 케이스를 짚어 보겠습니다.
데이터는 ‘존재’하지만, ‘활용’하지 못한다
현장에서 다양한 기업을 만나보면 공통적으로 발견되는 패턴이 있습니다. 데이터는 많은데 어디서부터 손 대야 할지 모르거나, 데이터를 분석하고 시각화하는 툴을 사용하는데도 해석하는 방법을 모르기도 합니다.
결론은 하나로 모아집니다. 데이터는 존재하나, 활용 가치가 없는 상태로 방치되어 있다는 겁니다.
데이터는 KPI의 기초이자, 성과 창출의 근거
반대로 현장에서 데이터를 잘 활용하는 경우를 보겠습니다. 이들 기업은 데이터가 알려주는 대로 의사결정을 합니다. 감과 노하우를 수치화하고, 누구나 보편적으로 이용할 수 있는 객관적 근거로 활용하죠. ‘구슬이 서 말이라도 꿰어야 보배’라는 말을 실천하는 조직입니다.
정량 성과에 있어서 객관적인 KPI를 설정하고, 달성 여부를 판단합니다.
분석 결과를 보는 것에 그치지 않고, 반드시 실제 실행으로 연결합니다.
데이터 조직과 비즈니스 조직이 서로 다른 언어로 이야기하지 않습니다.
이렇게 데이터를 활용할 줄 아는 기업은 대체로 적확한 의사결정을 합니다. 이러한 판단이 우수한 비즈니스 성과로 연결되는 건 당연지사겠죠.
AI는 문제를 해결하지 않는다
데이터 활용이 어려운 많은 기업은, AI를 도입하면 문제가 해결될 것이라 기대합니다. 하지만 현실은 그렇지 않습니다. AI는 기존의 데이터 활용 수준을 그대로 확장시키는 기술에 가깝기 때문입니다.
데이터 활용이 잘 되지 않는 조직은 AI를 도입해도 같은 문제를 반복합니다. 반대로 데이터 활용이 잘 되는 조직은 AI를 통해 훨씬 빠르게 확장됩니다.
핵심은 데이터 리터러시다
결국 이 문제의 본질은 기술이 아니라, 사람과 조직에 있습니다. AI 시대의 경쟁력은 기술이 아니라 데이터 리터러시에서 결정됩니다
하지만 여기서 말하는 데이터 리터러시는 단순히 데이터를 읽는 능력이 아닙니다.
대부분의 조직은 이미 ‘값’을 가지고 있습니다.
문제는 그 값을 설명할 수 있는 ‘맥락’과 ‘관계 구조’를 갖고 있지 않은 경우가 태반이라는 겁니다. “왜 이런 결과가 나왔는가”를 설명하지 못하는 것이죠.
데이터 리터러시란 ‘숫자 → 원인 → 행동’으로 이어지는 사고 구조를 의미합니다
이 구조가 조직 전반에 자리 잡을 때, 비로소 데이터는 실제 의사결정으로 연결될 수 있습니다.
데이터는 ‘질문하는 대상’이 되어야 한다
데이터를 보고하는 데만 쓰지 마십시오. 앞으로는 데이터 활용 방식 자체가 바뀌어야 합니다.
기존에 1) 리포트를 요청하고 2) 데이터를 정리한 뒤 3) 결과를 확인하는 흐름이었다면
이제는 1) 질문을 중심으로 데이터를 탐색하고 2) 그 결과의 원인을 이해하며 3) 그에 맞는 행동을 결정하는 구조로 전환되어야 합니다
예를 들어, 영업 조직에서 이번 달 매출 리포트를 확인해 정리된 데이터를 받은 뒤 결과를 해석하곤 했다면,
이제는
“이번 달 매출이 예상보다 낮은 이유는 무엇인가?”
“어떤 고객군에서 감소가 발생했는가?”
와 같은 질문을 바로 던지고, 그에 대한 답을 즉시 확인하는 방식으로 바뀌어야 합니다.
AI Agent가 만드는 변화
최근에는 AI Agent 기반의 접근 방식이 등장하면서 데이터 활용 방식 자체가 빠르게 변화하고 있습니다. 하지만 단순한 자연어 질의만으로는 충분하지 않습니다.
중요한 것은 데이터 간의 관계를 이해하고, 결과를 ‘설명할 수 있는 구조’를 만드는 것입니다
이를 위해 최근에는 온톨로지 기반 데이터 구조와 AI Agent를 결합하여 단순 조회가 아니라 ‘설명 가능한 분석’을 만드는 접근이 주목받고 있습니다.
결과를 단순히 보여주고 그치는 것에서 벗어나, 데이터를 통해 이유까지 설명하는 방식으로 전환되는 것입니다.
결론: AI 도입 이전에 점검해야 할 것
AI는 이제 선택이 아닌 필수가 되어가고 있습니다. 그러나 그 이전에 반드시 점검해야 할 것이 있습니다.
"우리 조직은 데이터를 ‘설명할 수 있는 구조’로 만들고 있는가?"
데이터를 보유하는 것보다 중요한 점은, 데이터를 ‘이유를 설명하는 경로’로 작동하게끔 활용하는 것입니다.
이 조건이 갖춰지지 않은 상태에서의 AI 도입은 문제를 해결하기보다 오히려 확대할 가능성이 높습니다.
반대로 데이터를 통해 원인과 행동으로 이어지는 구조를 갖춘다면, AI는 비로소 비즈니스 성과를 만들어내는 도구로 작동하게 될 것입니다.
이재훈 | Chief AI & Data Officer, BigxData
Microsoft에서 데이터 및 기술 전략을 리드했으며, LG CNS와 KT에서 AI 자문위원으로 활동했습니다. 현재 BigxData에서 CAIO로서 기업의 데이터를 AI가 이해할 수 있는 구조로 전환하는 일을 하고 있습니다. 데이터를 그래프로 확장하고, 온톨로지로 구조화하며, 그 위에 LLM을 결합해 설명 가능한 데이터와 의사결정 기반을 만듭니다.