2025년 12월 9일, 서울 – AI는 이미 기업 혁신의 상징이지만, 대부분의 기업은 여전히 실험 단계에 머물러 있다. IBM은 오늘 여의도 한국IBM 사무실에서 개최한 기자간담회에서 그 이유를 “기업이 가진 가장 중요한 자산인 기업 고유의 데이터를 제대로 활용하기 위한 데이터 전략의 부재”라고 설명했다.

IBM 조사에 의하면 생성형 AI의 가치 실현을 위해 CEO들이 가장 중요하게 꼽은 요소는 '기업 고유 데이터 활용'인 것으로 나타났다[i]. 하지만 AI에 활용되는 엔터프라이즈 데이터는 전체의 1%[ii] 수준에 그치고 있고, AI 기반 수익 창출을 뒷받침할 수 있는 데이터 역량을 갖추었다고 답변한 국내 CDO는 13%[iii]에 불과한 것으로 조사 결과 나타나 데이터 전략의 중요성에 대한 인식과 실행 사이의 큰 격차를 보여주고 있다.

이수정 한국IBM 사장은 “데이터 전략은 기술 전략이 아니라 경영 전략”이라며 “한국 기업이 AI를 성공적으로 도입하고 성과를 거두려면 데이터 전략 강화가 시급하다”며, “기업들은 ‘AI를 위한 데이터(AI Ready Data)’를 어떻게 확보하고 활용할 것인지 고민해야 한다”고 강조했다.

이어, 데이터를 단순한 기록이 아닌 비즈니스 성과를 창출하는 핵심 자산으로 전환해야 한다며, 이를 위해서는 기업 데이터 중 90%ⁱ에 이르는 비정형 데이터의 활용 방안을 구축하고, 데이터를 활용한 성과지표를 통해 데이터 전략을 기업 전사에 내재화해야 하는 것이 중요하다고 말했다.

또 데이터 전략이 데이터 수집에만 머물러서는 안 된다고 지적했다. CIO, CTO, CISO 등 주요 의사결정자들이 협력해 데이터 전략에 맞게 데이터를 활용하는 전사적 연계가 필요하다는 것이다. 데이터 전략은 비즈니스 목표와 긴밀히 연결되고 선제적으로 구축된 성과 측정 체계에 따라 활용되어야 실질적 성과로 이어질 수 있다.

AI가 데이터를 빠르고 효율적으로 활용할 수 있는 환경 조성도 필수적이라고 역설했다. 고품질 데이터에 접근 가능한 AI 에이전트와 확장 가능한 엔터프라이즈 데이터 아키텍처, 하이브리드 클라우드 기반의 실시간 데이터 접근 체계는 AI 투자대비효과(ROI)를 좌우하는 핵심 요소로 데이터가 여러 시스템에 분산돼 있거나 접근성이 떨어지면 AI는 제 성능을 발휘할 수 없다고 설명했다

마지막으로 품질, 주권, 거버넌스 확보에 대한 중요성을 강조했다. 이수정 사장은 데이터 형식 불일치, 오류, 규제 준수 문제는 AI 신뢰성을 저해하는 주요 요인이므로 거버넌스 체계는 AI 확산 과정에서 리스크를 최소화하고, 신뢰할 수 있는 AI 환경 구축의 핵심 역할을 한다고 말했다.

이어 홍규표 한국IBM 데이터 플랫폼 기술 영업 부장은 'AI를 위한 데이터' 구현을 위한 구체적 접근법으로 ▲데이터 품질, ▲데이터 거버넌스, ▲데이터 통합 그리고 ▲비정형 데이터 관리를 손꼽았다. 홍 부장은 “비정형 데이터 활용 가능성을 높이고, 데이터 품질을 자동 점검하는 AI 기반 관리 도구가 기업 혁신의 속도를 결정할 것"이라고 말했다. 이어 "그 기반으로 데이터 보안 등의 거버넌스 문제 또한 놓치지 말아야 할 필수 조건"이라고 강조했다.

IBM은 AI를 위한 왓슨x(watsonx) 제품군 중 왓슨x.데이터(watsonx.data)를 통해 데이터 통합 솔루션을 제공하고 있으며, 올 6월 대규모 데이터 처리와 고속 검색 기술에 강점을 가진 데이터스택스(DataStax)를 인수하는 등 탄탄한 로드맵을 구축해 기업의 데이터 활용 역량을 높이고 있다.

# # #