안녕하세요, 비즈니스 혁신 파트너 BSG입니다.

요즘 기업들의 AI 도입 속도가 빠릅니다.
SAP에서도 Joule을 켜고, 데이터 분석에 AI를 붙이고, 에이전트를 시범 운영합니다.

그런데 몇 달 뒤 조용히 이런 상황이 벌어집니다.
아무도 안 씁니다.

기능은 켜져 있는데 사용 로그가 늘지 않습니다.
시연 때는 다들 감탄했는데, 정작 업무에서는 예전 방식으로 돌아가 있죠.

오늘은 이 현상이 왜 생기는지, 그리고 무엇이 달라야 하는지 이야기해보겠습니다.

먼저, 이건 흔한 일입니다

지난 2026 SAP NOW AI Tour에서 BSG 박철욱 대표가 기조 발표를 하며 인용한 수치가 인상적이었습니다.

AI 에이전트 파일럿의 상당수가 실제 운영 전환에 실패하고, 자사 데이터가 AI에 완전히 준비됐다고 답한 기업은 극소수에 그친다는 조사였습니다.
투자는 폭발적으로 늘었지만, 매출 증가를 체감한 경영진은 소수였고요.

즉 "AI를 켰는데 안 쓴다"는 건 우리 회사만의 문제가 아닙니다.
오히려 일반적인 결과에 가깝습니다.

문제는 원인을 엉뚱한 데서 찾는다는 것입니다.
대개 "직원들이 새 기술에 소극적이다"라고 결론 내리고 교육을 늘리죠.
하지만 진짜 이유는 다른 데 있는 경우가 많습니다.

이유 ① — 답이 미묘하게 틀립니다

가장 치명적인 이유입니다.

AI에게 "A제품 재고가 몇 개냐"고 물었더니 12,400개라고 답합니다.
그런데 담당자가 알기로는 9,800개입니다.
둘 다 맞습니다. 창고 실물 기준이냐, 예약 출고분을 뺀 가용재고 기준이냐의 차이니까요.

문제는 사용자 입장에서 이게 "AI가 틀렸다"로 보인다는 것입니다.

한 번 틀린 답을 받으면 사람은 확인하기 시작합니다.
AI에게 묻고, 다시 시스템에서 검증합니다.
그러면 일이 두 배가 되죠. 두세 번 반복되면 그냥 예전 방식으로 돌아갑니다.

AI는 완벽할 필요는 없지만, 믿을 수 있어야 합니다.
그리고 신뢰는 몇 번의 실망으로 쉽게 무너집니다.

이유 ② — 원래 하던 방식이 더 빠릅니다

의외로 흔한 이유입니다.

숙련된 담당자는 이미 최적화된 방식을 갖고 있습니다.
트랜잭션 코드를 치고, 즐겨찾기를 눌러, 몇 초 만에 원하는 화면에 도착하죠.

그런데 AI에게 물으려면 질문을 문장으로 만들어야 하고, 답을 기다려야 하고, 결과를 확인해야 합니다.
익숙한 사람에게는 이게 더 느립니다.

"편하라고 만든 기능이 나에겐 더 불편한" 상황이 되는 겁니다.
그러면 당연히 안 씁니다.

이유 ③ — 언제 써야 할지 모릅니다

AI를 켜고 이렇게 안내합니다.
"이제 궁금한 걸 물어보시면 됩니다."

친절해 보이지만, 사용자 입장에서는 막막합니다.
무엇을 물어볼 수 있는지, 어디까지 답해주는지, 어떤 상황에서 쓰면 좋은지 알 수 없으니까요.

사람은 자기 업무의 어느 장면에서 쓰는 도구인지 알아야 씁니다.
"아무거나 물어보세요"는 결국 "아무것도 안 물어보게" 됩니다.

이유 ④ — 딱 그 사람의 업무를 못 건드립니다

AI가 잘하는 일과 그 사람이 힘들어하는 일이 어긋나는 경우입니다.

조회와 요약은 잘하는데, 정작 담당자를 괴롭히는 건 월말 마감의 대사 작업이나 예외 처리라면?
AI가 아무리 똑똑해도 그 사람의 하루는 달라지지 않습니다.

"신기하네"와 "이거 없으면 안 되겠다" 사이에는 큰 간격이 있습니다. 후자가 되지 못하면 사용은 자연히 멈춥니다.

그럼 무엇이 달라야 할까

시작을 좁게 잡습니다.

전사에 한 번에 여는 대신, 특정 업무 하나로 시작하는 편이 낫습니다.
반복적이고, 규칙이 명확하고, 틀려도 되돌릴 수 있는 업무요. 거기서 확실한 효과가 나오면 사용자가 스스로 다른 곳에 쓰기 시작합니다.

데이터의 의미부터 맞춥니다.

앞의 재고 사례가 여기에 해당합니다. '재고'가 무엇을 뜻하는지, 어떤 기준으로 세는지 조직 안에서 정의가 서 있어야 AI의 답도 신뢰를 얻습니다.
기조 발표의 표현을 빌리면, AI의 성패는 모델이 아니라 데이터에서 갈립니다.

할 수 있는 것과 없는 것을 명확히 알립니다.

"뭐든 물어보세요"보다 "이런 질문은 이렇게 답합니다"가 훨씬 유용합니다.
실제 업무 장면을 예시로 보여주면 사용자가 바로 따라 합니다.

쓰는지 확인하고 이유를 묻습니다.

도입하고 끝내지 않고, 실제 사용량을 보고 안 쓰는 사람에게 이유를 물어야 합니다.
대개 "쓸 줄 몰라서"가 아니라 "써봤는데 별로여서"라는 답이 돌아옵니다.
그 답 안에 진짜 개선점이 있습니다.

마무리

AI 도입이 실패하는 이유는 대개 기술이 부족해서가 아닙니다.
사람이 그걸 쓸 이유를 못 찾아서입니다.

그리고 그 이유를 만드는 건 모델의 성능이 아니라, 우리 데이터가 얼마나 정돈돼 있는지, 어떤 업무부터 시작했는지, 사용자에게 무엇을 어떻게 알렸는지 같은 준비의 문제입니다.

혹시 AI를 켜두고 "왜 안 쓰지" 하고 계시다면, 사용자를 탓하기 전에 이 네 가지를 점검해보시길 권합니다.
답은 대개 거기 있습니다.

BSG는 SAP 데이터 기반 AI 구축과 BDC 프로젝트를 다수 수행해왔습니다.
AI를 도입했는데 성과가 보이지 않는다면, 어디서 막혔는지 함께 짚어보시죠.

출처 :  SAP NOW AI Tour Korea 2026 기조 발표 인용 조사, BSG Partners AI 구축 경험 기반
기획 : 도예원