안녕하세요, 비즈니스 혁신 파트너 BSG입니다.
요즘 기업에서 AI 도입 후 가장 많이 나오는 말이 이겁니다.
"ChatGPT는 잘 쓰는데… 우리 ERP 데이터랑은 연결이 안 돼요."
"AI한테 질문하려면 매번 자료를 복사해서 붙여넣어야 해요."
"결국 사람이 중간에서 다 옮겨줘야 하더라고요."
AI를 도입했는데, AI가 사내 시스템을 모릅니다.
회사 데이터에 접근을 못하니 답변이 일반적인 수준에 머뭅니다.
자동화가 될 것 같았는데, 결국 사람이 중간 다리 역할을 합니다.
이 문제를 해결하기 위해 2026년 현재 가장 주목받는 기술이 있습니다. 바로 MCP(Model Context Protocol) 입니다.
MCP는 Anthropic(Claude를 만든 회사)이 2024년 말에 공개한 오픈 표준 프로토콜입니다.
쉽게 말하면 "AI와 사내 시스템을 연결하는 표준 규격" 입니다.
비유를 들면 이렇습니다.
노트북에 USB-C 포트 하나만 있으면 모니터, 마우스, 외장하드를 다 연결할 수 있습니다.
연결할 기기마다 다른 규격의 케이블을 새로 만들 필요가 없습니다.
MCP가 바로 이 USB-C 역할을 합니다.
MCP 이전에는 AI를 사내 시스템과 연결하려면 시스템마다 별도의 연동 코드를 짜야 했습니다.
ERP 연결에 하나, 문서 시스템 연결에 하나, 이메일 연결에 또 하나.
연결할 시스템이 늘어날수록 개발 비용과 유지보수 부담이 기하급수적으로 커졌습니다.
MCP는 이 과정을 표준화합니다.
한 번 MCP 서버를 구성해두면, AI가 여러 시스템의 데이터를 읽고, 검색하고, 필요한 경우 실행까지 할 수 있습니다.
MCP 없이 AI를 쓰는 방식은 이렇습니다.
직원이 SAP에서 데이터를 뽑습니다 → 엑셀로 정리합니다 → ChatGPT에 붙여넣습니다 → 답변을 받습니다 → 다시 시스템에 입력합니다.
AI가 있지만 사람이 모든 중간 작업을 합니다.
MCP가 연결된 환경에서는 이렇게 됩니다.
직원이 AI에게 질문합니다 → AI가 직접 SAP, 문서 시스템, 이메일을 실시간으로 조회합니다 → 최신 데이터를 기반으로 답변합니다.
예를 들면 이런 식입니다.
"지난달 A 거래처 매출 현황 요약해줘" → AI가 ERP에서 직접 데이터를 가져와서 정리해줍니다.
"오늘 미팅 전에 B 고객사 관련 이메일 스레드 정리해줘" → AI가 메일함을 직접 읽고 요약합니다.
"신규 구매 요청서 초안 작성해줘, 기존 양식 참고해서" → AI가 문서 시스템에서 양식을 찾아 작성합니다.
사람이 자료를 옮기는 작업이 사라지고, AI가 실제 업무 흐름 안으로 들어옵니다.
MCP가 주목받는 이유는 단순히 Anthropic이 만들었기 때문만이 아닙니다.
OpenAI, Google, Microsoft까지 MCP를 자사 모델에 공식 지원하기로 했습니다.
AI 업계 전체가 이 표준을 채택한 겁니다. 개발 프레임워크 분야에서도 LangChain, LlamaIndex 등 주요 플랫폼들이 MCP를 기본 표준으로 채택했습니다.
SAP도 예외가 아닙니다.
2026년 5월 SAP는 Sapphire 컨퍼런스에서 AI Agent Hub를 공개하며 MCP 서버 관리 기능을 정식으로 탑재했습니다.
엔터프라이즈 환경에서도 MCP가 AI 연동의 핵심 표준으로 자리잡고 있다는 신호입니다.
기술적으로는 MCP 서버를 설정하고 AI 클라이언트와 연결하는 과정이 필요합니다.
하지만 점점 많은 SaaS 도구들이 MCP 서버를 자체적으로 제공하기 시작했고, Notion, Slack, GitHub, Google Drive 같은 도구들은 이미 공식 MCP 서버가 있습니다.
다만 기업 환경에서 주의해야 할 부분이 있습니다.
보안과 접근 권한 설계가 먼저입니다.
MCP를 통해 AI가 사내 시스템에 접근할 수 있다는 건, 반대로 보안 설계가 잘못되면 민감한 데이터가 의도치 않게 노출될 수 있다는 의미이기도 합니다.
AI에게 어떤 데이터에 어디까지 접근을 허용할지, 로그는 어떻게 관리할지를 먼저 설계해야 합니다.
레거시 시스템 연동은 별도 개발이 필요합니다.
Notion이나 Slack처럼 공식 MCP 서버가 있는 도구는 빠르게 연결할 수 있지만, 기업 내부에서만 쓰는 자체 시스템이나 오래된 ERP는 커스텀 MCP 서버 개발이 필요합니다.
작게 시작하는 게 맞습니다.
처음부터 모든 시스템을 연결하려 하지 말고, 특정 팀의 특정 업무 하나에서 먼저 효과를 검증하는 접근이 현실적입니다.
"AI 깔았는데 왜 우리 시스템이랑 안 연결되지?"라는 질문, 이제 답이 있습니다.
MCP는 그 연결을 표준화된 방식으로 해결하는 기술이고, 2026년 현재 사실상 업계 표준이 됐습니다.
AI가 사내 데이터를 직접 읽고 업무를 실행하는 환경, 이제 특정 대기업만의 이야기가 아닙니다.
AI를 도입했는데 여전히 사람이 중간에서 데이터를 옮기고 있다면, MCP 기반 연동 구조를 검토해볼 시점입니다.
BSG가 기업 환경에 맞는 AI 연동 전략을 함께 설계해 드릴 수 있습니다.
출처 : Anthropic 공식 MCP 문서 (https://modelcontextprotocol.io) / SAP Sapphire 2026 AI Agent Hub 발표 (https://thenewstack.io/sap-ai-agent-hub/)
기획 : 도예원