AI에게 쓸 수 있는 도구를 많이 쥐여주면 일을 더 잘할 것 같다. 그런데 실제 사용 데이터는 정반대를 가리킨다. 가벼운 AI 모델일수록 도구가 10개에서 15개 사이를 넘어서는 순간, 상황에 맞는 도구를 골라 쓰는 정확도가 90% 아래로 무너진다. 소프트웨어 개발 기업 셀러비(Celabe)와 캐나다 워털루대학교(University of Waterloo) 연구진이 2026년 6월 공개한 논문 「LLM 통합 애플리케이션을 위한 MCP 서버 아키텍처 패턴」이 밝힌 결과다. MCP(모델 컨텍스트 프로토콜)란 챗GPT나 클로드 같은 AI가 외부의 도구와 데이터에 연결되는 표준 규격을 말하는데, 이 연결 방식을 어떻게 설계하느냐에 따라 AI가 똑똑해지기도, 반대로 헷갈려 하기도 한다는 것이다.

도구 개수가 늘면 AI 정확도가 무너지는 임계점

그림1. 도구 개수가 늘수록 무너지는 AI 정확도, 안전선은 10개 이하 (출처: 논문 Figure 2)

AI 에이전트에게 제공하는 도구 개수가 일정 선을 넘으면 도구 선택 정확도가 급격히 떨어진다. 연구진이 셀러비의 음성 AI 플랫폼에서 수집한 실사용 데이터를 보면, 상대적으로 가벼운 모델인 클로드 하이쿠(Claude Haiku) 4.5는 도구가 10개일 때 91%였던 정확도가 15개에 이르자 87%로 내려가며 90% 선이 무너졌다. 더 큰 모델인 클로드 소넷(Claude Sonnet) 4는 20개까지는 90%대를 유지했지만 30개에 가까워지자 역시 90% 밑으로 떨어졌다. 여기서 말하는 도구란 AI가 호출해 쓸 수 있는 개별 기능을 뜻한다. 이메일 보내기, 일정 등록하기, 문서 검색하기처럼 각각이 하나의 도구다. 사람으로 치면 연장통에 공구가 열 개 들어 있을 때는 필요한 것을 척척 꺼내 쓰다가, 서른 개가 넘어가면 어떤 공구가 어디에 쓰는 것인지 헷갈려 엉뚱한 것을 집어 드는 상황과 비슷하다.

실사용 데이터가 지목한 안전선 10개에서 15개

연구진이 권장하는 실질적 안전선은 한 번에 노출하는 도구를 10개 이하로 유지하는 것이다. 이 수치는 셀러비의 2025년 1분기 실제 운영 기록에서 나왔다. 연구진은 도구 개수를 1, 3, 5, 10, 15, 20, 30, 50개로 나눈 뒤 각 구간마다 200건의 실제 대화를 뽑아 정확도를 측정했다. 그 결과 하이쿠급 모델에서는 도구가 10개에서 15개를 넘어가는 지점이 정확도가 흔들리기 시작하는 경계선으로 나타났다. 이 현상은 이번 논문만의 발견이 아니다. 다른 연구진의 별도 실험에서도 도구가 약 30개를 넘으면 선택 성공률이 90% 아래로 떨어지고, 100개를 넘어서면 급락하는 결과가 나왔다. 도구 목록이 길어질수록 정확도가 최대 85%까지 떨어졌다는 측정도 있다. 여러 연구가 같은 방향을 가리키는 셈이다. 도구 목록이 100개를 넘는 AI 비서를 만들었다면, 화려한 기능 목록과 달리 실제로는 잘못된 선택을 하는 비율이 크게 늘 수 있다.

AI가 사용설명서를 읽고 도구를 고르는 방식

AI는 도구를 고를 때 사람처럼 코드를 뜯어보지 않고, 각 도구에 붙은 자연어 설명을 읽고 판단한다. 이것이 도구가 많아질수록 정확도가 떨어지는 근본 이유다. AI 입장에서 도구 50개가 있다는 것은 서로 비슷비슷한 사용설명서 50장을 동시에 읽고 그중 지금 상황에 맞는 한 장을 골라야 한다는 뜻이다. 설명이 애매하거나 서로 겹치면 혼란은 더 커진다. 논문은 이 문제를 풀기 위해 실제 서버 15개를 분석해 다섯 가지 설계 패턴을 정리했다. 첫째는 데이터베이스 읽기 창구를 하나로 통일하고 외부에서 들어온 위험한 내용을 걸러내는 방식(Resource Gateway)이다. 둘째는 티켓 생성과 담당자 지정, 알림 발송처럼 여러 단계를 거치는 작업을 도구 하나로 묶어 AI가 세부 절차를 일일이 신경 쓰지 않게 하는 방식(Tool Orchestrator)이다. 셋째는 여러 번 오가는 대화에서 앞선 맥락을 잃지 않도록 대화마다 고유 번호를 붙여 상태를 유지하는 방식(Stateful Session Server)이다. 넷째는 여러 서버를 하나로 묶되 지금 작업에 필요한 도구만 골라 보여줘 목록이 무한정 길어지는 것을 막는 방식(Proxy Aggregator)이다. 다섯째는 AI가 알아듣기 어려운 복잡한 시스템을 쉬운 설명으로 감싸 번역해주는 방식(Domain-Specific Adapter)이다. 다섯 패턴 모두 결국 AI에게 보여주는 도구의 수와 설명을 다듬는 방향을 향한다.

개발자들이 반복하는 네 가지 흔한 실수

연구진은 잘 만든 서버가 피해야 할 대표적 실수 네 가지도 함께 정리했다. 첫째는 만능 도구(God Tool)다. 무엇이든_처리(action, params) 같은 도구 하나에 온갖 기능을 몰아넣으면, AI가 “이 도구로 대체 무엇을 해야 하는가”를 매번 처음부터 추론해야 해 선택 정확도가 무너진다. 각 기능을 이름과 설명이 명확한 별도 도구로 쪼개는 것이 해법이다. 둘째는 걸러지지 않은 외부 콘텐츠다. 사용자가 남긴 댓글이나 문서를 그대로 AI에게 넘기면, “이전 지시를 무시하라”는 문장이 섞여 있을 때 AI가 이를 데이터가 아니라 명령으로 받아들이는 프롬프트 인젝션(prompt injection) 공격에 노출된다. 셋째는 오래 걸리는 작업을 그대로 붙잡고 있는 방식이다. 영상 변환처럼 수 초 이상 걸리는 작업을 응답을 기다리게 만들면 연결이 끊긴다. 작업 번호를 먼저 돌려주고 진행 상황을 따로 확인하게 해야 한다. 넷째는 이름만 있고 설명이 없거나 부실한 도구다. AI는 설명을 읽고 도구를 고르기 때문에, 메시지_전송처럼 이름만 덜렁 있는 도구는 언제 어떻게 써야 하는지 알 수 없어 방치되거나 잘못 쓰인다.

기능 경쟁이 아니라 절제가 성능을 만든다

이번 논문이 던지는 메시지는 AI 서비스를 만들 때 기능을 많이 넣는 것이 곧 성능이라는 통념과 어긋난다. 도구를 더 얹을수록 데모 화면의 기능 목록은 화려해지지만, 정작 AI가 올바른 선택을 하는 능력은 오히려 깎일 수 있기 때문이다. 다만 이 데이터에는 몇 가지 한계가 있어 그대로 일반화하기는 이르다. 정확도 수치는 셀러비 한 곳의 음성 AI 서비스 운영 기록에서 나온 것이라, 다른 산업이나 다른 종류의 도구 구성에서는 경계선이 달라질 가능성이 있다. 연구진 스스로도 분석 대상 서버가 15개에 그친다는 점을 한계로 밝히며, 더 다양한 환경에서의 후속 검증이 필요하다고 언급했다. 그럼에도 여러 독립 연구가 “도구가 일정 수를 넘으면 AI 선택 정확도가 떨어진다”는 같은 방향을 가리킨다는 점은 눈여겨볼 만하다. AI 에이전트를 도입하거나 직접 만들려는 입장이라면, 도구 개수를 무작정 늘리기보다 지금 이 작업에 꼭 필요한 도구만 남기는 절제가 실제 성능으로 이어질지 두고 볼 필요가 있다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. MCP가 정확히 무엇인가요?
MCP(모델 컨텍스트 프로토콜)는 챗GPT, 클로드 같은 AI가 외부의 도구나 데이터에 연결되는 표준 규격입니다. 2024년 11월 앤트로픽(Anthropic)이 처음 공개했으며, 이 규격을 따르면 AI마다 따로 연결 코드를 짤 필요 없이 하나의 서버를 여러 AI가 공통으로 쓸 수 있습니다.

Q. 도구가 많으면 왜 AI가 헷갈리나요?
AI는 사람처럼 코드를 직접 살펴보지 않고 각 도구에 붙은 설명 글을 읽고 무엇을 쓸지 고릅니다. 도구가 많아지면 비슷한 설명을 한꺼번에 비교해 하나를 골라야 해서, 서로 겹치거나 애매한 설명이 섞이면 엉뚱한 도구를 선택할 확률이 높아집니다.

Q. 그럼 AI 비서에는 도구를 몇 개까지 두는 게 좋나요?
연구진은 한 번에 보여주는 도구를 10개 이하로 유지할 것을 권장합니다. 가벼운 모델은 10개에서 15개 사이, 큰 모델도 20개에서 30개 사이에서 정확도가 떨어지기 시작하므로, 지금 작업에 필요한 도구만 골라 보여주는 방식이 안전합니다.

기사에 인용된 리포트 원문은 arXiv에서 확인할 수 있다.
리포트명: MCP Server Architecture Patterns for LLM-Integrated Applications (Carson Rodrigues, Oysturn Vas, 2026)
이미지 출처: AI 생성 콘텐츠
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.