엠클라우드브리지가 공공기관, 교육기관, 연구기관을 대상으로 로컬 LLM과 퍼블릭 LLM을 함께 사용할 수 있는 ‘Ai 365 통합 AI 플랫폼’을 발표했다. LLM은 대량의 텍스트로 학습해 글을 이해하고 생성하는 대규모 언어 모델이다. Ai 365는 기관의 보안 정책과 데이터 중요도, 사용자 권한에 따라 기관 내부에서 구동하는 로컬 AI와 외부 서비스를 사용하는 퍼블릭 AI 중 처리 경로를 선택하도록 설계됐다.

Ai 365는 공공기관 정보자산 분류 기준인 G1(최고 중요 자산), G2(중요 자산), G3(일반 자산) 등급에 따라 AI 처리 경로를 구분한다. G1 기밀 데이터는 로컬 스토리지와 로컬 LLM으로 기관 내부에서 저장, 검색, 추론한다. G2 내부 업무 데이터는 로컬 환경에서 원문을 분석해 핵심 정보를 추출한 뒤, 정책에 따라 토큰화하거나 가명 처리한 정보만 퍼블릭 LLM과 연계한다. 가명 처리는 개인을 직접 알아볼 수 없도록 식별 정보를 다른 값으로 바꾸는 처리다. G3 공개 데이터는 오픈AI, 클로드 등 퍼블릭 LLM으로 검색, 번역, 요약, 문서 작성 업무를 처리한다.

높은 수준의 데이터 보호가 필요한 업무는 라마, 큐원, 딥시크 등 로컬 LLM을 사용해 문서 저장부터 RAG 검색, AI 추론까지 기관 내부에서 처리한다. RAG(검색 증강 생성)는 AI가 답변 전에 관련 문서를 검색하고 그 내용을 근거로 답변을 생성하는 기법이다. 인터넷이나 외부 AI 서비스 연결이 제한된 기관에는 외부와 단절된 로컬 AI 환경을 적용할 수 있다. 질문과 데이터 특성, 사용자 권한, 기관 정책을 기준으로 처리 환경을 선택하는 정책 기반 LLM 라우팅도 지원해 특정 AI 모델에 대한 의존도를 낮출 수 있다.

엠클라우드브리지는 AI 도입 준비도 진단, 업무와 데이터 분석, AI 에이전트 개념 검증(PoC), 플랫폼 구축, 업무 에이전트 적용, 코파일럿과 오픈AI, 클로드 활용 교육까지 지원한다. 개념 검증은 본격 구축에 앞서 실제 업무와 데이터로 기술 적용 가능성을 시험하는 단계다. 이혁재 엠클라우드브리지 대표는 기관의 데이터와 보안 정책에 따라 적합한 AI 환경을 선택하는 것이 핵심이라고 말했다.

엠클라우드브리지는 10월 22일 오후 1시부터 5시까지 서울 GS타워 1층 아모리스 역삼에서 ‘Ai 365 Unified AI Platform 세미나’를 개최한다. 세미나에서는 로컬과 퍼블릭 멀티 LLM 운영, 업무 에이전트 적용, 개념 검증 추진 방법을 소개한다.

자세한 내용은 엠클라우드브리지에서 확인할 수 있다.

이미지 출처: 엠클라우드브리지