전국 행정기관 종사자 14,208명을 대상으로 한 설문조사에서 91.1%가 AI가 활용하기 어려운 형식으로 행정 문서를 보관하고 있는 것으로 나타났다. 위성곤 더불어민주당 의원실이 공개한 '공공분야 AI 활용 현황' 설문조사 결과에 따르면, 10명 중 7명은 생성형 AI 사용 경험이 있지만, 문서 포맷과 보안 체계가 AI 시대에 맞지 않아 본격적인 활용에는 한계가 있다는 지적이다.

보도자료·사업계획서 91% AI 읽기 어려운 형식으로 보관

지난 9월 17일부터 이달 6일까지 전국 행정기관 종사자 14,208명(중앙부처·광역·기초자치단체)을 대상으로 실시한 설문조사 결과, 기관이 보유한 보도자료와 사업계획서 등 행정문서 형태에 대한 질문에서 91.1%인 12,946명이 HWP(한글), 이미지나 스캔 PDF 또는 OCR 연계형 등 LLM(대규모 언어모델)이 읽기 어려운 포맷 위주라고 응답했다.

반면 LLM 입력 가능한 포맷 위주인 TXT, HTML, docx 등으로 문서를 관리한다는 응답은 8.9%인 1,262명에 그쳤다. 이는 대부분의 공공기관에서 생성형 AI가 직접 활용할 수 있는 형태로 문서를 저장하지 않고 있음을 보여준다.

생성형 AI 사용 경험 68.9%지만, 외부망 활용이 67.5%로 보안 취약

근무 중 생성형 AI나 LLM을 업무에 활용해 본 적이 있는지 묻는 질문에는 68.9%인 9,787명이 '있다'고 답했다. 응답자의 3분의 2 이상이 챗GPT, 클로드, 코파일럿, 제미나이, 하이퍼클로바 X 등 생성형 AI를 실제 업무에 활용한 경험이 있다고 답해 수용성은 높은 것으로 나타났다.

AI 활용 환경을 보면, 인터넷망(개방형 망)에서 활용한다는 응답이 54.5%인 6,948명으로 절반을 넘었으며, 두 망을 병행한 경우가 12.9%인 1,647명까지 포함하여 전체 응답자의 67.5%인 8,595명이 외부망에서 AI를 활용하고 있는 것으로 나타났다. 반면 업무망(폐쇄형 망) 단독 활용은 32.5%인 4,143명에 그쳤다.

AI 활용 용도 1위는 '자료 검색·정리' 41.5%... 문서 작성·요약도 활발

기관에서 생성형 AI나 LLM을 사용할 때 주로 어떤 용도로 활용했는지 묻는 질문(복수응답 가능)에서는 자료 검색·정리(언론 기사, 공개 보고서 등)가 41.5%인 8,110건으로 가장 많았다. 이어 행정문서 작성·요약이 30.8%인 6,024건, 회의록·내부 보고서 요약 정리가 14.1%인 2,758건, 녹취록·녹음파일 요약(회의, 상담 등)이 5.6%인 1,102건, 민원 상담 기록 요약·분석이 3.6%인 704건, 사업비 내역·계약 문서 등 법리 검토가 3.4%인 673건, 인사·근태 자료 직원 관련 내용 정리가 0.9%인 169건 순으로 조사됐다.

행정문서, 내부보고서, 회의록, 녹취록·민원 상담 파일, 사업비 내역 계약 문서, 인사·근태 자료 등 민감한 내부 문서가 외부망과 AI를 통해 처리된다는 점은 심각한 보안 취약성을 드러낸다. 이러한 문서들은 개인정보와 기관 내부의 핵심 경영 정보를 담고 있어, 외부망을 통한 전송 시 데이터 유출 가능성이 크다.

AI 활용 역량 교육 59.4%가 '받은 적 없다'... 가이드라인 교육은 60.4% 미실시

AI 활용 역량 교육(도구 사용법, 프롬프트 작성법 등)을 받은 적이 있는지 묻는 질문에 59.4%인 8,436명이 '받은 적 없다'고 응답했다. 가끔 이수(연 1~3회) 교육 받았다는 응답이 39.4%인 5,591건이었고, 정기적으로 연 4회 이상 교육을 받았다는 응답은 1.3%인 181건에 불과했다. 전체 응답자의 약 60%가 AI 활용에 대한 교육을 전혀 받지 못한 상태에서 AI 도구를 사용하고 있는 셈이다.

AI 활용 가이드라인·개인정보 보호·윤리·보안 관련 교육을 받은 적이 있는지 묻는 질문에는 39.6%인 5,632건이 '있다', 60.4%인 8,576건이 '없다'고 응답했다.

현장 목소리 "교육·보안·접근성 개선 없이는 AI 활용 한계"

자율 응답에서는 교육·보안·접근성·예산·호환성 등 다양한 한계가 구체적으로 지적됐다. 먼저 교육 측면에서는 "실습 중심·업무 기반의 AI 활용 교육이 부족하다", "전 직원 대상 상시·의무교육이 필요하다"는 의견이 다수 제기됐다.

보안과 개인정보 보호와 관련해서는 "외부망·해외 서비스 사용에 따른 유출 우려로 활용이 제한된다", "행정망(폐쇄망) 내에서 활용할 수 있는 공직자 전용 AI 또는 기관형 구독제가 필요하다", "어디까지 입력이 가능한지에 대한 명확한 가이드라인과 절차가 필요하다"는 응답이 이어졌다. 접근성과 비용 문제도 도드라졌다. "기관 구독 부재로 개인 유료 결제가 부담된다", "업무망 접속 차단·망분리로 사용이 어렵다", "결재·보고 등 절차적 부담으로 실질 활용을 주저한다"는 지적이 대표적이다.

문서·시스템 호환성 역시 반복적으로 언급됐다. "한글(HWP)·PDF 등 시각 읽기 어려운 비가독 포맷이 많다", "표준 포맷 전환·API 연계, 내부 클라우드·아카이브 정비가 필요하다"는 요구가 있었다. 또 응답자 다수는 "AI는 더 이상 선택이 아니라 필수"라며, "포준 포맷 전환과 폐쇄망 기반 보안, 실무형 교육·예산 지원이 병행돼야 현장에서 실질적인 활용이 가능하다"고 강조했다.

위성문 의원 "AI-Ready 포맷 전환과 메타데이터·API 연계 시급"

이번 조사 결과, 공무원 10명 중 7명이 이미 생성형 AI를 업무에 활용한 경험이 있어 활용도가 높았지만, 행정문서의 90% 이상이 여전히 AI가 읽지 못하는 포맷에 묶여 있고 보안·윤리적 기반도 취약한 것으로 드러났다. 이는 행정 AI 도입이 단순 활용을 넘어 AI-Ready 문서 포맷 전환, 안전한 활용 환경 조성, 체계적 교육·가이드라인 정비가 시급하다는 점을 보여준다.

위성문 의원은 "행정문서 대부분이 AI가 읽지 못하는 형식에 묶여 있다는 것은 AI 정부 전환의 걸림돌"이라며, "공공문서를 AI-Ready 포맷으로 전환하고, 메타데이터와 API 연계로 효과성을 높여야 한다. 동시에 행정 전용 폐쇄망을 기반으로 보안을 강화해, 인공지능의 거대한 파고를 국가 운영 원리에 반영할 수 있도록 제도적 개선을 서둘러야 한다"고 강조했다.

AI 전환 시대, 공공부문이 민간 혁신의 발목을 잡는다

이번 설문 결과는 단순히 공공기관의 문제를 넘어 한국 AI 생태계 전체에 시사하는 바가 크다. 공공기관이 보유한 방대한 행정 데이터는 정책 AI, 민원 자동화, 스마트 시티 등 차세대 공공서비스의 핵심 자원이다. 하지만 91%의 문서가 AI가 읽지 못하는 형식으로 묶여 있다는 것은 이 데이터가 사실상 활용 불가능한 상태로 방치되고 있다는 의미다.

특히 주목할 점은 민간 기업들이 공공 데이터를 활용한 AI 서비스 개발을 시도할 때 겪게 될 장벽이다. 정부가 아무리 공공데이터 개방을 확대해도 HWP와 스캔 PDF로 제공되는 데이터는 AI 학습에 바로 사용할 수 없다. 결국 민간 기업들은 데이터 전처리에 막대한 비용과 시간을 투입해야 하고, 이는 AI 스타트업과 중소기업에게 진입장벽으로 작용한다.

더 큰 문제는 시간이다. 글로벌 AI 기업들이 빠르게 정부·공공 시장을 공략하는 지금, 한국 공공부문의 디지털 인프라가 AI 시대에 맞지 않으면 해외 솔루션 의존도가 더욱 심화될 수밖에 없다. 이미 67.5%의 공무원이 챗GPT 등 해외 서비스를 업무에 사용하고 있다는 점은 국내 AI 기업들이 공공 시장에서 경쟁력을 확보할 기회를 잃고 있음을 보여준다.

AI-Ready 포맷 전환은 단순한 문서 관리 개선이 아니라 한국 AI 산업의 경쟁력을 좌우할 인프라 투자다. 공공부문이 먼저 AI-Ready 표준을 확립하고 AI 친화적 데이터 환경을 구축해야 민간의 혁신적인 AI 서비스가 꽃필 수 있는 토양이 마련된다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q1. AI가 읽을 수 있는 문서 포맷은 무엇인가요?

A: 설문조사에 따르면 TXT, HTML, docx 등이 LLM(대규모 언어모델)이 읽을 수 있는 포맷으로 분류된다. 반면 HWP(한글), 이미지, 스캔 PDF나 OCR 연계형 등은 LLM이 읽기 어려운 포맷으로 구분된다.

Q2. 공공기관 직원들은 주로 AI를 어떤 용도로 사용하나요?

A: 조사 결과 스스로 검색·정리가 41.5%로 가장 많았고, 행정문서 작성·요약이 30.8%, 회의록·내부보고서 요약 정리가 14.1% 순이었다. 대부분 검색과 문서 정리 용도로 활용하고 있다.

Q3. 공공기관의 AI 활용에서 가장 큰 문제는 무엇인가요?

A: 응답자들은 교육 부족, 보안 및 개인정보 유출 우려, 문서 포맷 호환성 문제, 예산 부족 등을 주요 어려움으로 꼽았다. 특히 전체 응답자의 67.5%가 외부망에서 AI를 사용하고 있어 민감한 행정문서가 유출될 위험이 크다는 지적이 나온다.

해당 기사에 인용된 보고서 자료는 위성곤 의원 블로그에서 확인 가능하다.

보고서 명: 공공분야 AI 활용 현황

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.