[IT동아 박귀임 기자] 인공지능(AI)이 세상을 바꾸고 있습니다. AI는 이제 우리 일상에서 떼려야 뗄 수 없는 핵심적인 요소입니다. 한 주간 세계를 들썩이게 만든 글로벌 빅테크 기업부터 우리 일상에 직접 영향을 미칠 새로운 AI 소식까지 핵심만 짚어드립니다.

구글·카카오, 파트너십 체결 '혁신 역량 결합'

글로벌 빅테크 기업 구글(Google)과 국내 IT 플랫폼 기업 카카오(Kakao)가 파트너십을 체결했습니다. 차세대 AI 기술을 활용해 안드로이드 기기에서의 사용자 경험 혁신을 주도하기 위함입니다.

구글은 2월 12일(이하 현지 시간) 보도자료를 통해 "양사는 이번 파트너십을 바탕으로 안드로이드 확장 현실(XR) 기반의 AI 글래스용 사용자 경험과 최신 AI 기술이 접목된 안드로이드 모바일 경험을 개발하기 위해 긴밀히 협력하기로 합의했습니다"라고 밝혔습니다.

이번 파트너십에 따라 카카오는 안드로이드 XR 기반의 AI 글래스와 같은 차세대 폼팩터에 최적화된 인터페이스를 구축하는 데 역량을 집중하게 됩니다. 특히 메시지나 통화 등 실생활과 밀접한 상황에서 핸즈프리(Hands-free) 방식과 자연어를 상호작용으로 구현한 사용자 경험을 제공할 계획입니다.

구글은 온디바이스 AI 서비스가 안드로이드 모바일 기기에서 원활하게 구동될 수 있도록 카카오와 최적화 작업을 진행합니다. 이는 카카오의 ‘카나나 인 카카오톡(Kanana in KakaoTalk)’에 2026년 1분기 내 정식 도입될 예정입니다.

2025년 10월부터 베타 서비스를 시작한 카나나 인 카카오톡은 경량 AI 모델을 활용한 것으로, 이용자가 도움이 필요한 순간을 알아차리고 먼저 말을 거는 것이 특징입니다. 디바이스 내에서 이용자의 대화 맥락을 이해해 일정 브리핑, 정보 안내, 장소 및 상품 추천 등을 제안해주기도 합니다.

캐런 티오(Karen Teo) 구글 아시아태평양 플랫폼·디바이스 파트너십 부사장은 "카카오와의 파트너십을 더욱 공고히 하게 돼 기쁩니다"라면서 "이번 협력은 구글의 최신 AI 기술과 한국 소비자들을 향한 카카오의 입증된 혁신 역량을 결합하는 계기가 될 것"이라고 말했습니다. 이어 "양사는 모든 한국 사용자들에게 유용한 AI 기술을 제공하는 것을 목표로 하고 있습니다"라고 덧붙였습니다.

정신아 카카오 대표는 "AI가 이용자들의 일상으로 보다 빠르게 확산되는 흐름 속에서 양사의 기술적 강점을 결합해 새로운 기회를 모색하고자 이번 파트너십을 추진하게 됐습니다"라며 "구글과의 협력을 통해 기술 경쟁력을 강화하고, 사용자들에게 한층 진보된 AI 기반의 일상 경험을 제공할 수 있을 것으로 기대합니다"라고 전했습니다.

구글과 카카오의 파트너십 체결은 두 거대 기업의 만남 그 이상의 의미를 가집니다. 모바일 사용자 경험(UX)의 패러다임이 '앱' 중심에서 '대화'와 '맥락'으로 이동하고 있음을 보여주기 때문입니다.

이번 파트너십에서 가장 눈에 띄는 대목은 안드로이드 XR 기반의 AI 글래스 협력입니다. 이로 인해 카카오톡 메시지를 확인하거나 전화를 걸기 위해 스마트폰을 꺼낼 필요가 없어집니다. AI 글래스를 쓴 채로 사용자가 "나 지금 출발했어"라고 말하면 AI가 상황을 판단해 메시지를 보냅니다. 스마트폰 화면 속의 '글자' 위주였던 사용자 경험이 목소리와 시선 중심의 핸즈프리 경험으로 완전히 재편된다는 의미입니다.

카카오는 이미 오픈AI와도 협력 중입니다. 이번 파트너십을 통해 카카오의 AI 전략이 더 명확해졌습니다. 챗GPT와 연동한 B2C 서비스는 오픈AI와, 디바이스·인프라는 구글과 각각 손을 잡는 이원화 전략입니다. 즉 카카오가 모든 기술을 직접 개발하기보다 글로벌 빅테크의 인프라를 활용해 효율적으로 '한국형 AI 서비스'의 왕좌를 지키겠다는 실리적인 판단을 내렸다는 평가가 지배적입니다.

마이크로소프트, 사이버 펄스 발표로 보안 리스크 경고

글로벌 IT 기업 이크로소프트(Microsoft)가 2월 10일 AI 보안 보고서 '사이버 펄스(Cyber Pulse: An AI security report)'를 발표하며 AI 에이전트 확산 속 보안 리스크를 경고했습니다. 가시성 확보와 보안 원칙 적용도 촉구했습니다.

사이버 펄스에 따르면 전 세계적으로 사람과 에이전트가 협업하는 사례가 빠르게 확산되고 있습니다. 포춘 500대 기업의 80% 이상이 로우코드(Low-code)나 노코드(No-code) 도구로 활성 에이전트(Active Agent)를 구축 및 운용 중인 것으로 조사됐습니다. 활성 에이전트는 최근 28일 이내에 활동 기록이 확인된 AI 에이전트를 의미합니다.

지역별 활성 에이전트의 비중은 유럽·중동·아프리카 42%, 미국 29%, 아시아 19%, 아메리카 10% 순으로 나타났습니다. 산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9% 등이었습니다.

특히 사이버 펄스는 '에이전트 도입이 빠르게 확산되면서 보안 및 컴플라이언스 통제 수준을 앞지르는 사례가 늘고 있습니다'라고 분석했습니다. 이에 따라 기업의 공식 승인 없이 외부 AI 도구를 사용하는 섀도우 AI(Shadow AI) 리스크가 확대되고 있는 상황을 지적했습니다. 게다가 악의적인 행위자가 에이전트의 접근 권한과 권한 범위를 악용할 경우 에이전트가 의도치 않은 이중 에이전트(Double Agents)로 전락할 가능성도 제기했습니다. 이는 에이전트가 과도한 접근 권한을 받았거나 부적절한 지침을 받은 경우 보안 취약점으로 작용할 수 있다는 뜻입니다.

마이크로소프트 디펜더 팀은 "최근 메모리 포이즈닝 기법을 악용한 사기성 공격 캠페인을 포착했는데, 이는 여러 공격자가 AI 에이전트 메모리를 조작해 응답을 유도하는 공격 방식"이라고 설명했습니다. 마이크로소프트 AI 레드 팀의 경우 에이전트가 일상적인 콘텐츠에 포함된 유해한 지침을 따르는 사례를 발견하기도 했습니다.

마이크로소프트는 AI 에이전트 보안의 출발점으로 '가시성'을 제안했습니다. 가시성은 에이전트를 식별하고 관리하는 레지스트리, 최소 권한 원칙을 적용하는 엑세스 제어, 리스크와 행위를 모니터링하는 시각화 등으로 구성되는 개념입니다.

마이크로소프트는 "AI 에이전트 도입 경쟁에서 성공하는 조직은 가시성, 거버넌스, 보안을 중심에 두고 이를 유기적으로 실행하는 체계를 갖춘 곳"이라며 "이를 위해서는 비즈니스, IT, 보안, AI팀, 개발자 등 모든 조직이 협업하고 모든 에이전트를 단일한 중앙 제어 평면에서 일관되게 관리 및 관측할 수 있는 환경이 필요합니다"라고 강조했습니다.

이번 사이버 펄스 발표는 스스로 판단하고 업무를 수행하는 AI 에이전트가 기업 현장의 주류가 되고 있지만 기술 도입 속도에 비해 보안 대응은 턱없이 뒤처져 있다는 점을 지적합니다. 이중 에이전트와 같은 AI 특화 보안 위협이 실제 사례로 보고된 만큼 향후 보안은 외부 침입을 막는 것을 넘어, AI의 '판단 과정'과 '기억'을 보호하는 영역으로 확장돼야 할 것으로 보입니다.

AI 에이전트 도입은 이미 되돌릴 수 없는 흐름이라고 할 수 있습니다. 결과적으로 사이버 펄스는 이제 승자는 '가장 똑똑한 AI를 가진 기업'이 아니라 'AI를 가장 안전하게 통제하는 기업'이 될 것이라는 메시지를 던지고 있습니다.

한편 사이버 펄스는 2025년 11월 기준 마이크로소프트 코파일럿 스튜디오와 마이크로소프트 에이전트 빌더로 구축된 에이전트를 대상으로 지표가 산출됐습니다.

오픈AI, 챗GPT에 새 보호 기능 도입 "안전 및 보안 강화 위해 지속 투자"

오픈AI가 자사 AI 모델 챗GPT(ChatGPT)에 '잠금 모드(Lockdown Mode)'와 '위험 증가 라벨(Elevated Risk labels)'등 보호 기능을 새롭게 도입했습니다.

오픈AI는 2월 13일 공식 사이트를 통해 이같이 알리며 "새로운 보호 기능은 사용자와 조직이 프롬프트 인젝션(Prompt Injection⁠) 공격을 완화하는 데 도움이 되도록 설계했습니다. 위험에 대한 가시성을 높이고 더욱 강력한 제어를 제공합니다"라고 설명했습니다.

프롬프트 인젝션은 제3자가 대화형 AI 시스템을 속여 악의적인 지시를 따르거나 민감한 정보를 노출하도록 유도하는 사이버 공격입니다. 이에 따라 잠금 모드와 위험 증가 라벨 기능은 모델, 제품 및 시스템 수준 전반에 걸쳐 기존 보호 기능을 강화합니다. 여기에는 샌드박싱, URL 기반 데이터 유출 방지, 모니터링 및 시행, 역할 기반 액세스 및 감사 로그와 같은 엔터프라이즈 제어도 포함됩니다.

특히 잠금 모드는 유명 기업의 임원이나 보안팀처럼 고도의 보안 의식을 가진 소수의 사용자를 위해 설계된 선택적 고급 보안 설정입니다. 챗GPT가 외부 시스템과 상호 작용하는 방식을 엄격하게 제한, 악성 코드 주입을 통한 데이터 유출 위험을 줄입니다. 뿐만 아니라 프롬프트 인젝션과 같은 공격을 통해 사용자 대화 또는 연결된 앱에서 민감한 데이터를 유출하기 위해 악용할 수 있는 챗GPT의 특정 도구 및 기능을 확실하게 비활성화합니다.

그동안 오픈AI는 잠재적 위험을 증가시킬 수 있는 기능에 대해 제품 내에서 안내하는 방식을 채택해 왔습니다. 이를 더욱 명확하고 일관성 있게 전달하기 위해 라벨링 방식을 표준화하고 있습니다. 이제 챗GPT, 챗GPT 아틀라스(Atlas) 및 코덱스(Codex) 전반에 걸쳐 특정 기능에는 '위험 증가'라는 일관된 라벨이 적용는 만큼 사용자는 어디에서든 동일한 안내를 받게 됩니다.

예를 들어 개발자는 코덱스에서 네트워크 액세스 권한을 부여해 문서 검색과 같은 웹 작업을 수행할 수 있도록 할 수 있습니다. 관련 설정 화면에는 위험 증가라는 라벨과 함께 변경 사항, 발생 가능한 위험, 그리고 액세스가 적절한 시기에 대한 명확한 설명이 표시됩니다.

오픈AI는 "안전 및 보안 조치를 강화하기 위해 지속적으로 투자하고 있습니다. 보안 조치를 강화하고 보안 개선을 통해 해당 위험이 일반적인 사용에 충분히 안전하다고 판단되면 위험 증가 표시를 제거할 것"이라면서 "사용자에게 위험을 가장 효과적으로 전달하기 위해 지속적으로 업데이트할 예정입니다"라고 밝혔습니다.

이번 오픈AI의 새로운 보안 기능 도입은 여러 가지를 시사합니다. 우선 그동안 프롬프트 인젝션이 주로 이론적 위험이었다면, 이제는 기업의 데이터를 실제로 탈취할 수 있게 되었음을 공식 인정한 셈입니다. AI 보안 측면에서는 '나쁜 대답을 막는 것'을 넘어 'AI가 나쁜 행동(데이터 탈취, 시스템 조작)을 하지 못하도록 물리적 통제권을 확보하는 것에 집중할 뜻을 드러낸 것이라고 풀이됩니다.

IT동아 박귀임 기자(luckyim@itdonga.com)