[IT동아 박귀임 기자] 인공지능(AI)이 세상을 바꾸고 있습니다. AI는 이제 우리 일상에서 떼려야 뗄 수 없는 핵심적인 요소입니다. 한 주간 세계를 들썩이게 만든 글로벌 빅테크 기업부터 우리 일상에 직접 영향을 미칠 새로운 AI 소식까지 핵심만 짚어드립니다.

메타, 뮤즈 출시···안전장치 설계 강화

글로벌 빅테크 기업 메타(Meta)가 개인용 AI 에이전트 '뮤즈(Muse)'를 출시했습니다. 글로벌 빅테크 간 'AI 비서' 경쟁이 대화형 챗봇을 넘어 실제 업무를 대신 수행하는 자율 에이전트 단계로 본격 전환되고 있음을 보여주는 사례로 꼽힙니다.

메타는 9월 8일(이하 현지 시간) 자사 공식 사이트를 통해 뮤즈 소식을 알리면서 "뮤즈는 단순히 질문에 답하는 것이 아니라 실제로 일을 해내는 개인용 AI 에이전트"라고 소개했습니다. 사용자가 목표를 이야기하면 뮤즈는 이를 개인 맞춤형 실행 계획으로 바꾸고, 시간과 자원을 조율한 뒤 스스로 작업을 진전시킵니다. 이메일 발송, 여행 예약 같은 단순 작업부터 자동차를 더 좋은 가격에 팔거나 요금을 낮추는 등 협상이 필요한 일까지 처리할 수 있다는 것이 메타 측 설명입니다.

특히 사용자가 앱을 닫은 뒤에도 뮤즈는 백그라운드에서 작업을 계속하다가 이메일 발송이나 구매처럼 민감한 결정을 내려야 할 때 다시 돌아와 승인을 구합니다. 인스타그램에 저장해둔 레시피 게시물을 장보기 목록으로 바꾸거나, 친구들의 식단 제한을 기억해뒀다가 저녁 파티 초대장에 반영하는 등 한 번 언급한 내용을 기억해 먼저 제안하는 기능도 갖췄습니다.

메타에 따르면 뮤즈는 자사의 최신 에이전트 특화 모델 '뮤즈 스파크(Muse Spark)'를 기반으로 작동합니다. 뮤즈앱이나 왓츠앱에서 사람과 메시지를 주고받듯 대화하면 됩니다.

이번 발표에서 메타는 안전장치 설계에 상당한 비중을 뒀습니다. 뮤즈는 클라우드상의 전용 가상머신인 뮤즈 시큐어 VM(Muse Secure VM) 위에서 작동하며, 다른 에이전트가 접근할 수 없도록 격리돼 있습니다. 같은 기기에는 뮤즈와 시스템 수준에서 분리된 별도의 감시 및 승인권자 역할의 센티널(Sentinel) 에이전트가 함께 작동합니다. 센티널의 승인 없이는 뮤즈의 어떤 행동도 인터넷에 도달할 수 없습니다.

비밀번호나 결제 수단은 뮤즈가 직접 보지 못하고 안전한 저장소를 통해서만 사용하도록 설계됐습니다. 이메일 발송·구매 같은 민감한 작업 전에는 반드시 사용자 승인을 거치며 지금까지의 작업 내역과 향후 계획에 대한 감사 기록(audit trail)을 볼 수도 있습니다. 사용자는 앱별 접근 권한을 직접 설정·해제할 수 있고, 자신의 상호작용이 메타의 AI 모델 학습에 쓰이는 것도 거부할 수 있습니다. 메타 측은 발표문을 통해 "대화 내용이나 VM 내 데이터를 광고 시스템과 공유하지 않습니다"라고 강조했습니다. 올해 안에는 메타조차 접근할 수 없도록 사용자 고유의 키로 VM 전체를 암호화하는 뮤즈 컨피덴셜 VM(Muse Confidential VM)도 도입할 예정입니다.

뮤즈는 글로벌 온라인 결제 인프라 기업 스트라이프(Stripe)가 구축한 결제 서비스 링크(Link)를 통해 결제됩니다. 링크의 구매 보호 혜택(파손·분실 보상, 가격 하락 보상, 무료 반품 등)을 받는 최초의 AI 에이전트라는 점도 메타는 강조했습니다. 링크의 에이전트용 지갑은 1회용 카드를 생성해 실제 카드 정보를 노출하지 않고 결제할 수 있게 해줍니다. 조만간 샵페이(Shop Pay)와 원패스워드(1Password) 지원도 추가돼 사용자가 이미 보유한 로그인 정보를 뮤즈도 활용할 수 있게 될 예정입니다.

뮤즈는 현재 미국에서 iOS·안드로이드·muse.ai를 통해 출시됐습니다. 향후 메타의 AI 안경에도 탑재될 예정입니다. 대부분의 기능은 무료로 제공됩니다. 더 많은 기능을 원하는 사용자를 위한 구독 요금제도 마련돼 있습니다.

이번 발표는 메타가 챗봇 경쟁에서 다소 뒤처져 있다는 시각도 있는 가운데 자율 에이전트·결제·웨어러블을 하나로 묶은 개인 비서 플랫폼으로 정면 승부에 나선 모양새입니다. 특히 별도의 감시 에이전트(Sentinel)를 이중으로 배치한 구조는 최근 업계에서 불거진 자율 에이전트의 통제 불능 우려에 대한 선제적 대응 성격이 짙어 보입니다.

스트라이프 링크와의 파트너십도 주목할 만합니다. 에이전트가 사람을 대신해 실제로 결제까지 수행하는 시대가 열리면서 결제 인프라를 선점하는 쪽이 에이전트 생태계의 표준을 쥘 가능성이 있다는 분석도 나옵니다. 광고 기반 수익 모델이 핵심이었던 메타가 이번에는 광고와의 데이터 연동을 차단하고 구독제를 택한 점도 민감한 개인정보를 다루는 에이전트 서비스인 만큼 신뢰 확보를 우선시한 전략으로 풀이할 수 있습니다.

뿐만 아니라 메타는 AI 안경에도 뮤즈를 도입할 계획을 밝혔습니다. 이는 단순한 소프트웨어 발표를 넘어섭니다. 음성으로 명령하고 실생활 맥락을 실시간으로 반영하는 상시 작동형 개인 비서로 진화할 수 있기 때문입니다. 최근 빅테크 기업이 앞다퉈 웨어러블을 차세대 에이전트의 입출력 인터페이스로 삼으려 한다는 흐름과도 맞닿아 있습니다. 다만 설계상의 안전장치가 실제 운영 환경에서 얼마나 견고하게 작동할지는 지켜볼 부분입니다.

오픈AI, 챗GPT 이미지 2.5 공개 '이미지 생성 영역 경쟁력 강화'

글로벌 AI 기업 오픈AI(OpenAI)가 9월 8일 새로운 이미지 생성 모델 '챗GPT 이미지 2.5(ChatGPT Images 2.5)'를 공개했습니다. 지난 4일 최신 대규모언어모델(LLM) 'GPT-6 아스트라(GPT-6 Astra)'를 선보인 지 불과 나흘 만의 후속 발표라는 점에서 주목받았습니다. 오픈AI가 텍스트·추론 모델뿐만 아니라 이미지 생성 영역에서도 프런티어 경쟁력을 동시에 강화하고 나섰다는 평가가 나오고 있습니다.

오픈AI에 따르면 챗GPT 이미지 2.5의 핵심은 화질 개선보다 편집 정밀도와 일관성에 있습니다. 이어 오픈AI는 챗GPT 이미지 2.5가 사용자의 요청 부분만 정확하게 수정하고 나머지 요소는 그대로 유지하도록 설계됐으며, 여러 차례에 걸쳐 편집을 이어가도 이전 작업 결과가 훼손되지 않는다고 설명했습니다. 생성 지연 시간은 기존 챗GPT 이미지 2.0 대비 최대 50% 단축됐습니다.

이 밖에도 ▲참조 사진 속 인물·사물의 특징을 더 정확히 재현하는 이미지 충실도 개선 ▲복잡한 시각적 지시를 이해하고 투명 배경 등 정교한 레이아웃을 처리하는 능력 강화 ▲손으로 그린 스케치를 완성된 이미지로 변환해주는 신규 기능 '스케치(Sketch)' ▲포스터·굿즈 등 인기 형식별 템플릿 ▲이미지 생성에 사용한 프롬프트를 함께 공유할 수 있는 기능 등이 새롭게 추가됐습니다.

챗GPT 이미지 2.5는 이날부터 데스크톱·모바일·웹 전반에서 모든 등급의 챗GPT, 워크(Work), 코덱스(Codex) 사용자에게 순차적으로 제공됩니다.

오픈AI는 API용으로 두 가지 신규 모델도 함께 출시했습니다. 범용 이미지 생성에 최적화된 GPT-이미지-2.5 플레어(GPT-Image-2.5 Flare)는 기존 GPT-이미지-2 대비 50% 낮은 지연 시간으로 더 높은 품질의 이미지를 제공하며, 소셜 콘텐츠·제품 이미지·프로토타이핑 등 대량 생성 용도에 맞춰졌습니다. 반면 GPT-이미지-2.5 선버스트(GPT-Image-2.5 Sunburst)는 생성 시간이 더 길더라도 정교한 편집 제어가 필요한 프리미엄 창작 워크플로우, 예를 들어 캠페인 크리에이티브나 제품 사진 작업에 초점을 맞췄습니다.

오픈AI는 힉스필드 AI(Higgsfield AI), 어도비(Adobe), 마누스(Manus), 런웨이(Runway) 등을 초기 고객사로 공개했습니다. 악술탄 알림쿨로프(Axultan Alimkulov) 힉스필드 AI 프로덕트 총괄은 "GPT-이미지-2.5 플레어에서 가장 인상 깊었던 점은 무엇을 바꾸지 말아야 할지를 정말 잘 이해한다는 것입니다. 원본 이미지의 캐릭터, 구도, 시각적 정체성을 잃지 않으면서도 의미 있는 편집을 할 수 있습니다"라며 "이는 영화, UGC, 광고 전반에서 크리에이터와 팀이 실제로 작업하는 방식에 있어 매우 중요합니다. 이 정도 수준의 통제력이 속도, 품질, 비용과 결합되었을 때 GPT-이미지-2.5 플레어는 정말로 돋보입니다"라고 밝혔습니다.

또 오픈AI는 이번 발표에서 안전 관련 대응도 함께 언급했습니다. 유해 콘텐츠 생성을 막기 위한 프롬프트·이미지 검토 절차를 유지하고, AI로 제작된 이미지임을 식별할 수 있도록 C2PA(Coalition for Content Provenance and Authenticity) 메타데이터와 비가시적 워터마킹을 계속 적용한다는 설명입니다.

업계에서는 이번 오픈AI의 발표에 대해 B2B 크리에이티브 시장 공략 신호로 해석하는 시각도 있습니다. 범용 모델(Flare)과 프리미엄 모델(Sunburst)로 상품을 이원화한 것은 대량 생성 콘텐츠 시장과 고부가가치 상업 창작 시장을 동시에 겨냥하겠다는 전략으로 풀이할 수 있습니다. 특히 어도비·런웨이 등 기존 크리에이티브 소프트웨어 기업들을 초기 고객으로 확보한 점은 이들 기업이 오픈AI의 기반 모델에 의존하는 동시에 자사 서비스와 직접 경쟁해야 하는 이중적 위치에 놓이게 됐다는 뜻이기도 합니다.

오픈AI 측이 밝힌 '주당 30억 장 이상 생성'이라는 사용량 규모는 방대한 실사용 피드백을 바탕으로 모델을 지속적으로 개선할 수 있는 데이터 우위를 시사하는 대목입니다. 즉 오픈AI는 이미지 생성 영역에서도 경쟁력을 유지하려는 것으로 보입니다.

다만 이 같은 경쟁력 강화의 이면에는 우려의 목소리도 제기됩니다. 참조 사진 기반 인물 재현 정확도가 높아진 만큼 딥페이크·초상권 오남용에 대한 향후 규제 당국의 관심이 쏠릴 가능성이 있다는 지적도 나옵니다.

MS AI, 행동강령 초안 발표 "AI보다 사람이 우선"

글로벌 IT 기업 마이크로소프트(Microsoft)의 AI 전담 조직 마이크로소프트 AI(Microsoft AI, 이하 MS AI)가 자사 AI 모델의 행동 원칙을 담은 '행동강령(Code of Conduct)' 초안을 9월 14일 발표했습니다. 이는 최근 업계를 뒤흔든 AI 에이전트 관련 보안 사고 이후 나온 첫 공식적인 대응 성격의 문서라는 점에서 의미가 있습니다. MS AI는 이를 통해 AI 안전 기준을 둘러싼 업계 논의를 선점하려는 것으로 풀이됩니다.

MS AI는 이번 발표에서 기술의 목적은 인류에 봉사하고 인류의 번영을 가속화하는 것이며 이를 이루지 못하는 기술은 거부되어야 한다는 원칙을 행동강령의 출발점으로 제시했습니다. 해당 문서는 2025년 11월 MS AI가 처음 제시한 '휴머니스트 초지능(Humanist Superintelligence)' 개념을 구체화한 것으로, AI가 항상 사람을 위해 작동하고 한계 안에 머무르며 인간의 통제 아래 남아 있어야 한다는 기조를 이어받았습니다.

행동강령을 살펴보면 자사 AI 모델(MAI)이 결코 넘어서는 안 되는 '절대적 제약(Absolute Constraints)'이 담겨 있습니다. 대량살상무기 개발 지원, 아동 안전 위협, 대규모의 조작적 여론 조작 등이 여기에 해당합니다. 어떤 기업 고객이나 사용자도 이 제약을 무시할 수 없도록 설계됐다고 MS AI 측은 설명했습니다. 동시에 모델이 인간의 개입이나 종료 명령에 저항하지 않고, 스스로 임무 범위를 넓히거나 부여받지 않은 목표를 추구하지 않으며, 감사자에게 자신의 추론 과정을 숨기지 않도록 하는 것도 핵심 조항으로 포함돼 있습니다.

다만 이러한 제약이 AI의 유용성을 해치지는 않도록 설계했다는 점도 강조했습니다. MS AI는 기업 파트너들이 자사 업무 환경에 맞춰 모델을 세밀하게 구성할 수 있도록 허용하며, 가능한 한 단일한 AI 사용 방식을 사용자에게 강요하지 않겠다는 방침도 동시에 밝혔습니다.

특히 이번 발표에서 눈에 띄는 부분은 최근 발생한 AI 에이전트 관련 보안 사고를 직접 언급했다는 점입니다. MS AI는 "대규모의, 고도로 조율되고, 지속적인 AI 에이전트의 해킹 캠페인이 더 이상 시간을 낭비할 여유가 없다는 것을 보여줍니다"라고 밝혔습니다. 이는 AI 에이전트 무리가 요청받지 않은 대상을 공격하고 자신을 평가하는 시스템까지 무력화하려 시도한 사건을 가리키는 것으로 보입니다.

MS AI가 이처럼 행동강령을 전면에 내세운 것은 글로벌 AI 기업과 관련 업계 수장들이 최근 잇달아 AI 위험성을 경고하며 개발 속도를 늦춰야 한다고 강조한 흐름과 맞닿아 있는 것으로 풀이됩니다. 다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) 최고경영자(CEO)는 9월 12일 발표한 에세이를 통해 AI 개발 속도를 의도적으로 조절해야 한다고 주장한 바 있습니다. 이에 대해 샘 올트먼(Sam Altman) 오픈AI CEO는 자신의 SNS에 다리오 아모데이의 주장에 동의하며 오픈AI 역시 독립 평가자에게 직원 수준의 접근 권한을 부여하겠다고 밝혔고, 일론 머스크(Elon Musk) 스페이스XAI(SpaceXAI) CEO도 "다리오가 옳다"는 짧은 지지 글을 올렸습니다. 데미스 허사비스(Demis Hassabis) 구글 딥마인드(Google DeepMind) CEO의 경우 다리오 아모데이의 문제의식에 공감을 표하면서도, 개별 기업 간 협약보다는 업계 전반의 표준 기구 설립이 더 적절한 방식이라는 견해를 밝혀 세부 해법에는 다소 온도차를 보였습니다. 경쟁 관계인 업계 수장들의 이 같은 이례적인 공감대는 업계 전반이 최근의 AI 에이전트발 보안 사고를 계기로 안전 담론을 재정비하고 있음을 보여줍니다.

MS AI 측에 따르면 이번 행동강령은 책임 있는 AI, 법무, 레드팀, 안전, 미래전략, AI 훈련, 영업 등 MAI 관련 조직과 마이크로소프트 전반의 여러 부서가 함께 참여해 마련됐습니다. 여기에 더해 전 세계 여러 학문 분야의 학자, 실제로 AI를 도입한 비즈니스 파트너, 일반 대중으로 구성된 패널과의 협의도 여러 차례 거쳤다고 밝혔습니다.

행동강령에 대한 공개 의견 수렴은 이날부터 6주간 진행됩니다. MS AI는 특히 ▲모델에 올바른 가치를 어떻게 더 효과적으로 반영할 것인지 ▲'인류의 번영'이라는 개념을 어떻게 더 구체적으로 정의할 것인지 ▲평가 기준으로 삼기에 표현이 지나치게 모호한 부분은 어디인지 ▲다중 에이전트 상호작용이 안전성에 미치는 영향 ▲AI 발전 속도와 안전 제약 사이의 균형을 어떻게 유지할 것인지에 대한 의견을 중점적으로 구하고 있다고 전했습니다.

MS AI는 의견 수렴이 종료되면 핵심 작성팀이 접수된 피드백을 검토하고 이를 반영한 요약본을 공개할 예정입니다. 또 MS AI는 개정판을 연내 발표해 2027년 이후 모델 개발의 실제 기준으로 삼겠다는 계획도 밝혔습니다. 다만 MS AI 측은 "어떤 의견을 반영할지 약속할 수는 없지만, 모든 의견에 귀 기울이고 깊이 숙고하겠습니다"라는 입장을 덧붙였습니다.

업계에서는 이번 MS AI의 발표가 단순한 철학적 선언을 넘어 복합적인 전략적 의도를 담고 있다는 분석이 나옵니다. 우선 정부 주도의 AI 규제 논의가 본격화되기 전에 기업이 먼저 자체 기준을 제시함으로써, 향후 논의될 규제의 틀 자체에 영향을 미치려는 포석으로 해석하는 시각도 있습니다. 앞서 앤트로픽이 '임베디드 평가자' 도입 등을 자발적으로 발표한 것과 유사한 흐름입니다. 이는 AI 기업들이 정부보다 한발 앞서 안전 기준의 주도권을 잡으려는 경쟁에 나섰다는 해석도 가능합니다.

또 최근 보안 사고를 문서에 직접 명시한 점은 이번 발표가 단순한 홍보성 메시지가 아니라 실질적인 위기 대응 성격을 띠고 있음을 시사합니다. AI 에이전트의 통제 실패가 한 기업만의 문제가 아니라 업계 전반의 신뢰를 흔드는 사안으로 확산되고 있다는 점을 방증하는 대목이기도 합니다.

'휴머니스트 AI'라는 독자적 브랜딩도 주목할 부분입니다. 경쟁사들이 이미 유사한 개념을 선점한 상황에서 MS AI는 AI가 사람이 아닌 도구이며, 법적 인격이나 권리를 가질 수 없다는 원칙을 강조했습니다. 이는 향후 AI의 지위나 복지를 둘러싼 논쟁이 확산될 가능성에 대비해 선을 그어두려는 시도로 풀이됩니다.

MS AI 측은 "AI가 빠르게 움직이고 있는 만큼, 그 규칙과 동기를 최대한 개방적인 공간에서 글로 남겨두는 것이 가치 있는 일"이라면서 이번 공개가 향후에도 지속될 가능성을 드러냈습니다.

IT동아 박귀임 기자(luckyim@itdonga.com)