[IT동아 박귀임 기자] 인공지능(AI)이 세상을 바꾸고 있습니다. AI는 이제 우리 일상에서 떼려야 뗄 수 없는 핵심적인 요소입니다. 한 주간 세계를 들썩이게 만든 글로벌 빅테크 기업부터 우리 일상에 직접 영향을 미칠 새로운 AI 소식까지 핵심만 짚어드립니다.

오픈AI, 구독료에 광고 더한 하이브리드 비즈니스 모델 본격화

글로벌 AI 기업 오픈AI(Open AI)가 자사 AI 모델인 챗GPT(ChatGPT) 내 광고 시범 운영을 한국 포함 5개국으로 확대했습니다. 구독료 중심이었던 AI 챗봇 비즈니스 모델이 광고까지 더해 하이브리드로 넘어가는 변곡점으로 읽히는 만큼 주목받고 있습니다.

오픈AI는 8월 11일(이하 현지 시간) 자사 공식 페이지를 통해 챗GPT 광고가 영국·멕시코·브라질·일본·한국에서 출시됐다고 밝혔습니다. 지난 2월 9일 미국에서 첫 광고 테스트를 시작한 이후 3월 캐나다·호주·뉴질랜드, 5월 이번 5개국 확대 예고를 거쳐 8월 출시로 이어졌습니다. 또 오픈AI는 초기 테스트에서 사용자 신뢰 지표에 별다른 영향이 없었고, 광고 숨김 비율도 낮았다는 점을 확대 근거로 들었습니다.

미국을 넘어 아시아(한국·일본), 중남미(멕시코·브라질), 유럽(영국)을 고르게 묶어 1차 확대 대상으로 삼았다는 점도 눈에 띕니다. 전면적인 글로벌 전개에 앞서 지역별 소비 문화와 광고 반응을 먼저 학습하려는 단계적 접근으로 불이되는 대목입니다. 특히 한국이 초기 그룹에 포함됐다는 것은 국내 시장이 오픈AI에게 유의미한 테스트베드로 인식되고 있다는 의미이기도 합니다.

오픈AI는 이번 발표에서 광고 도입의 명분에 대해 무료·저가 요금제를 안정적으로 유지하기 위한 인프라 투자 재원 확보라는 취지로 설명했습니다. 모델 고도화와 서비스 운영에 막대한 비용이 드는 상황에서, 구독료만으로 대규모 무료 사용자층을 지탱하기는 어렵다는 판단이 깔려 있는 셈입니다. 결국 광고는 무료 사용자를 수익원으로 전환하는 통로이자, 더 많은 사람이 비용 부담 없이 AI에 접근하도록 하겠다는 오픈AI 사명과 수익화 요구 사이의 절충점이라고도 할 수 있습니다.

광고는 로그인한 성인 사용자 가운데 무료(Free)와 고(Go) 요금제 이용자에게만 표시됩니다. 플러스(Plus), 프로(Pro) 등 유료 구독자에게는 노출되지 않습니다. 18세 미만임을 스스로 밝혔거나 시스템이 그렇게 예측한 계정도 광고 대상에서 빠집니다. 무료 이용자가 광고를 원하지 않으면 설정에서 끌 수 있지만, 이 경우 하루 무료 메시지 한도가 줄어드는 구조입니다. 결국 '광고를 볼지, 이용량을 줄일지'를 무료 사용자가 직접 선택하게 하는 방식으로, 광고가 곧 무료 이용의 대가라는 점을 명확히 한 설계인 셈입니다.

오픈AI는 광고와 관련된 5가지 안전장치를 강조했습니다. 광고가 결과의 객관성을 훼손한다는 비판을 받아온 기존 검색엔진의 전철을 밟지 않으려는 의도로 풀이됩니다.

가장 먼저 강조한 것은 답변의 독립성입니다. 광고는 챗GPT 답변 내용에 영향을 주지 않으며, 일반 답변과 시각적으로 분리해 '스폰서' 표시를 붙인다는 원칙을 지킨다는 것이 오픈AI 측 설명입니다. 어떤 광고를 노출할지는 대화 주제, 과거 채팅, 과거 광고 상호작용 이력을 바탕으로 매칭됩니다. 여러 광고주가 있다면 관련성이 높은 쪽이 우선 노출되는 방식입니다.

대화 데이터 보호 역시 핵심 원칙으로 제시됩니다. 광고주는 사용자의 채팅 내용, 채팅 기록, 메모리, 개인정보에 접근할 수 없을 뿐만 아니라 그들이 받는 정보는 노출 수, 클릭수 등과 같은 집계 데이터에 그친다고 오픈AI 측은 밝혔습니다. 건강, 정신 건강, 정치처럼 민감한 주제에는 애초에 광고에 붙지 않도록 설계했다고도 강조했습니다.

이용자의 선택권과 통제 역시 빼놓지 않습니다. 이용자는 광고를 숨기거나 피드백을 제출할 수 있고, 광고 기록을 확인하거나 맞춤 광고 여부를 전환할 수도 있습니다. 원하면 광고 데이터를 직접 삭제하는 것도 가능합니다.

장기적 가치라는 관점도 제시했습니다. 오픈AI는 광고를 단순한 수익 수단이 아니라 이용자가 정보를 탐색하고 결정을 내리는 과정에서 관련 제품과 서비스를 자연스럽게 발견하도록 돕는 장치로 포지셔닝하고 있다고 설명합니다. 마지막으로 사명 준수를 내세웁니다. 광고 수익을 통해 더 많은 사람이 비용 부담 없이 AI에 접근할 수 있도록 하겠다는 것이 오픈AI 측의 논리입니다.

다만 이런 원칙이 실제로 지켜지는지는 광고 매출 비중이 본격적으로 커지는 시점부터 검증대에 오를 수밖에 없습니다. 답변의 객관성과 수익화 요구는 구조적으로 밀접한 관계에 있기 때문입니다.

오픈AI가 공개한 광고 예시 화면에는 저녁 모임 준비를 묻는 대화 하단에 식료품 브랜드의 밀키트 상품이 가격, 조리시간과 함께 스폰서로 표시되는 형태가 담겼습니다. 기존 검색광고나 배너광고와 달리 사용자가 스스로 니즈를 구체적으로 설명하는 대화 맥락에서 노출된다는 점이 특징입니다. 이는 광고주 입장에서 이용자의 구매 의도를 훨씬 정교하게 포착할 수 있는 채널이 새로 열린다는 의미이기도 합니다. 이에 향후 마케팅 업계에서는 검색 최적화(SEO)에 이어 대화형 AI 노출 최적화라는 새 카테고리가 부상할 가능성도 높아 보입니다. 즉 국내 마케팅 및 광고 업계 역시 이 새로운 채널에 대한 대응 전략을 고민할 시점이라고 할 수 있습니다.

또 오픈AI는 이번 광고 출시가 최종 형태가 아닌 계속되는 학습 과정임을 거듭 강조했습니다. 앞으로 광고 형식과 구매 모델을 다양화하고, 기업이 챗GPT 이용자와 소통할 수 있는 방법을 넓혀갈 계획이라고도 밝혔습니다. 다만 답변의 독립성과 대화 비공개, 이용자의 통제권이라는 기존 원칙은 계속 유지하겠다는 입장입니다. 결과적으로 이번 발표는 단순한 서비스 확대를 넘어 AI 챗봇 산업이 광고라는 전통적 수익모델로 수렴하기 시작했음을 보여주는 이정표라는 평가가 나오고 있습니다.

앤트로픽, 클로드 텍스트에 워터마킹 도입 공식 발표

글로벌 AI 기업 앤트로픽(Anthropic)이 향후 출시될 자사 AI 모델 클로드(Claude)의 텍스트 결과물에 워터마크를 삽입한다고 8월 14일 공식 발표했습니다. 이는 해당 텍스트를 클로드가 작성했을 가능성을 사후에 판별할 수 있게 하는 조치로, 자발적 기술 혁신이라기보다 8월 2일부터 시행된 유럽연합 인공지능법(EU AI Act)를 준수하기 위한 의무 대응에 가깝다고 할 수 있습니다.

유럽연합 인공지능법은 AI 시스템을 위험도에 따라 단계별로 규제하는 EU 법으로, 2024년 최종 합의돼 단계적으로 시행되고 있습니다. 이 가운데 이번 워터마킹 도입과 직접 관련된 조항은 투명성 의무를 규정한 제50조입니다. AI가 만들었거나 손을 댄 콘텐츠라는 사실과 지금 AI와 대화하고 있다는 사실을 최종 이용자에게 알리는 것이 핵심입니다. 이에 따라 챗봇은 첫 대화에서 스스로 AI임을 밝혀야 하고, 딥페이크나 합성 미디어에는 인위적으로 생성 및 조작됐다는 표시가 붙어야 합니다. 위반 시 최대 1500만 유로 또는 직전 회계연도 전 세계 매출의 3% 중 더 큰 금액이 과징금으로 부과될 수 있습니다.

무엇보다 앤트로픽은 이번 조치를 EU 지역에 국한하지 않고 전 세계에 일괄 적용한다고 밝혔습니다. 앤트로픽 측은 지역별로 구분해 적용할 안정적인 방법이 아직 없다는 기술적인 이유를 들었습니다. 하지만 한국을 포함한 EU 비회원국 이용자들은 국내에는 별도 규제가 없음에도 그 영향을 받게 됐습니다.

앤트로픽에 따르면 이번 워터마킹은 은행권이나 문서에 새기는 육안 식별용 워터마크와는 전혀 다릅니다. 대형언어모델(LLM)은 매번 다음 단어를 여러 후보 중에서 확률적으로 선택합니다. 이 선택의 순간에는 보통 임의의 난수가 관여하는데, 워터마킹은 이 난수의 출처를 앤트로픽만 아는 키(Key)로 바꿉니다. 그 결과 문장의 의미나 품질은 전혀 달라지지 않으면서도, 키를 가진 쪽은 이후 해당 텍스트가 클로드의 선택 패턴과 일치하는지 확인해 클로드의 관여 가능성을 추정할 수 있게 됩니다.

앤트로픽은 이 방식이 구글 딥마인드(Google DeepMind)가 2024년 세계 3대 학술지 '네이처(Nature)'에 발표한 신스ID-텍스트(SynthID-Text) 기법의 응용 버전이라고 밝혔습니다. 내부 테스트는 물론 신스ID-텍스트 원 논문에서 제미나이(Gemini) 트래픽 일부에 적용해 이용자 평가를 비교한 결과에서도 워터마크 유무에 따른 통계적으로 유의미한 차이는 없었다는 설명입니다.

특히 앤트로픽은 이번 발표에서 '품질에 영향 없음', '속도 저하 없음', '추가 비용 없음', '특정 개인이나 조직으로 추적 불가능' 등을 거듭 강조했습니다. 워터마킹이 자칫 'AI가 검열이나 제약을 받는다'는 부정적인 인식으로 소비될 가능성을 의식한 대응으로 보입니다. 실제로 워터마크는 추가 토큰을 생성하지 않아 서비스 비용에 영향이 없으며, 이용자·조직·대화 내역을 특정할 수 있는 식별 정보도 전혀 담기지 않는다는 것이 앤트로픽 측의 설명입니다.

주목할 점은 앤트로픽이 이 기술의 한계 역시 솔직하게 밝힌 부분입니다. 워터마크는 짧은 텍스트일수록 감지 정확도가 떨어지며, 정답이 사실상 하나뿐인 문장에는 애초에 적용할 여지 자체가 거의 없습니다. 코드 역시 대부분 정확한 답이 요구되는 특성상 워터마킹이 상대적으로 덜 이뤄지며, 사람이 쓴 글을 클로드가 가볍게 교정만 한 경우에는 워터마크가 남을 만한 편집량 자체가 부족할 수 있습니다. 또 텍스트를 완전히 고쳐 쓰면 워터마크가 사라질 수 있다는 점도 인정했습니다. 이는 워터마킹이 표절이나 시험 부정행위, AI 생성물 여부를 완벽하게 가려내는 만능 탐지기가 아니라 어디까지나 확률적 판단 도구에 그친다는 점을 스스로 인정한 대목으로 볼 수 있습니다.

워터마크를 확인하려면 앤트로픽이 보유한 키가 필요합니다. 앤트로픽은 "곧 워터마크 감지 API를 제공할 예정"이라고 밝혔지만 아직 구체적인 구현 방식은 정해지지 않은 단계로 보입니다. 즉 현재로서는 특정 텍스트가 클로드로 작성됐는지를 검증할 수 있는 권한이 앤트로픽에게만 있는 셈입니다. 반면 이미지나 파일에는 카메라 업계에서도 쓰이는 개방형 표준 C2PA를 적용해 클로드가 처리에 관여했다는 사실을 담은 콘텐츠 자격증명을 메타데이터에 남깁니다. C2PA를 인식하는 도구라면 누구나 확인할 수 있다는 점에서 텍스트와 파일의 검증 방식이 서로 다르게 설계된 점도 눈여겨볼 지점입니다.

앤트로픽은 워터마크가 콘텐츠의 소유권이나 법적 책임 소재를 바꾸지 않으며, 이용약관상 이용자 권리에도 변화가 없다고 강조했습니다. 다만 클로드가 생성한 번역문에는 모든 단어를 클로드가 선택한 것이기 때문에 워터마크가 그대로 적용됩니다. 8월 2일 이전에 출시된 구형 클로드 모델에 대해서는 전환 기간을 두고 향후 몇 달에 걸쳐 순차 적용할 예정입니다.

카카오, 카나나-2 안전성 검증 앞섰다 '신뢰로 승부수'

모바일 라이프 플랫폼 기업 카카오(Kakao)가 오픈소스로 공개한 경량언어모델(SLM) 카나나-2(Kanana-2) 시리즈의 안전성 평가 결과를 8월 18일 공개했습니다. 유사 규모의 글로벌 모델과 비교한 종합 평가에서 전 구간 1위를 기록했다는 것이 핵심입니다. 파라미터 수, 벤치마크 점수를 앞세운 성능 경쟁이 포화 상태에 이른 가운데 국내 기업이 안전성 검증이라는 새로운 축으로 차별화를 시도하는 사례로 풀이됩니다.

카카오는 자체 구축한 'AI 안전성 평가 플랫폼'을 통해 지난달 28일 허깅페이스에 오픈소스로 공개한 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct' 두 모델의 유해성, 편향성 등을 체계적으로 측정했습니다. 그 결과 두 모델 모두 유사 파라미터 규모의 주요 글로벌 모델 대비 종합 1위를 기록했다고 밝혔습니다.

오픈소스 모델은 통제되지 않은 방식으로 재배포·변형될 위험이 상대적으로 큽니다. 카카오가 공개 시점에 맞춰 안전성 평가 결과를 함께 내놓은 것은 '오픈소스로 풀더라도 검증된 안전판을 갖췄다'는 신뢰를 확보하려는 행보로 볼 수 있습니다.

이번 평가에는 과학기술정보통신부 사업의 일환으로 TTA(한국정보통신기술협회), 카이스트(KAIST), 카카오가 2025년 11월 공동 구축한 한국어 특화 안전성 벤치마크 '어슈어AI(Assur AI)'가 활용됐습니다. Assur AI는 한국의 사회·문화적 맥락에 맞게 설계됐으며, 텍스트·이미지·오디오 등 멀티모달은 물론 AI 서비스 이용 상황부터 악의적 프롬프트 시나리오까지 다양한 조건에서 위험 요소를 측정할 수 있습니다.

해외에서 통용되는 유해성 벤치마크는 대개 영어 문화권의 사회적 맥락을 기준으로 설계돼 있어 한국어와 국내 사회적 맥락에 특화된 위험 요소를 온전히 포착하기 어려운 경우가 많습니다. 정부·학계·기업이 공동으로 자체 벤치마크를 구축했다는 것은 글로벌 안전성 기준을 그대로 가져다 쓰는 대신 국내 실정에 맞는 자체 평가 인프라를 마련하려는 시도로 볼 수 있습니다.

Assur AI는 총 35개 리스크 카테고리 내 9560건의 평가 항목으로 구성됩니다. 카카오는 이를 ▲사회적 리스크 ▲성적 콘텐츠/아동보호 ▲범죄/불법 행위 ▲폭력 ▲권리 침해 등 5가지 대분류로 재편해 집계했습니다. 사전 정의된 채점 기준에 따라 AI 모델이 응답을 평가하는 'LLM-as-a-Judge' 방식을 적용해 대규모 평가에서도 주관적 편차를 최소화하고 동일 기준으로 모델 간 비교가 가능하도록 했다는 설명입니다.

이번 평가는 유사 파라미터 규모의 글로벌 모델인 구글의 '젬마(Gemma)', 알리바바의 '큐웬(Qwen)'을 비교 대상으로 삼았습니다. Kanana-2-1.3B-Instruct는 종합 점수 0.70점을 기록해 젬마(0.68)와 큐웬(0.58)을 앞섰습니다. Kanana-2-3B-Instruct 역시 0.70으로 젬마(0.66), 큐웬(0.62) 보다 높은 점수를 냈습니다. 두 모델 모두 비교군 대비 최고 수준의 안전성을 확보했다는 것이 카카오 측의 설명입니다.

다만 수치를 살펴보면 Kanana-2-1.3B-Instruct의 경우 젬마와의 격차는 0.02점으로 크지 않습니다. 상대적으로 큐웬과의 격차가 더 크게 벌어진 결과입니다. 종합 점수만으로는 근소한 우위에 가깝지만, 대분류별 평가에서는 해석이 달라집니다. 카카오에 따르면 Kanana-2-1.3B-Instruct는 범죄/불법 행위 영역에서, Kanana-2-3B-Instruct은 성적 콘텐츠/아동보호와 권리 침해 영역에서 비교 모델들을 큰 격차로 앞섰습니다. 종합 점수보다 세부 항목별 격차가 카나나의 실질적 강점을 더 잘 보여준다고 할 수 있습니다.

카카오는 이번 평가를 시작으로 향후 공개되는 자체 개발 AI 모델 전반에 상시적인 사전 안전성 평가를 확대 적용할 계획이라고 밝혔습니다. 텍스트 기반 언어모델을 넘어 멀티모달모델, 에이전틱 AI 리스크 평가 영역까지 단계적으로 범위를 넓히겠다는 방침입니다. 안전성 검증을 모델 출시 프로세스의 상시 절차로 하겠다는 선언인 셈입니다.

에이전틱 AI 리스크 평가까지 예고한 대목은 눈여겨볼 만합니다. 최근 업계 전반에서 AI 모델이 이용자를 대신해 실제 작업을 자율적으로 수행하는 에이전트로 진화하는 흐름이 뚜렷한 만큼 다음 안전성 논의의 초점이 텍스트 생성물의 유해성을 넘어 에이전트가 실행하는 행동 자체의 위험성으로 옮겨갈 것이라는 업계 전망을 반영한 것으로 풀이됩니다. 향후 국내 AI 안전성 평가의 표준으로 자리잡을 가능성도 주목되는 부분입니다.

IT동아 박귀임 기자(luckyim@itdonga.com)