당신이 보는 유튜브 영상은 정말 당신 취향인가, 아니면 광고주가 돈을 많이 낸 결과인가. 하버드대학교(Harvard University)와 구글(Google) 연구팀이 2026년 3월 공개한 논문에서 이 질문에 정면으로 답하는 생성형 추천 모델 'GEM-Rec'을 발표했다. 이 모델은 사용자 취향 추천과 광고 수익 최적화를 하나의 AI가 동시에 처리하는 방식으로, 플랫폼이 어떻게 우리의 피드를 설계하는지를 이해할 수 있는 새로운 기술적 접근을 제시했다.

두 개의 목표를 하나로 합친 추천 모델

GEM-Rec은 추천 시스템과 광고 최적화를 통합한 생성형 AI 모델이다. 유튜브나 인스타그램(Instagram) 같은 플랫폼은 지금까지 콘텐츠 추천 모델과 광고 선택 모델을 따로 운영한 뒤 마지막 단계에서 결과를 합쳤다. 마치 요리사 두 명이 각자 요리를 만들고, 별도의 직원이 그것을 한 접시에 담는 구조였다. GEM-Rec은 이 과정을 하나의 AI가 처음부터 끝까지 처리하도록 바꿨다.

기반이 된 기술은 TIGER라는 생성형 추천 모델이다. TIGER는 콘텐츠를 단순한 번호 대신 '의미 ID(Semantic ID)'라는 계층적 코드로 표현한다. 예를 들어 영화 한 편은 '액션-SF-우주-타임루프'처럼 점점 세밀해지는 카테고리로 분류된다. GEM-Rec은 여기에 '일반 콘텐츠'와 '광고'를 구분하는 특수 토큰을 추가했다. AI는 이제 콘텐츠를 생성하기 전에 먼저 "지금 보여줄 것이 일반 영상인가, 광고인가"를 스스로 결정한다.

광고 타이밍을 스스로 학습하는 AI

GEM-Rec의 핵심은 플랫폼에 축적된 과거 사용자 행동 기록에서 '성공한 광고 노출'만을 골라 학습한다는 점이다. 여기서 성공한 광고란 두 가지 조건을 모두 통과한 경우다. 첫째, 광고주가 충분히 높은 입찰가를 제시해 플랫폼의 수익 기준을 넘었고, 둘째, 사용자가 실제로 클릭할 만큼 콘텐츠와 관련이 있었다.

연구팀은 이를 '플랫폼 필터'와 '사용자 필터'라고 불렀다. 플랫폼은 수익성이 낮은 광고를 걸러내고, 사용자는 관심 없는 광고를 무시한다. GEM-Rec은 이 두 필터를 모두 통과한 사례만 학습하기 때문에, 별도의 규칙을 프로그래밍하지 않아도 "어떤 맥락에서 어떤 광고가 효과적인가"를 자연스럽게 익힌다. 사용자가 요리 영상을 5개 연속으로 본 뒤 주방용품 광고를 클릭했다면, AI는 비슷한 상황에서 광고를 삽입하는 패턴을 스스로 찾아낸다. 연구팀은 논문의 문제 설정 부분에서 "우리는 사용자 만족이나 광고주 가치를 직접 측정하지 않는다. 대신 성공한 노출 기록에서 학습한다"고 명시했다.

재학습 없이 수익과 경험 사이를 실시간으로 조정

광고주의 입찰가는 실시간으로 바뀐다. 특정 시간대에 입찰가를 올리거나, 예산이 소진되면 입찰을 중단하는 광고주도 있다. 기존 모델은 실시간 입찰 반영이 어렵거나 제한적이었다. GEM-Rec은 이 문제를 '입찰 인식 디코딩(Bid-Aware Decoding)'이라는 메커니즘으로 해결했다.

입찰 인식 디코딩이란 AI가 결과를 생성하는 단계에서 현재 광고주의 입찰가를 직접 반영하는 방식을 말한다. 각 광고 후보의 점수(logit)에 log(1+입찰가)를 더해 최종 선택 확률을 조정한다. 입찰가가 높을수록 노출 확률이 감소하지 않도록 보장된다. 중요한 것은 이 과정이 모델 재학습 없이 이뤄진다는 점이다. 플랫폼은 마치 자동차 핸들을 돌리듯, 광고 수익을 더 중시하고 싶으면 입찰가 가중치를 높이고 사용자 경험을 우선하고 싶으면 가중치를 낮추는 방식으로 실시간으로 방향을 조정할 수 있다. 연구팀은 프레임워크 설명 부분에서 "이 접근법은 플랫폼이 시스템 운영 지점을 정밀하게 제어할 수 있게 한다"고 강조했다.

수익 크게 증가, 그러나 공정성 논쟁은 이제 시작

연구팀은 아마존(Amazon) 리뷰 데이터와 산업용 데이터셋을 활용해 GEM-Rec을 기존 모델들과 비교 실험했다. 결과는 주목할 만하다. 입찰가 가중치를 조절하는 것만으로 광고 수익이 크게 증가하는 경향을 보였고, 같은 조건에서 일반 콘텐츠 추천 정확도는 감소하지만, 유기적 콘텐츠 추천 품질은 유지됐다. 유튜브처럼 하루 수십억 건의 추천이 발생하는 플랫폼에서는 수조 원 규모의 수익 차이로 이어질 수 있다.

흥미로운 점은 일부 상황에서는 광고가 추천 신호로 작용하는 사례도 관찰됐다는 것이다. 사용자가 운동 영상을 보다가 운동복 광고를 클릭했다면, AI는 그 클릭을 사용자 의도의 신호로 읽어 이후 헬스장 관련 콘텐츠를 자연스럽게 추천했다. 광고가 단순한 방해물이 아니라 사용자의 다음 관심사를 예측하는 단서가 된 것이다. 연구팀은 또한 광고 최적화가 일반 콘텐츠 추천 순서에 영향을 주지 않는 '유기적 무결성(Organic Integrity)'도 실험으로 검증했다.

그러나 이 기술이 확산될수록 불균형 문제는 커질 수 있다. 입찰가가 높을수록 노출 확률이 커지는 구조에서, 자본력이 큰 광고주는 유리하고 소규모 브랜드나 신생 기업은 추천 피드에서 밀려날 위험이 있다. 사용자 입장에서는 자신이 보는 콘텐츠가 순수하게 취향 기반인지, 광고 수익 계산의 결과인지 확인할 방법이 없다. GEM-Rec이 효율을 높인 것은 분명하지만, 플랫폼이 이 기술을 어떤 기준으로 운용할지는 아직 공개되지 않았다. 앞으로 우리가 보는 추천 피드가 진정한 의미의 '내 취향'인지, 아니면 정교하게 설계된 수익 최적화의 결과물인지를 판단하는 기준이 필요한 시점이다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. GEM-Rec은 기존 추천 시스템과 어떻게 다른가요? 기존 추천 시스템은 사용자 취향 추천 모델과 광고 선택 모델을 각각 별도로 운영한 뒤 마지막 단계에서 결과를 합쳤습니다. GEM-Rec은 하나의 AI가 "광고를 보여줄지 말지"와 "어떤 콘텐츠를 보여줄지"를 처음부터 함께 결정합니다. 광고주의 실시간 입찰가를 직접 반영하기 때문에 모델을 다시 학습하지 않아도 수익과 사용자 경험 사이의 균형을 조정할 수 있습니다.

Q. 광고가 늘어나면 사용자 경험이 나빠지지 않나요? 연구팀의 실험에서는 광고 수익을 크게 늘리면서도 일반 콘텐츠 추천 정확도를 유지하는 결과가 확인됐습니다. 맥락에 맞는 광고는 오히려 다음 추천 품질을 높이는 신호로 작용하기도 했습니다. 다만 플랫폼이 수익을 과도하게 우선할 경우 사용자 경험이 악화될 가능성은 여전히 열려 있습니다.

Q. 이 기술은 어떤 플랫폼에 적용될 수 있나요? 유튜브(YouTube), 틱톡(TikTok), 인스타그램(Instagram)처럼 콘텐츠 피드와 광고를 함께 운영하는 플랫폼이 가장 유력한 적용 대상입니다. 전자상거래 사이트의 상품 추천이나 음악 스트리밍 서비스의 재생목록 생성에도 활용될 수 있습니다. 광고와 일반 콘텐츠를 동시에 다루는 모든 플랫폼이 잠재적 수혜자입니다.

기사에 인용된 논문 원문은 arXiv에서 확인할 수 있다.

논문명: One Model, Two Markets: Bid-Aware Generative Recommendation

이미지 출처: AI 생성 콘텐츠

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.