메타가 광고 순위 모델에 새 기법을 적용하는 작업의 60% 이상을 AI 에이전트가 처리하고 있다고 현지 시각 11월 18일 공식 엔지니어링 블로그에서 밝혔다. 메타는 3월부터 에이전트가 이 작업을 맡았으며, 에이전트 도입 전과 비교해 엔지니어링 생산성이 3배 높아지고 일부 조합에서 학습 연산량이 중앙값 기준 4분의 1로 줄었다고 설명했다. 메타는 올해 말까지 컴퓨팅 비용을 4,500만 달러(약 599억 7,015만 원) 넘게 아낄 것으로 추산했다.
메타가 말하는 기법은 광고 순위 모델의 성능을 높이는 개선 방법으로, 우콩(Wukong) 인수분해 계층, 인터포머(Interformer) 상호작용 신경망, 데이터 표현 개선, 학습 최적화 등이 포함된다. 메타에 따르면, 한 모델에서 효과가 입증된 기법은 다른 모델에 그대로 적용되는 경우가 드물고, 모델 개발 주기 몇 번이 지나면 효용이 줄어든다. 메타는 지난 2년간 표준 모델 템플릿으로 기법과 모델 조합 5,000개 이상을 적용해 모델별 엔지니어링 시간을 92% 줄였다.
에이전트는 대규모 언어모델(LLM) 기반 추론과 전문 머신러닝 도구를 함께 쓰며, 과거 학습 실행 기록과 모델 구조, 기법 결과를 모은 공용 지식 기반을 활용한다. 탐색 단계에서는 어떤 기법이 어느 모델에 적용될 수 있는지 평가해 후보 순위를 제시하고, 일반화 단계에서는 기법을 템플릿 단위로 조정하거나 매출 비중이 큰 모델에 맞춰 개별 조정한다. 도입 단계에서는 실험을 시작하고 며칠씩 이어지는 학습을 관리하며, 인프라 문제나 학습 발산, 데이터 파이프라인 오류가 생기면 복구한다.
에이전트는 수백 개의 동시 작업을 매출 중요도, 기법 잠재력, 마감 시점에 따라 순위를 매기고, 멈췄거나 가치가 낮은 작업의 자원을 회수한다. 새 기법은 오프라인 지표인 정규화 엔트로피(NE)를 개선하고 학습, 추론 비용을 악화시키지 않아야 하며, 온라인 A/B 시험에서 통계적으로 유의한 성과를 보여야 적용된다. 메타는 사람이 주요 결정을 검토하고 최종 적용을 승인한다고 밝혔다.
메타에 따르면, 현재는 입증된 기법이 적용 가능한 모든 모델에 반영되기까지 1년 넘게 소요된다. 메타는 이 기간을 3개월로 줄이는 것을 목표로 하며, 이를 위해 전체 처리량을 약 5배 높여야 한다고 설명했다.
자세한 내용은 메타에서 확인할 수 있다.
이미지 출처: 메타
AI Matters 뉴스레터 구독하기




에