AI 신뢰·안전·보안 기업 앨리스가 8월 25일 1억 4,000만 달러(약 1,935억 원) 투자 유치를 발표했다. 누적 조달액은 2억 8,000만 달러(약 3,870억 원)가 됐다. 이번 라운드는 아팩스 디지털 펀드가 이끌었고 모어테크, 피닉스 파이낸셜, 리졸루트 벤처스, 그로브 벤처스, CRV, 하이랜드 유럽, 빈티지 인베스트먼츠, 노스웨스트, NFX, 클랄테크가 참여했다.

앨리스는 AI 개발사와 함께 모델을 공개하기 전에 미리 공격해 보는 일을 한다. 연구 조직이 악의적인 입력과 복잡한 에이전트 작업을 흉내 내 모델이 이상하게 행동하는 조건을 찾아내고, 프롬프트 인젝션과 탈옥에 견디도록 다듬는다. 프롬프트 인젝션은 겉보기에 평범한 문장 안에 명령을 숨겨 모델이 원래 지침을 어기게 만드는 공격이고, 탈옥은 모델에 걸린 안전장치를 우회해 금지된 답을 얻어 내는 방식을 말한다.

모델이 실제 서비스에 들어간 뒤에는 계속 공격을 시도하는 레드팀 작업과 실행 중에 작동하는 가드레일을 함께 제공한다. 레드팀은 공격자 역할을 맡아 약점을 먼저 찾아내는 팀을 뜻한다. 기업 고객은 자체 내부 지침을 설정하고, 침해 상황을 모의로 돌려 보며, 시스템에 오가는 요청을 실시간으로 들여다볼 수 있다.

회사가 내세우는 자산은 ‘래빗 홀’이라는 자체 데이터베이스다. 디지털 사기와 극단주의, 조작 캠페인을 10년 가까이 추적하며 쌓은 유해 콘텐츠 기록으로, 이 자료를 근거로 생성형 AI를 겨냥한 공격을 탐지하고 차단한다. 별도 연구소에는 150명이 넘는 전문 인력이 있고, 주요 모델 개발사와 함께 실패 가능성을 미리 찾아 막는 일을 맡고 있다.

노암 슈워츠 최고경영자 겸 공동창업자는 “AI를 망가뜨리는 방법은 무한한데, 한 번도 본 적 없는 것은 막을 수 없다”며 “우리는 거의 10년 동안 수십억 명 규모에서 사람들이 기술을 어떻게 악용하는지 배웠고, 지금은 그 사람들이 건드리는 모델을 지키고 있다. 능력은 빠르게 대중화되는데 방어는 그러지 못했고, 이번 투자는 그 격차를 좁히기 위한 것”이라고 말했다.

앨리스는 이전에 액티브펜스라는 이름으로 운영됐고 본사는 뉴욕과 텔아비브에 있다. 이스라엘 매체 칼칼리스트는 이번 라운드의 기업가치를 7억~8억 달러로 전했다.

자세한 내용은 시큐리티위크에서 확인할 수 있다.

이미지 출처: 앨리스