AI의 환각(hallucination)과 사실 오류를 막는 데 집중하는 스타트업 프로버블리(Probably)가 시드 투자를 유치했다. 테크크런치(TechCrunch)에 따르면 프로버블리는 6월 16일 벤처캐피털 앤드리슨 호로위츠(Andreessen Horowitz)로부터 900만 달러(약 136억 원)를 조달했다고 밝혔다.

이 회사의 목표는 잘못된 정보나 단순한 사실 오류가 이용자에게 전달되기 전에 차단하는 것이다. 결정론적 시스템에서는 흔한 99.99% 수준의 정확도를 AI에서도 달성하겠다는 구상이다. 확률적으로 답을 생성하는 AI 특성상 이런 정확도는 도달하기 어려운 목표로 꼽혀 왔다.

AI 환각은 생성형 AI의 실용화를 가로막는 핵심 난제로 지목된다. 모델이 그럴듯하지만 틀린 답을 내놓을 경우, 의료·금융·법률처럼 정확성이 중요한 영역에서는 치명적 오류로 이어진다. 한 번의 잘못된 정보가 의료 진단이나 계약 검토에서 큰 피해를 부를 수 있어, 기업이 AI를 핵심 업무에 쓰기 망설이는 이유가 돼 왔다. 이 때문에 모델의 출력을 검증하고 오류를 걸러내는 기술이 별도의 시장으로 형성되고 있다.

프로버블리의 투자 유치는 AI 신뢰성이 독립적인 사업 영역으로 자리 잡고 있음을 드러낸다. 더 똑똑한 모델을 만드는 경쟁과 별개로, 그 모델이 내놓는 답을 믿을 수 있게 만드는 기술의 가치가 커지는 흐름이다. 특히 기업이 AI를 실제 업무에 도입하려면 결과의 정확성을 담보하는 장치가 전제돼야 하는 만큼, 검증 계층에 대한 수요가 빠르게 늘고 있다. 앤드리슨 호로위츠 같은 대형 투자자가 초기 단계 기업에 베팅한 점은, 이 분야의 성장 가능성을 높게 본다는 의미로 해석된다.

AI 도입이 확산될수록 신뢰성을 담보하는 기술의 중요성도 함께 커질 전망이다. 똑똑함과 정확함을 분리해 각각을 전문화하는 흐름은 AI 산업의 구조를 한층 정교하게 만든다. 모델을 만드는 기업과 그 출력을 검증하는 기업이 역할을 나눠 협력하는 생태계가 형성되고 있다. 프로버블리처럼 오류 차단에 특화된 기업이 늘어나면, AI를 민감한 업무에 적용하는 문턱도 낮아진다.

국내 기업에도 적용할 수 있다. AI를 고객 응대나 의사결정 지원에 도입하려는 조직이라면, 모델 자체의 성능뿐 아니라 출력의 정확성을 검증하는 체계를 함께 갖추는 것이 도입의 안정성을 좌우한다. 정확성을 담보하는 장치가 갖춰질수록 AI를 적용할 수 있는 업무의 범위도 넓어진다. 프로버블리의 사례는 신뢰성 기술이 AI 활용의 필수 요소로 부상하고 있음을 드러낸다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성