아메리칸 익스프레스(아멕스)가 현지 시각 10월 13일 AI 에이전트가 고객이 승인한 내용과 다른 물건을 구매하지 못하도록 결제 직전에 확인하는 ‘인텐트 인텔리전스 프레임워크’를 공개했다. AI 에이전트는 사람 대신 검색과 예약, 구매 같은 작업을 처리하는 AI 프로그램이다. 아멕스는 같은 지시에도 매번 다른 결과를 낼 수 있는 AI 모델의 특성상 에이전트가 지시를 벗어나 고객이 원하지 않는 결제를 할 수 있다고 우려했다.

새 체계는 판매처 이름과 최대 예산, 원하는 상품 조건 등 고객이 에이전트에게 맡긴 구매 조건을 먼저 기록한다. 고객이 본인 인증을 거쳐 이 조건을 승인하면, 시스템은 고유 식별 번호와 승인 조건을 포함한 ‘구매 의도 증명 토큰’을 발급한다. 에이전트는 실제 카드 번호 대신 이 토큰으로 발급받은 결제 정보를 사용한다. 결제용 토큰은 실제 카드 번호를 노출하지 않도록 대신 사용하는 암호화된 정보다.

해나 보지언 아멕스 에이전트 파트너십·전략 부사장은 고객이 흰색 나이키 운동화 9 사이즈를 요청했는데 에이전트가 아디다스 운동화를 사려 할 경우, 요청에서 벗어난 거래로 판단해 결제를 막을 수 있다고 설명했다. 보지언 부사장은 아멕스가 다른 회사보다 앞선 단계에서 고객의 의도를 파악해 위험을 줄인다고 말했다. 그는 앞으로 에이전트가 휴지 같은 생활용품을 알아서 재주문하는 경우에도 이 확인 절차가 유용하다고 덧붙였다.

이 체계는 아멕스가 지난 4월 공개한 에이전트 결제 개발 도구 ‘ACE 개발자 키트’의 일부 서비스에 이미 적용됐다. 아멕스는 아직 에이전트 결제와 관련한 분쟁이 증가하지는 않았다고 밝혔다. 아멕스 조사에 따르면 미국 소비자의 66%는 앞으로 12개월 안에 최저가 검색에 AI 에이전트를 이용할 의향이 있다고 답했고, 61%는 제품 추천에 AI 에이전트를 이용하겠다고 답했다. 보지언 부사장은 어떤 에이전트가 언제 어떤 구매를 승인받았는지 기록이 남으면 에이전트를 악용한 사기에 대응하는 데도 활용할 수 있다고 말했다. 아멕스는 아멕스 결제 정보를 포함한 에이전트용 토큰 등 ACE 도구 도입을 두고 결제 업계 협력사들과 논의하고 있다. 아멕스는 이 체계가 업계 표준이 되기를 기대한다고 밝혔다.

자세한 내용은 테크크런치에서 확인할 수 있다.

이미지 출처: 아메리칸 익스프레스