테슬라 모델 3가 도로에 쓰러진 보행자(원 안)를 피해 마주오던 차량과 충돌한 직후의 모습 (X 영상 캡처)
[오토헤럴드 김흥식 기자] 도로를 달리던 테슬라 모델 3. 인도를 걷던 보행자가 갑자기 차도에 쓰러졌다. 반대편 도로에는 또 다른 차량이 빠르게 달려 오고 있다. 자칫 쓰러진 보행자가 크게 다칠 수도 있는 긴박한 순간, 테슬라 오토파일럿은 어떤 선택을 했을까?
최근 소셜미디어에서 테슬라 오토파일럿이 보행자를 보호하기 위해 의도적으로 다른 차량과 충돌을 선택했다고 주장하는 영상이 빠르게 확산하고 있다. 루마니아의 한 도로에서 촬영된 영상에는 테슬라 차량이 쓰러진 보행자를 피해 마주오던 차량과 충돌하는 모습이 담겨 있다.
차량이 어떤 판단을 했느냐에 따라서 피해의 주체가 크게 달라질 수 있는 상황이었다. 게시물 작성자는 이를 두고 “AI가 보행자를 보호하기 위해 차량 충돌을 선택했다”고 주장했다. 인간을 보호하기 위해 스스로 희생을 선택한 사례라는 것.
차량이 어떤 판단을 했느냐에 따라서 피해의 주체가 크게 달라질 수 있는 상황이었다. 이를 본 네티즌들의 반응은 제각각이다. 테슬라 오토파일럿이 인간을 보호하는 단계로 진화했다는 다소 엉뚱한 주장과 함께 만약 대항차가 대형 트럭이었다면 운전자는 사망했을 수도 있다는 지적도 나온다.
그러나 전문가들은 이러한 해석이 기술적으로 과장되었거나 오해일 가능성이 매우 높다고 지적한다.
현재 상용화된 자율주행 보조 시스템의 작동 원리는 이와 다르다. 테슬라 오토파일럿을 포함한 모든 첨단 운전자 보조 시스템(ADAS)은 특정 대상과의 충돌을 의도적으로 선택하는 방식이 아니라 충돌을 회피하거나 피해를 최소화하는 방향으로 설계됐다.
시스템의 목표가 누구와 충돌할지를 선택하는 것이 아니라 충돌 자체를 피하거나 충격을 줄이는 것일 뿐이라는 것이다. 이번 사례가 인간을 보호하기 위해 의도적으로 쓰러진 보행자를 피해 마주 오는 차량과의 충돌을 선택했다는 주장은 근거가 없다는 지적이 나온 이유다.
실제 차량에 적용된 자동 긴급 제동(AEB)과 충돌 회피 시스템은 센서와 카메라를 통해 주변 환경을 분석하고 가능한 경우 제동 또는 조향을 통해 충돌을 방지한다. 그러나 보행자가 갑자기 차량 전방에 등장하는 등 물리적으로 회피가 어려운 상황에서는 회피 동작 과정에서 다른 장애물과 충돌이 발생할 수 있다.
따라서 이 영상 역시 AI가 의도적으로 특정 대상을 선택했다기보다 충돌을 피하기 위한 회피 기동을 위한 단순 판단의 결과로 발생한 상황이라는 것이 전문가들의 지적이다.
자율주행 기술 전문가들은 현재 차량 AI가 윤리적 판단을 기반으로 특정 대상의 희생 여부를 결정하는 수준에는 이르지 않았다고 설명한다. 현재 시스템은 확률 기반 위험 분석과 충돌 최소화 알고리즘에 따라 작동할 뿐 인간처럼 가치 판단을 내리는 구조가 아니다.
영상에서 충돌 이후 차량이 후진 중 보행자를 감지하고 멈추는 모습은 실제 적용된 안전 기능일 가능성이 높다. 테슬라를 비롯한 주요 제조사는 후방 장애물 감지와 자동 제동 기능을 통해 2차 사고를 방지하는 기술을 이미 상용화했다.
자율주행 시스템은 분명 충돌 위험을 줄이고 보행자 안전을 향상시키는 방향으로 발전하고 있지만 특정 대상을 보호하기 위해 의도적으로 다른 대상을 희생하는 수준의 ‘윤리적 선택’을 수행하는 단계에는 아직 도달하지 않았다.
따라서 이번 영상은 AI가 인간을 대신해 윤리적 결정을 내렸다는 증거라기보다 충돌을 회피하려는 자동화된 안전 시스템이 극한 상황에서 작동한 결과를 과장되게 해석한 사례로 보는 것이 더 합리적이라는 분석이다.
김흥식 기자/reporter@autoherald.co.kr
ⓒ 오토헤럴드(http://www.autoherald.co.kr) 무단전재 및 재배포금지
게
