졸음운전이나 전방 주시 태만 등 운전자의 실수 외에도 이제는 차량의 인공지능(AI) 오작동이 새로운 사고 원인으로 떠오르고 있다. 최근 중국에서는 링크앤코(Lynk & Co) Z20 차량이 운전자의 음성 명령을 잘못 해석해 주행 중 헤드라이트를 꺼버리는 황당한 사고가 발생했다. 이 사고로 차량은 중앙분리대를 들이받았으며, 사고 과정은 차량 블랙박스에 고스란히 담겼다.

실내등 끄라는데 헤드라이트까지… AI의 위험한 오해
사고 당시 운전자는 차 안의 독서등을 끄기 위해 일상적인 표현으로 음성 명령을 내렸다. 하지만 시스템은 이를 차량의 모든 등화류를 끄라는 명령으로 인식하여 주행 중임에도 불구하고 헤드라이트를 포함한 외장 램프를 즉시 소등했다. 당황한 운전자가 다시 목소리로 헤드라이트를 켜라고 시도했으나, 시스템은 "작업을 완료할 수 없다"는 답변만을 반복했다. 앞이 보이지 않는 암흑 상황에서 결국 차량은 중앙분리대를 들이받고서야 멈춰 섰다.

일반적으로 자동차 제조사는 안전과 직결된 전조등 같은 핵심 기능을 중앙 제어 장치에서 함부로 조작할 수 없도록 안전장치를 마련한다. 하지만 이번 사례는 자연어 처리 기술이 안전 로직보다 우선시되면서 발생한 예기치 못한 프로그래밍 오류로 보인다.




다른 전기차 브랜드도 취약… 업계 전반의 보안 문제로 확산
이번 사고 소식이 알려지자 중국 내 다른 전기차 오너들도 자발적인 테스트에 나섰다. 현지 매체에 따르면 지커(Zeekr)나 디팔(Deepal) 등 다른 브랜드 차량에서도 "모든 불을 꺼줘"와 같은 포괄적인 명령을 내리면 내장된 안전 시스템을 우회하여 헤드라이트가 꺼지는 현상이 확인됐다. 이는 특정 브랜드만의 문제가 아니라 음성 인식 비서를 탑재한 스마트카 전반에 걸친 보안 취약점일 가능성을 시사한다.

링크앤코 측은 즉각적인 대응에 나섰다. 무 준(Mu Jun) 링크앤코 영업 부총지배인은 소셜미디어를 통해 긴급 무선 업데이트(OTA)를 실시했다고 발표했다. 이번 업데이트를 통해 주행 중 부적절한 상황에서 음성 명령으로 헤드라이트가 꺼지지 않도록 로직을 수정했다.

스마트해진 자동차, '스마트 기기'의 고질병도 함께 상속
전통적인 차량 설계에서는 라이트 조작 같은 물리적인 제어 시스템이 상호 연동되어 오작동을 막아왔다. 하지만 모든 것이 디지털화되고 스마트해진 오늘날, AI가 모호한 입력을 잘못 해석할 경우 치명적인 결함으로 이어질 수 있다는 사실이 이번 사고로 증명됐다.

자동차 전문가들은 이번 사건이 대형 참사로 이어지지 않고 빠르게 수정된 점은 다행이지만, 자동차가 스마트 기기화될수록 기존 스마트폰이나 PC가 가졌던 기술적 결함도 함께 물려받게 된다는 점을 경고하고 있다. 첨단 편의 기능이 늘어날수록 안전을 지탱하는 기술적 보완책 역시 더욱 정교해져야 한다는 지적이다.

글 / 원선웅 (글로벌오토뉴스 기자)​
<저작권자(c) 글로벌오토뉴스(www.global-autonews.com). 무단전재-재배포금지>