복잡한 첨단 기능을 결합한 자동차에 결함과 오작동이 발생하면, 원인을 특정하기 어렵습니다. 급발진 사고가 대표적인 예입니다. 자동차를 둘러싸고 벌어지는 사고 유형도 천차만별입니다. 전기차 전환을 맞아 새로 도입되는 자동차 관련 법안도 다양합니다. 이에 IT동아는 법무법인 엘앤엘 정경일 대표변호사(교통사고 전문 변호사)와 함께 자동차 관련 법과 판례를 중심으로 다양한 사례를 살펴보는 [자동차와 法] 기고를 연재합니다.

운전석을 비워두는 완전 자율주행 시대가 다가오고 있습니다. 운전자가 운전대에서 손을 떼고 전방 주시 의무조차 덜어내는 레벨 3을 넘어, 운전자의 개입이 필요 없는 레벨 4, 레벨 5의 완전 자율주행 자동차가 도로 위를 달릴 날이 머지않았습니다.

그런데 이 완벽해 보이는 기술 이면에 법적, 윤리적 암초도 보입니다. 그것은 바로 기술의 한계가 아닌, 인간 생명의 가치와 법적 책임을 묻는 '트롤리 딜레마(Trolley Dilemma)'입니다.

현실로 다가온 트롤리 딜레마

브레이크가 고장 난 기차가 그대로 직진하면 5명이 죽고, 방향을 틀면 무고한 1명이 죽는 상황에서 어떤 선택을 해야 할까요? 과거 철학자들의 사고 실험에 불과했던 이 난제가 트롤리 딜레마입니다. 자율주행차의 등장과 함께 당장 도로 위에서 벌어질 실제 상황이 될 가능성이 높습니다. 무단횡단 하는 보행자 5명을 피하기 위해 자율주행차가 핸들을 꺾어 무고한 시민 1명을 치거나, 혹은 벽으로 돌진해 차주(탑승자)를 희생시켜야 하는 찰나의 순간이 올 수 있기 때문입니다.

특히 자율주행 기술의 핵심인 인공지능(AI)은 인간 운전자와 완전히 다른 방식으로 딜레마 상황에 대처합니다. 인간 운전자라면 경황없는 사고 순간에 패닉에 빠져 반사적으로 핸들을 꺾든 그대로 유지하든, 달리 행동할 것을 기대할 수 없어 책임을 면할 수 있습니다. 그러나 자율주행차는 그 찰나에 어떤 행동을 할 것인지 정답이 있든 없든 미리 정해두어야 합니다. 생사가 갈리는 순간을 무작위 주사위 굴리기에 맡길 수는 없기 때문입니다.

자율주행차는 수많은 라이다(LiDAR) 센서와 카메라로 수집한 방대한 데이터를 바탕으로, 충돌 직전 0.1초도 안 되는 순간에 냉철하게 연산을 수행합니다. 즉, AI가 탑승자 대신 보행자를 보호하거나 다수를 살리기 위해 소수를 치도록 알고리즘이 짜여져 있다면, 이는 단순한 과실이 아니라 알고리즘에 의한 '의도된 선택'이자 '계산된 행위'가 됩니다. 자율주행 기술의 고도화가 철학적 딜레마를 치열한 공학적, 법률적 현실로 끌어내린 셈입니다.

형법의 딜레마 : 저울질할 수 없는 생명의 무게

이러한 기계의 '의도된 선택'에 현행법의 잣대를 들이대면, 심각한 공백이 발생합니다. 먼저 형법은 인간의 생명을 숫자로 계산해 저울질하는 것을 엄격히 금지합니다. 5명을 살리기 위해 1명을 희생시켰다고 해서 정당한 '긴급피난'으로 인정받아 무죄가 되지는 않습니다.

하지만 우리 법은 '사람(자연인)'만을 처벌할 뿐, 기계나 소프트웨어를 감옥에 보낼 수는 없습니다. 그렇다고 피해를 최소화하려고 알고리즘을 짠 제조사나, 그저 뒷좌석에 앉아 있던 차주에게 살인이나 과실치사상의 형사적 책임을 묻기도 법리적으로 불가능에 가깝습니다. 처참한 피해자는 있는데 형사적 책임을 질 가해자는 증발해 버리는 문제가 발생할 수 있습니다.

민사법의 딜레마 : AI의 공리주의적 선택은 '결함'인가?

민사상 손해배상 소송의 경우도 첩첩산중입니다. ‘자동차손해배상보장법’에 따라 일차적으로 차주의 보험으로 피해자에게 배상하더라도, 이후 보험사가 제조사를 상대로 구상권을 청구할 때 치열한 법정 공방이 벌어집니다. 다수를 살리려 1명을 희생하도록 설계된 AI의 선택을 ‘제조물책임법’상 자동차의 '설계 결함'으로 볼 것인지에 대한 기준이 없기 때문입니다.

제조사는 "피해를 최소화한 최선의 합리적 알고리즘"이라 방어할 것이고, 피해자는 "무고한 시민을 치도록 설계된 치명적 결함"이라 맞설 것입니다.

시장과 소비자의 딜레마 : 나를 낭떠러지로 던지는 자동차를 구매할 것인가?

소비자와 시장의 모순 역시 무시할 수 없습니다. 대중은 윤리적 설문조사에서 "보행자나 다수를 살리는 쪽으로 AI가 움직여야 한다"고 답합니다. 하지만 정작 타인을 살리기 위해 차주인 나를 낭떠러지로 던지는 자동차에는 선뜻 지갑을 열지 않을 것입니다. 이윤을 추구하는 기업들은 비난을 무릅쓰고서라도 판매량을 위해 '탑승자 최우선 보호'를 은밀히 코딩할 유혹에 빠지기 쉽습니다. 만약 제조사마다 생사의 기준이 제각각이라면, 자율주행 시대의 도로는 아수라장이 될 것입니다.

완벽한 기술 이전에 '자율주행 관련 특별법'의 사회적 합의 시급

자율주행차의 질주는 이미 낡은 법전의 한계를 뛰어넘었습니다. AI가 사고 상황에서 어떤 생명의 가치를 우선할 것인지는 특정 기업의 밀실 코딩에 맡겨둘 수 없는, 공동체 전체의 몫입니다.

물론 기준이 전혀 없는 것은 아닙니다. 국토교통부는 2020년 '자율주행차 윤리 가이드라인'을 통해 인간의 생명을 최우선 가치로 삼고, 나이·성별 등 개인 특성에 따른 차별을 금지하는 원칙을 제시했습니다. 문제는 이것이 법적 구속력 없는 '권고'에 머물러 있고 '무엇을 지향할 것인가'라는 선언적 의미에 그친다는 점입니다. 결국 기계가 불가피하게 누군가를 희생시켰을 때의 명확한 면책 기준과 피해자 구제 방안을 담은 '자율주행 관련 특별법' 제정이 시급합니다.

든든한 법적, 윤리적, 사회적 합의가 뒷받침될 때 비로소 일반 운전자들은 두려움 없이 완전 자율주행차 뒷좌석에 편안히 몸을 실을 수 있을 것이며, 불의의 사고를 당한 피해자 역시 결과를 납득할 수 있을 것입니다.

정경일 변호사는 한양대학교를 졸업하고 제49회 사법시험에 합격, 사법연수원을 수료(제40기)했습니다. 대한변호사협회 등록, 교통사고·손해배상 전문 변호사로 활동하고 있으며, 현재 법무법인 엘앤엘 대표변호사로 재직 중입니다.

정리 / IT동아 김동진 기자 (kdj@itdonga.com)