키트와 자율주행자동차

◇ 인류는 인공지능 시대를 곧 맞이한다.

 

이세돌과 알파고의 바둑 대결, 바둑 초짜였던 저도 정말 재미있게 지켜보았습니다. AI 기술은 매우 빠르게 발전이 되고 있으며, 인류는 머지않은 미래에 등장할 AI를 기다리고 있습니다. 하지만, 인류는 정말로 AI를 맞이할 준비가 되어 있을까요?

 

AI(인공지능, Artificial Intelligence)하면 가장 먼저 떠오르는 것은 영화 아이언맨의 인공지능 비서 ‘자비스’을 통해서 일 것입니다. 하지만 여러분이 만약 아재라면 그보다는 미드 전격Z작전(Knight Rider)의 인공지능 자동차 ‘키트’를 떠올릴 것입니다.

 

 

◇ 자율주행 자동차

 

키트는 정말 선풍적인 인기를 누렸습니다. 아재라면 누구나 한번쯤은 자기 손목시계에 대고 키트를 부른 적이 있을 것입니다. 키트는 혼자 생각하고 상대방과 대화하고 혼자 운전도 가능한 인공지능자동차였습니다.

 

현재 세계 여러 자동차 회사들은 키트가 가진 이러한 완벽한 인공지능 기능까지는 아니더라도 키트가 선보였던 자율주행 기술을 개발하여 상용화하려고 하고 있습니다. 물론 엄밀히 말하여 자율주행 기술과 인공지능은 전혀 별개의 것일 것입니다. 그런데, 인공지능을 개발하기에 앞서 자율주행 기술에 있어서도 필수적으로 들어가는 요소가 있습니다. 바로 윤리적 기준입니다.

 

◇ 자율주행 자동차가 교통사고를 내면, 책임은 누구에게 있을까?

 

자동차 사고는 우리 일상에서 매우 빈번하게 일어나는 일입니다. 자율주행자동차라고 사고가 일어나지 않을까요? 자동차 사고는 운전자의 과실 뿐만 아니라 상대방 과실 등 여러 가지 복합적인 원인이 작용하여 일어납니다.

 

자율주행 자동차가 사고를 내면 누구의 책임이 될까요? 자율주행 모드에서 사고가 일어난다면 운전자의 과실은 인정되지 않을 것이므로 운전자의 책임이 아닌 자동차 제조회사의 제조물 책임이 될 것입니다.

 

◇ 자율주행 자동차와 트롤리 딜레마

 

그런데 문제가 되는 것은 자율주행 자동차가 충돌사고를 내는 대상에 있습니다. 특히 트롤리 딜레마(Trolle Delemma)가 문제가 됩니다. 상대방 차가 중앙선을 침범하여 돌진합니다. 자율주행 모드에서 자동차는 이것을 인지하고 피하기 위하여 운전대를 틉니다. 그런데, 그 앞에는 보도 위를 지나가던 사람들이 있습니다. 자율주행 자동차 제조회사는 자율주행 기술을 개발할 때 이 경우 사람들을 보호하기 위하여 직진을 하라고 프로그래밍할까요, 아니면 운전자를 보호하기 위하여 방향을 틀라고 프로그래밍할까요?

 

 

 

운전자가 직접 운전을 한다면 그 짧은 시간동안 많은 생각을 할 것입니다. 앞에 있는 사람들이 어른인지 아이인지, 남성인지 여성인지, 한 명인지 여러 명인지 등등에 대해서 생각을 하고 운전대 방향을 틀 것인지에 대하여 정할 것입니다. 하지만 자율주행 자동차는 오직 자동차회사에서 프로그래밍된 대로만 움직이게 됩니다.

 

◇ 국민의 합의가 필요한 지식재산권도 있다

 

자동차제조회사가 보도 위의 사람들을 보호하도록 시스템을 갖출 것이라고 생각한다면 너무나 순진한 것 같습니다. 운전자라면 자신이 보호되는 쪽을 선호할 것이고, 일반 시민들이라면 사람들이 적게 다치는 쪽을 선호할 것입니다. 보험회사라면 비용이 적게 드는 쪽을 선호할 것입니다. 언뜻 생각하기에는 일반 시민의 공리주의적 사고방식이 제일 합당하다고 생각될 수도 있습니다. 하지만 여기에 사회적 평가 요소가 들어간다면 또 달라지게 됩니다. 내가 운전자가 된다면 나를 보호하지 않도록 설계된 차량을 구매할까요?

 

그에 대한 입법은 어떻게 이루어질까요. 여러 이익단체가 자신에게 유리하도록 입법이 되도록 노력합니다. 예를 들어, 교통사고처리 특례법이라는 것이 있습니다. 이 법은 업무상과실(業務上過失) 또는 중대한 과실로 교통사고를 일으킨 운전자에 관한 형사처벌 등의 특례를 정함으로써 교통사고로 인한 피해의 신속한 회복을 촉진하고 국민생활의 편익을 증진함을 목적으로 합니다. 그런데, 이 법은 사실상 일반 시민들을 위한 법이 아니고, 자동차 사고가 나도 운전자를 보호하기 위한 법입니다. 운전자가 뺑소니 또는 11가지 도로교통법상 중대위반행위에 의한 교통사고를 일으키지 않는 한, 운전자가 종합보험에 가입되어 있기만 하면 교통사고를 일으켜도 처벌하지 않습니다. 이것은 교통사고에 대한 걱정을 하지 말고 자동차를 구매해서 활용하라는 정책적 입법입니다. 어떻게 보면 자동차 제조회사를 위하여 균형이 기울어져 있는 것도 같습니다.

 

교통사고처리 특례법

제1조(목적) 이 법은 업무상과실(業務上過失) 또는 중대한 과실로 교통사고를 일으킨 운전자에 관한 형사처벌 등의 특례를 정함으로써 교통사고로 인한 피해의 신속한 회복을 촉진하고 국민생활의 편익을 증진함을 목적으로 한다.

 

 

 

자율주행 자동차의 경우에는 어떻게 될까요? 운전자를 보호하는 방식의 입법이 이루어질 가능성이 높습니다. 그런데 이에 대해서 국민의 합의가 이루어진 것일까요? 외국의 자율주행 자동차 기술을 그대로 들여와서 아무런 국민의 합의 없이 그대로 사용하는 수동적 입법의 형태로 될까요? 일부 선진국이 주도하는 자율주행자동차 기술을 따라잡는데 급급하여 기술보다 중요한 문제에 대하여 간과하고 있는 것은 아닌지 우려가 됩니다.

 

 

 

 

여러 다른 나라에 비하여 우리나라는 시민에 의한 입법 감시 체계가 부실합니다. 그래서 더 걱정입니다. 자율주행 자동차는 바로 코 앞에 다가와 있습니다. 자율주행 기술에서 우리가 택한 방식은 언젠가 AI에도 그대로 적용이 될 것입니다. 가치판단은 여전히 AI가 아닌 사람의 고유영역이며 AI는 이를 그대로 따르게 될 것이기 때문입니다. 키트는 운전자를 보호하기 위하여 길가의 사람들을 덮칠 수도 있게 됩니다.

 

제가 너무 나간 것일까요?