트롤리 딜레마는 윤리학에서 가정하는 사고실험 중 하나로 제동장치가 고장나 멈출 수 없는 트롤리(탄광차)가 소수 또는 다수의 사람을 희생할 수밖에 없는 상황에서 어느 쪽을 선택할지에 대한 질문으로 한국어로 광차문제라고도 한다.
스위치를 그대로 두면 여러 명이 죽고 스위치를 조작하면 한 사람이 죽으면 당신은 어떤 선택을 할까. 출처 : 나무위키
선로를 바꾸는 스위치를 조작하느냐 마느냐로 조작하지 않을 경우, 다수가 희생되고 조작할 경우 소수가 희생되는 이 문제에서 어느 쪽이 이득이 되는가에 대해 이야기하기도 하는데, 이 문제는 어느 쪽이 도덕적인가 하는 판단에 대한 고민이 존재하기 때문이다.
당신은 과연 그 철도 스위치 레버를 당기는가? 이미지 : depositphotos
자동차 자율주행은 매우 매력적인 기술이다.그러나 자동차가 사고를 앞둔 상황에서 피해를 최소화하는 판단을 스스로 하게 되면 결코 단순하지 않은 윤리적 문제가 발생할 수 있다.
출처 : Whyself-driving carsmust be programmed tokill-MITtechnology review
A사례 : 직진하면 10명의 보행자를 치게 되고, 다른 방향으로 돌리면 1명의 보행자를 치게 되는 경우 B사례 : 직진하면 1명의 보행자를 치게 되며, 다른 방향으로 돌리면 탑승자가 다치는 경우 C사례 : 직진하면 10명의 보행자를 치게 되고, 다른 방향으로 돌리면 탑승자가 다치는 경우
이 명제는 2015년 MIT공대에서 설문조사한 것으로, 세 가지 질문에 대해 대부분 적은 희생이 발생하는 공리주의적 판단을 하면서도 B와 C 사례의 경우 탑승자가 다치는 판단을 하는 자율주행차를 구매하지 않겠다고 답한 것으로 알려졌다.
언젠가 이런 미래가 다가오겠지만 아직 해결한 문제가 남아 있다. 이미지 : depositphotos
국토교통부는 2020년 12월 자율주행차 윤리 가이드라인을 발표했다.자율주행차 운행 알고리즘의 윤리성을 다룬 이 가이드라인은 자율주행차가 인명보호를 최우선하도록 설계·제작돼야 한다는 원칙을 중심으로 한다.
가이드라인 제정을 위해 국토교통부는 같은 해 8월 한국교통안전공단, 국토교통과학기술진흥원, 한국교통연구원, 한국자동차안전학회, 한국윤리학회, 대한교통학회, 인공지능윤리협회 등 유관기관과 공동 논의를 위한 ‘윤리가이드라인 공개토론회’를 열고 그 결과를 발표하게 된 것이다.
발표된 가이드라인에서는 자율주행차는 재산보다 인간의 생명을 최우선적으로 보호할 것, 사고 회피가 불가능할 경우 인명피해를 최소화할 것 등 자율주행차 제작자가 지켜야 할 내용을 제시하고 있으며, ‘자율주행차 운행이 타인의 자유와 권리를 침해하지 않도록 할 것’, ‘올바른 운행을 위해 안전교육을 받을 것’과 같이 자율주행차 이용자가 지켜야 할 윤리도 제시하고 있다.
자율주행의 윤리적 문제 앞에서도 어떤 선택이 피해를 최소화할 수 있는지를 따질 수밖에 없다. 이미지 : depositphotos
2022년 현재 자율주행자동차 상용화에 대비하여 자율주행자동차의 정의 및 운전자 준수사항 등을 규정한 「도로교통법」이 4월 20일 일부 개정되었는데 개정법에서는 먼저 「자율주행시스템」에 대해 정의하고 자율주행시스템의 종류를 완전자율주행, 부분자율주행 등으로 세분할 수 있도록 하였다(법 제2조 제18호의2). 또한 자율주행자동차를 「「자동차관리법」 제2조제1호의3에 따른 자율주행자동차로서 자율주행시스템을 갖춘 자동차」로 정의하였다(법 제2조 제18호의3).
한편 완전자율주행자동차를 제외한 자율주행자동차에서 해당 시스템의 운전자 직접운전 요구가 있을 경우 운전자가 지체 없이 대응하도록 규정하고(제50조의2 신설), 운전자가 상기 대응의무 조항을 위반할 경우 20만원 이하의 벌금이나 구류 또는 과료에 처하도록 했다(제156조제6호의2 신설).
완전한 자율주행은 언제쯤? 이미지 : depositphotos
아직 탑승자가 전혀 개입하지 않은 상태의 완전자율주행 기술이 상용화되지 않아 이 같은 법 개정이 문제가 없다고 하더라도 향후 가까운 미래에 완전자율주행자동차가 상용화될 경우 사고 시 누구에게 책임을 지울지에 대한 논의는 아직 끝나지 않은 것이다.