곧 완전 자율주행차 시대가 올 것 같아요.
현재까지 자율주행차는 부분자율주행이나 조건부 자율주행차, 즉 레벨2나 레벨3에 그쳤지만 혼다자동차가 2021년 세계 최초로 레벨3 자율주행차를 대량생산하고 테슬라도 21년 내 레벨5 자율주행 기술을 완성하겠다는 계획을 발표했습니다.
자율주행차 5단계인 현대차도 2021년까지 스마트시티 내 4단계 수준의 도심형 자율주행 시스템을 상용화하고 2030년까지 완전 자율주행 기술을 상용화할 계획이라고 합니다.
현대차의 자율주행 같은 자율주행차 시대가 도래하면서 자율주행차의 트롤리 딜레마가 화제가 되고 있습니다.
예를 들어 자율주행 중인 차량이 운행 중 탑승자의 생명이 위험한 상황에 처했을 때는 당연히 이를 피하기 위해 핸들을 돌릴 텐데, 이 경우 핸들을 돌리는 방향에 있던 보행자가 있는 경우 자율주행 시스템은 어느 쪽을 선택해야 할까요?
또 직진할 경우에는 앞에 있는 대형 트럭과 부딪힐 위기에 처해서 왼쪽이나 오른쪽으로 핸들을 돌려야 하는데 왼쪽에는 아이가, 오른쪽에는 노인이 있다면 어느 방향으로 핸들을 돌려야 할까요?
트롤리 딜레마는 이와 마찬가지로 다수를 구하기 위해 소수를 희생해도 되는지를 판시해야 하는 문제 상황을 가리키는 말입니다.트롤리 딜레마 트롤리 딜레마 문제는 다음과 같습니다.
브레이크가 고장난 기차가 질주하고 있어요.
브레이크가 고장난 트롤리 기차인데 기차(트롤리)가 질주하는 방향 레일 위에는 5명의 인부가 일하고 있는데 기차가 방향을 바꾸지 않고 그대로 달리면 5명의 노동자는 죽게 됩니다.
유일한 방법은 전철의 방향을 바꾸는 것이지만, 다른 방향의 레일 위에도 한 명의 작업자가 일하고 있습니다. 그래도 기차 방향을 바꿀래요?
트롤리 딜레마 롤리 문제는 영국의 윤리철학자인 필리퍼 후트가 제안한 것으로 응답자의 89%가 방향을 바꿔야 한다고 응답했다고 합니다.
즉 요약하면 5명을 살리기 위해 1명을 죽여도 되느냐는 문제가 바로 트롤리의 딜레마입니다.
최대 다수의 행복을 목적으로 하는 공리주의적 관점에서는 당연히 한 명을 희생하더라도 다섯 명을 구해야 하지만 정해진 답은 아닙니다. 정답은 없는 문제죠.
이 트롤리의 딜레마에서 파생되는 문제도 있습니다.
당신은 육교 위에서 기차가 달리는 모습을 지켜보고 있어요. 그런데 이 열차는 역시 브레이크가 고장나서 무서운 속도로 달리고 있는데 달리는 방향 레일 위에는 5명의 작업자가 일하고 있습니다.
방향을 바꿀 레일도 없이 뭔가 무거운 것을 떨어뜨려 전철을 멈춰야 합니다. 그런데 육교 위에는 뚱뚱한 사람이 한 명 있는데, 이 사람을 육교 아래로 누를 경우 전철을 세울 수 있습니다.
이 경우 당신은 뚱뚱한 사람을 눌러 5명을 돕습니까?
트롤리의 딜레마 파생 문제는 미국 철학자인 주디스 톰슨이 트롤리 딜레마에 이어 추가적으로 제기한 문제입니다.
기존의 트롤리 딜레마와 마찬가지로 1명을 희생해서 5명을 구하는 것이나, 이 문제에 대해서는 응답자의 78%가 뚱뚱한 사람을 육교 아래로 밀면 안 된다고 답했다고 합니다.
두 문제의 답변이 완전히 상반되는데 공리주의에 따르면 당연히 한 명을 희생하고 다섯 명을 도와야 합니다.
그러나 두 질문의 다른 점은 트롤리 딜레마에서는 한 사람의 죽음은 행위자의 의도와 상관없이 어쩔 수 없는 결과이지만 파생 문제에서는 행위자의 직접적인 행위로 한 사람의 죽음이 발생한다는 점이 다릅니다.
실제로 파생 문제 같은 상황이 발생하면 대부분의 사람들은 5명이 죽도록 방치할 가능성이 매우 높습니다.
신경윤리학자 조슈아에 따르면 이는 사람을 직접 죽일 때에는 사람의 뇌에 강한 부정적 반응이 나타나기 때문이라고 합니다.
이처럼 사람의 경우에도 쉽게 결정할 수 없는 윤리적 선택을 과연 인공지능이 어떻게 할 것인지에 대한 문제가 자율주행차에 남아 있는 것입니다.
즉 트롤리 딜레마는 자율주행차가 실제 상용화되기 위해서는 기술뿐만 아니라 윤리적 가치까지 판단해야 하는데 이는 사실상 불가능하기 때문에 무사고에 이를 정도의 기술을 개발하거나 전용차로 등 통제된 환경을 구축해 변수를 최소화해야 함을 시사합니다.