https://www.youtube.com/ watch?v=wZtHL_cL8801. 문제 AI 기술이 점차 발전하면서 보다 고차원적인 의사결정에도 점차 AI를 적용하고 있습니다. 그러면서도 AI로 인한 새로운(?) 윤리적 딜레마도 발생하고 있다.
링크된 유튜브 동영상은 자율주행 자동차가 사고 상황에 맞닥뜨렸을 때 어떤 기준으로 의사결정을 해야 하는지에 대한 딜레마를 소개하고 있습니다.운전자 보호를 우선할지, 타인의 위험을 최소화할지, AI는 미리 정해진 알고리즘과 우선순위에 따라 판단할 텐데 무엇을 기준으로 할지가 문제입니다.
이런 문제에 어떻게 대답해야 할까요?
제 생각에는 결국 기준을 무엇으로 정했는지, 누가 결정할지, 누가 책임을 지느냐에 따라 달라질 것 같습니다.그리고 이것에 대해서는 ‘절대적인 정답’이 있다고는 생각하지 않습니다. 왜냐하면 원래 ‘기준 자체’를 평가하려는 것인데 기준 자체를 평가하기 위해서는 별도의 기준이 필요할 것이기 때문에 기준이 무한소급될 것으로 생각되기 때문입니다.
어쩌면 누가 그 문제를 결정하느냐가 가장 중요하지 않을까 싶어서 그 결정에 대해서는 그에 비례해서 책임을 물어야 하지 않을까 싶습니다.
2. 주체들이 먼저 그 문제를 결정하는 데 관여할 수 있는 주체는 크게 보면 한 3가지 정도가 있지 않을까 생각합니다.
- 사회 2) 기업 3) 소비자
- 사회의 경우 사회라는 것이 실제에 비해 추상화된 주체이기는 합니다. 어쩌면 특정 정부 기관으로 대표되는 국가일지도 모릅니다. 다만 국가 자체를 개인들의 집합으로 보는 관점에서는 사회가 받아들일 수 있는 기준이 합의되고 그 기준을 정책화하는 것이 하나의 가능성이 아닐까요?
- 다만사회가사회전체를고려해서의사결정을한다면나로서는공리주의적인의사결정을하는게합리적이지않을까하는의견인데요. 정책상의 문제는 사회의 공리를 기준으로 결정하는 것이 적당하지 않을까요?
- 2. 기업의 경우 기업이 의사결정을 하면 어떨까요? 실제로 특별한 기준이 없다면 실제로 생산 과정에서의 의사 결정이 실질적인 결과를 정의하게 될 것입니다. 그러한 의미에서는 가장 실제적인 주체라고 할 수 있습니다.
- 만약 특별한 기준이 없다면 기업은 기업의 이익을 극대화하는 선택을 하지 않을까 생각합니다. 소비자로부터 선택받는 기준, 또 법적 문제가 발생했을 때 책임을 면하는 기준 같은 것이 되나요? 제가 기업의 주체(?)였던 적은 없기 때문에 상상하기가 쉽지 않습니다.
- 아마도 정책적인 결정의 영향 아래 이익을 최대화하는 선택을 하는 것일까요?
- 소비자의 경우, 만약 기업이 소비자에게 선택권을 준다면 어떨까요? 처음에 관련 옵션을 두어 선택할 수 있도록 합니다. 쉽게 생각하면 자신을 지킬 것인가, 공리를 우선할 것인가 하는 것을 결정하도록 하는 것입니다. 그럼 소비자 입장에서는 내가 결정할 수 있는 건 장점이기도 하겠죠. 내 가치에 맞는 선택을 할 수 있을 거예요. 단, 그러한 선택지를 주는 것은 책임도 함께 지게 하는 것이 되지 않을까 생각합니다. 옵션을 했으니까 책임을 다하고 나머지는 선택한 사람의 책임이라고 할 수 있지 않을까요?
- 3.개인적인 의견제의 생각으로는, 기본적으로는 공리주의적인 기준이 사회에서는 타당하다고 생각합니다. 누군가의 목숨이 더 가치있다고 결정하기는 어렵지 않을까요?어쩌면 영상에 예의 그 헬멧을 쓰거나 쓰지 않거나 하는 것까지 세세하게 체크하는 것은 지나칠지도 모릅니다.오히려 개인의 가치는 동등하게 세지만, 등가의 경우는 랜덤으로 결정하는 편이 좋을지도 모릅니다.
- 이런 건 어떨까요? 국가의 전문기관에서 관련 가이드라인을 정의해 그 가이드라인을 충족하고 있음을 인증받고, 거기에 합치했을 경우, 기업이나 개인의 책임을 묻지 않고. 자주적으로 행했을 경우에는 오판을 한 주체에게는 그에 비례하는 책임을 묻는다던가?
사실 인간인 이상 모든 상황을 예측하고 완벽하게 대응하는 것은 불가능하죠. 좋든 싫든 사고는 일어나게 되요. 그리고 그러한 사고를 적절하게 억제(?)되기 위해서는 통제 가능한 영역 내에서의 의사결정자에게 책임을 물어야 합니다. 자기자신에게피해가돌아오지않을때는이기적인선택을할수도있고그런선택이결국돌아가서우리에게오기도할것입니다.
글쎄요. 장차 이런 문제에 대한 답이 뭔가요?