https://www.youtube.com/ watch?v=wZtLcL8801. 문제 AI 기술이 점차 발전하면서 보다 고차원적인 의사결정에도 점차 AI를 적용해나갑니다. 그러면서 AI로 인한 새로운(?) 윤리적 딜레마도 발생하는 것 같습니다.
링크된 유튜브 영상에서는 자율주행 자동차가 사고 상황에 처했을 때 어떤 기준으로 의사결정을 해야 하는지에 대한 딜레마를 소개합니다.운전자 보호를 우선해야 하는지, 타인의 위험을 최소화해야 하는지 AI는 미리 정해 놓은 알고리즘과 우선순위에 따라 판단하는데 무엇을 기준으로 해야 하는지가 문제입니다.
이런 문제는 어떻게 대답해야 합니까?
제 생각에는 결국 기준을 무엇으로 할 것인지, 누가 정할 것인지, 누가 책임을 지느냐에 따라 달라질 것 같습니다.그리고 이에 대해서는 절대적인 정답은 없다고 봅니다. 왜냐하면 애초에 기준 자체를 평가하자는 것인데 기준 자체를 평가하기 위해서는 별도의 기준이 필요할 것이기 때문에 기준이 무한히 소급된다고 볼 수 있기 때문입니다.
어쩌면누가그문제를결정하느냐가가장중요하지않을까라고생각하고,그결정에대해서는그에비례하는책임을물어야하지않을까라고생각합니다.
2. 주체들이 단지 그 문제를 결정하는 데 관여할 수 있는 주체는 크게 보면 한 3명 정도가 있지 않을까 생각합니다.
- 사회 2) 기업 3) 소비자
- 1) 사회의 경우 사회라는 것은 실제에 비해 상당히 추상화 된 주체가기는 합니다. 어쩌면 특정 정부 기관으로 대표되는 국가일지도 모릅니다. 단, 국가 자체를 개인의 집합으로 보는 관점에서는 사회가 받아들일 수 있는 기준이 합의되어 그 기준을 정책화하는 것이 하나의 가능성이 아닐까요?
- 다만사회가사회전체를고려해서의사결정을한다면나로서는공리주의적인의사결정을하는게합리적이지않을까라는의견인데요. 정책상의 문제 옆에서는 사회의 공리를 기준으로 결정하도록 하는 것이 적당하지 않을까요?
- 2) 기업의 경우 기업이 의사결정을 하면 어떨까요? 실제로 특별한 기준이 없다면 실제로 생산 과정에서의 의사 결정이 실질적인 결과를 정의하게 될 것입니다. 그런 의미에서는 가장 실제적인 주체일 수 있습니다.
- 만약 특별한 기준이 없다면 기업은 기업의 이익을 극대화하는 선택을 하지 않을까 생각합니다. 소비자가 선택하는 기준, 또 법적 문제가 발생하면 책임 회피의 기준 같은 것이 될까요? 제가 기업의 주체(?)였던 적은 없으니 상상하기가 쉽지 않아요.
- 아마도 정책적인 결정의 영향 아래 이익을 최대화하는 선택을 할까요?
- 3) 소비자의 경우, 만약 기업이 소비자에게 선택권을 준다고 하면 어떨까요? 원래 관련 옵션을 두고 선택을 할 수 있도록 하는 것입니다. 간단히 생각하면, 자신을 지킬지, 공리를 우선시해야 할지를 결정하는 것입니다. 그러면 소비자 입장에서는 내가 결정할 수 있다는 게 장점일 수도 있겠네요. 내 가치에 맞는 선택을 할 수 있을 거예요. 다만 그런 선택지를 주는 것은 책임도 같이 주는 것이 아닐까 생각합니다. 옵션을 주었으니 책임을 다하고 나머지는 선택한 사람의 책임이라고 할 수 있지 않을까요?
- 개인적인 의견 제 생각에는 기본적으로는 공리주의적인 기준이 사회에서는 적당하지 않을까 생각합니다. 누군가의 목숨이 더 가치있다고 결정하기는 어렵지 않을까요?어쩌면 영상에 예로 나온 헬멧을 쓰거나 쓰지 않거나 하는 경우 등 세부적으로 계산하는 것은 지나칠지도 모릅니다. … 오히려 개인의 가치는 동등하게 강합니다만, 등가의 경우는 랜덤으로 결정하는 것이 좋을지도 모릅니다.
- 이런 건 어떨까요? 국가 전문기관이 관련 가이드라인을 정의해 그 가이드라인을 충족시켰음을 인증받고 합치시켰을 경우에는 기업이나 개인의 책임을 묻지 않고. 자율적으로 했을 경우에는 오판을 한 주체에게는 그에 비례하는 책임을 묻는다던가?
사실 인간인 이상 모든 상황을 예측하고 완벽한 대응을 하는 건 불가능하죠. 좋든 싫든 사고는 일어나겠죠. 그리고 그런 사고가 적절하게 억제(?)되기 위해서는 통제 가능한 영역 내에서는 의사결정자들에게 책임을 물어야 할 것 같습니다. 자기한테 피해가 오지 않을 때는 이기적인 선택을 할 수도 있고, 그런 선택이 결국 돌고 돌아서 우리에게 올 수도 있을 테니까요.
글쎄요. 과연 미래에 이런 문제에 대해 어떤 답이 나올까요?