사람과 사람이 죽고 죽이는 전쟁에 윤리적 문제가 없었냐. 왜 로봇에 지랄인데?
라고 하지만, 사실 저런 얘기가 마냥 나오는 것도 아니다.
예시를 들자면, 책임소재의 문제가 있음.
Ai가 탑재된 무인기의 전쟁범죄 행위에는, 이를 명확하게 책임질 주체를 찾기 어렵다는 의미이다.
그 행위를 한 당사자인 Ai?
Ai를 설계한 시스템 엔지니어? 그 엔지니어에게 지시한 기업?
혹은 그 Ai에게 오독과 환각의 여지가 있는 명령을 내린 군인?
이로 인해 책임의 공백이 더 발생할 수 있으며, 즉 '로봇의 돌발행동이다' 로 책임이 소멸된다는 것.
<a href="https://en.wikipedia.org/wiki/Civilian_casualties_from_the_United_States_drone_strikes" target="_blank" rel="noopener noreferrer">https://en.wikipedia.org/wiki/Civilian_casualties_from_the_United_States_drone_strikes</a>
굳이 Ai의 예시를 들지 않는다 해도, 이미 실제로 군인이 전장에 나가지 않는 드론을 이용한 작전은
'현장의 즉각적인 파악이 어렵다'는 이유로 과도한 부수적 민간인 피해를 발생시킨다는 점이 지적되었다.
이미 인간이 전장에서 몸을 뺀 결과가 그것이라면, 자율적으로 사고하는 로봇의 전장 투입은 더 많은 민간 피해를 불러일으킬 것이라 우려한다는게 마냥 기우는 아닌 셈.
그리고 두 번째 이유로는, 기계는 정말 '어떤 명령이든' 수행한다는 것이다.
그 명령이 얼마나 비윤리적이고, 얼마나 잔혹하고, 얼마나 비도덕적이든간에 전혀 개의치 않는다.
Ai와 기술로 락을 걸어 모든 전쟁범죄를 막을수 있다는 꿈같은 이야기는 하지 말자. 기술은 대기업, 고위층, 높으신 분들에 의해 제어된다.
그리고 우리는 그런 하늘 위의 권력가들의 도덕성을 맹신한다는 것이 얼마나 어리석은 일인지 알고 있다.
만약 그게 내란, 쿠데타, 혹은 시민에 의한 발포이든 로봇은 인간과 달리 어떠한 망설임과 감정 없이 이를 수행할 것이다.
그리고 현실에서 인간 군인들이 민중의 손을 잡고 권력자들의 개가 되길 포기한 수많은 사례들은, 그저 로봇이 아무 감정 없이 민중을 학살한 것으로 끝날 것이고.
뭐 찾아보니 대충 저렇다고 함.
로봇의 전쟁 투입에 비윤리성을 지적하는 이야기들은 많긴 한데, 개인적으로 공감되는 이야기 두개 골라서 가져와봤어
물론 저 이야기도 이렇게 저렇게 논파할수도 있고, 요래저래 반박할 부분도 있을거임.
하지만 이러나 저러나 격변하는 세상 속에서 아예 그런거 없다 취급할 이야기는 아니라고 생각해