인공지능과 윤리에 대한 짧은 생각

몇 년 전 번역서인 “컴퓨터 개론”에 나온 연습문제를 봤습니다. 그리고 충격을 받았습니다. 1단원 연습문제입니다. 생각해볼 가치가 있는 듯하여 옮겨 적어봅니다.

 

ch1. Introduction

 

1. 우리 사회는 컴퓨터 혁명이 없었을 경우의 사회와는 다른 모습일 것이라는 가정은 일반적으로 인정되고 있다. 우리 사회의 모습은 컴퓨터 혁명없이 도래한 사회에 비해 더 나은 사회인가? 아니면 더 나쁜 사회인가? 사회에서의 지위에 따라 이 대답은 달라질 것인가?

 

2. 기술의 기초를 이해하려는 노력없이 오늘날의 기술 사회를 살아가도 좋은 것인가? 예를 들면, 기술을 어떻게 지원하고 사용할 지에 대해 투표권을 갖는 민주사회의 구성원들이 그러한 기술을 이해하려고 노력할 의무를 갖는다고 보는가? 이 대답은 기술에 따라 달라지는가? 예를 들면, 핵 기술과 컴퓨터 기술에 대해 앞의 질문에 대한 대답은 동일할 것인가?

 

4. 대화형 TV 환경에서 방송사가 (대화형 게임 등의 형식을 통해) 어린이들에게 수집하는 정보는 어느 선까지 허용해야 할 것인가? 예를 들어, 어린이에게서 부모의 구매 패턴에 대한 보고서를 받는 것은 허용해야 한다고 보는가? 어린이 자신에 관한 정보의 경우는 어떤가?

 

6. 기술 일반에 관한 결정, 특히 컴퓨터 기술에 관한결정은 미래 세대에 어느 정도의 영향을 미치게 될까?

 

8. 공공도서관의 개념은 민주사회의 모든 국민은 정보접근이 보장되어야 한다는 전제에 근거하고 있다. 보다 많은 정보가 컴퓨터 기술을 통해 저장되고 배포되는 지금, 컴퓨터 기술에 대한 접근권이 모든 개인에게 보장되어야 하는가? 그렇다면, 공공도서관이 그러한 역할의 접근 채널이 되어야 한다고 보는가?

 

9. 추상적 도구들의 사용에 의존하는 사회에서 발생하는 윤리적 문제에는 어떤 것이 있을까? 동작 원리에 대한 이해 없이 제품이나 서비스를 사용하는 것이 비윤리적인 경우가 있을까? 어떻게 제조되는지 모를 경우라면 어떨까? 또는 그 사용의 부산물을 이해하지 못하는 경우라면 어떨까?

 

10. 우리 경제가 점차 자동화되면서 정부가 국민의 금융활동을 감시하는 것이 용이해지고 있다. 이는 좋은 일일까, 나쁜 일일까?

 

11. 조지 오웰이 “1984”라는 소설에서 상상했던 기술들 중 현실화된 것들에는 무엇이 있는가? 이들은 오웰이 예측한대로 사용되고 있는가?

 

13. 당신의 직업으로 인해 다른 문화권 지역에 거주해야 한다고 가정해 보자. 자신의 원래 문화권의 윤리 지침을 고수해야 할까? 아니면 현재 거주하는 문화권의 윤리 지침을 적용해야 할까? 당면 이슈가 옷차림새인지 아니면 인권문제인지에 따라 대답이 달라지는가? 자신의 원래 문화권에 거주하면서 다른 문화권과 사업을 수행하는 경우 어느쪽 윤리적 기준을 따라야 할까?

 

연습문제의 내용이 너무 좋아 옮겨 적은 것 중 일부입니다. 기술을 다루는 책에서 이런 인문학적인 질문을 던진다는 것이 감탄을 넘어 소름이 돋게 만들었습니다.

 

제가 생각하는 몇 가지를 적어보겠습니다.

 

자동차의 블랙박스에 영상을 저장하는 방법 중 이벤트 모드가 있습니다. 차에 충격이 가해지거나 저장하고 싶은 영상이 있을 때 녹화버튼을 누르는 방법입니다. 차에 충격이 있을 때 녹화가 된다고 하지만 충격이 있기 전의 상황을 알 수 있어야 합니다. 그래서 이벤트 모드는 충격이 있기 10초 전부터 충격 후 20초까지 저장됩니다. 녹화 버튼을 누르는 경우도 마찬가지입니다.

이것은 항상 녹화가 되고 있는 상황에서 충격 발생 또는 녹화 버튼 누르기 10초 전부터 영상만 저장된다는 것입니다. 그러니까 녹화는 계속 이루어지고 있다는 것입니다.

 

인공지능 스피커가 있습니다.

저희 집에 있는 인공지능 스피커는 “헤이 카카오” 부르면 그때부터 응대를 합니다. 항상 녹음이 되고 있는 상황이고 “헤이 카카오”라는 소리가 들리면 작동을 하는 것입니다. 자동차 블랙박스와 비슷하다고 생각하면 될 것 같습니다.

음성에 대한 교육을 들을 때 강사께서 저 부분이 회사에서 녹음하지 않는다고 합니다. 하지만 와이파이나 인터넷으로 연결된 상황이라면 누군가의 해킹으로 집안에서 발생하는 소리를 모두 저장할 수도 있다는 의미입니다. 위에 말씀드린 연습문제 4번과 비슷한 상황이 아닐까요? 이럴 경우 우리는 어떤 윤리적 기준이 필요하게 되는 것인가요? 이 부분에 대해 고민을 해봐야 되지 않을까 하는 생각입니다.

 

인공지능은 자율주행차에도 적용될 것입니다.

자율주행하는 차 앞에 갑자기 사고가 났습니다. 브레이크가 작동되더라도 앞에 스쿨버스와 충돌할 것 같습니다. 그렇게 됐을 때 속도와 무게를 고려했더니 많은 사상자가 발생할 것 같습니다. 방향을 오른쪽으로 돌려 인도로 침범하면 인도에 있던 사람 소수가 위험해질 것 같습니다.

자율주행차에 탑재된 인공지능은 어떤 선택을 해야 할까요? “정의란 무엇인가”에 나오는 것처럼 공리주의에 입각해 판단해야 할까요?

이런 부분에 대한 철학과 윤리적 판단을 어떻게 학습을 시키는 것이 좋을까요?

 

인공지능으로 “빅브라더”에 지배받는 세상이 되면 얼마나 삭막해질지 걱정이 되기도 합니다. 저희가 기술 분야를 배우고 있지만 인문학적인 소양도 같이 학습해야 좋지 않을까 하는 생각에서 글을 써 봅니다.

 

그래서 저는 오늘 모처럼 책을 읽을 예정입니다. 다음과 같은 문장으로 시작하는 책입니다.

 

“역사가 우리를 망쳐 놨지만 그래도 상관없다.”