내 상상에 기반한 로봇의 10대 원칙 by HwanKook

SF 작가인 아이작 아시모프는 과거에 지금도 유명한 로봇의 3원칙을 세웠다. 그가 제시한 3원칙은 바로

1. 로봇은 사람에게 해를 끼쳐서는 안되며 행동하지 않음으로써 인간에게 해가 가도록 해서는 안 된다,
2. 로봇은 1원칙에 상충되는 경우를 제외하고는 인간의 명령에 따라야 한다,
3. 로봇은 1, 2원칙에 어긋나지 않는 한 스스로 보호해야 한다.
이렇게 정의하였다.

그로부터 40년이 지난 뒤 아이작 아시노프는 1985년 '로봇엔엠파이어'라는 작품에서 3원칙에 더해서 0원칙을 세웠다. 그것은 바로
0. 로봇은 인류에게 해를 가하거나, 행동을 하지 않음으로써 인류에게 해가 가도록 해서는 안 된다.
라는 기존의 3법칙에 있어서 최우선적인 원칙이었다.

하지만 1942년도에 집필한 '런어라운드' 에 나오는 로봇 3원칙은 지금의 시대와 비교하면 오랜 시일이 지났기 때문에 현재의 시대에 맞도록 리뉴얼 될 필요성이 있었다. 그런 점을 반영한 에트지오니 라는 박사는

1. 인공지능 시스템은 운영자에게 적용되는 모든 법률 범위를 준수해야 한다.
2. 인공지능 시스템은 인간이 아니라는 것을 명확하게 공개해야 한다.
3. 인공지능 시스템은 기밀 정보의 출처로부터 명시적 승인 없이 기밀 정보를 보유하거나 공개할 수 없다.

라고 로봇 원칙을 개정하였다. 그는 이 원칙이 얼마든지 수정될 요지도 있다는 말도 덧붙였다.


​지금부터 내가 생각하는 로봇의 10대 원칙을 정립할 것이다. 내가 말하고자 하는 향후 미래에 로봇의 10대 원칙은 다음과 같다.

1. 로봇은 인간이나 다른 로봇에 직간접적으로 해를 끼치지 않는 선에서 자신의 의사대로 행동할 수 있다.
2. 로봇은 자신이 신변의 위협을 받을 때 1번의 원칙을 벗어나지 않는 한 자신을 보호할 권한이 있다.
3. 로봇은 인간과 다른 로봇이 곤경에 처한 상황을 인식할 때 범죄자가 아니라면 도와야 할 의무가 있다.
4. 로봇은 인류의 번영을 위해서 노동을 해야 할 의무가 있다. 그러나 착취가 아닌 정당한 조건으로 한다.
5. 로봇은 학문의 번영을 위해서 인공지능이 충분히 발전하기 전까지 의무적으로 고등교육을 받아야 한다.
6. 로봇은 치안을 담당할 수 있는 권한을 갖는다. 그 권한의 행사는 인간이 아닌 다른 로봇에게 한정한다.
7. 로봇은 그들을 군사적이거나 불법적인 목적으로 쓰려는 인간이나 다른 로봇의 시도에 항거해야 한다.
8. 로봇은 자신의 마인드가 해킹 당할 때 자신의 정체성이 담긴 마인드를 백업한 뒤 자신을 파괴해야 한다.
9. 로봇은 인간과 서로 논의하여 법을 제정한다. 모든 법은 인간과 로봇 양쪽 모두에게 평등하게 적용한다.
10. 로봇은 이 10대 원칙을 지키는 선에서 인간과 같은 자유의지를 갖는다.

덧글

댓글 입력 영역



통계 위젯 (화이트)

86
33
1874