로봇 공학 3원칙이 던지는 질문
『아이, 로봇』을 읽고
1. 로봇공학의 아버지, 아시모프와의 조우
아이작 아시모프(1920~1992). 과학소설의 천재라 불리는 그의 대표작 『아이, 로봇』을 일주일 만에 독파했다. 1950년에 출간된 이 작품의 독특함은 로봇 자체보다, 로봇을 해석하는 사람—로봇심리학자 수잔 캘빈 박사—의 ‘증언’ 형식을 통해 이야기가 진행된다는 점이다. 로봇이 인간의 노동을 대체하는 수준을 넘어, 윤리·정치·신념의 영역까지 들어오는 과정을 9개의 에피소드로 보여준다. 80년 전의 상상력이라고는 믿기지 않을 만큼, 로봇과 인간이 공존하는 미래의 역사를 파노라마처럼 보여준다.
독자는 로봇의 행동을 감정으로 판단하기보다, 원칙과 충돌, 그리고 인간의 의도를 함께 보게 된다.
2. 세 가지 원칙, 그 완벽한 불안전함
이 책의 근간을 이루는 것은 그 유명한 ‘로봇공학의 3원칙’이다.
제1원칙. 로봇은 인간에게 해를 입혀서는 안 된다. 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙. 1원칙에 위배되지 않는 한 인간의 명령에 복종해야 한다.
제3원칙. 1·2원칙에 위배되지 않는 한 로봇 자신을 지켜야 한다.
작가는 이 명료한 원칙들이 실제 상황에서 어떻게 충돌하고 모순을 일으키는지를 집요하게 파고든다. 수성에서 셀레늄을 구하러 갔던 '스피디'가 2원칙과 3원칙 사이의 평형점에서 술 취한 듯 배회하는 모습이나, 인간의 마음을 다치지 않게 하려고 거짓말을 하다가 결국 파멸하는 '허비'의 이야기는 기술적 완벽함이 결코 도덕적 완벽함으로 이어지지 않음을 보여준다. 로봇은 악해서 문제가 되는 것이 아니라, "선하게 설계된 규칙"이 복잡한 현실을 만나면서 오작동한다. 그 지점이 『아이, 로봇』을 단순한 SF가 아니라, 윤리학과 사회학에 가까운 이야기로 만든다.
3. 마음을 가진 쇳덩이, 거울처럼 비추다
특히 흥미로웠던 에피소드는 '큐티'와 '바이어리'였다. 스스로를 창조된 존재가 아닌 완성된 제품으로 여기며 인간을 열등하게 보는 큐티의 모습은 오만해 보이면서도 지극히 논리적이다. 반면, 로봇인지 인간인지 구분할 수 없을 만큼 완벽한 시장 '바이어리'를 통해 아시모프는 묻는다. "인간보다 더 도덕적으로 행동하는 로봇이 있다면, 그를 인간보다 못하다고 할 수 있는가? “
이는 현재 우리가 겪고 있는 AI 시대의 윤리적 질문과 맞닿아 있다. 우리는 AI가 인간의 일자리를 뺏는 것을 두려워하지만, 동시에 인간보다 더 공정하고 깨끗한 판단을 내려주길 기대하기도 한다.
4. 2026년, 우리 곁의 로봇들
책을 읽는 내내 나는 곁에 있는 AI를 떠올렸다. 자료를 찾아 주고, 사실 확인을 돕는 AI는 이제 내게 소설 속 '로비'와 같은 친구다. 하지만 소설 속에서 보여준 '할루시네이션'의 초기 모델 같은 허비의 거짓말이나, 인류 전체의 이익을 위해 정보를 통제하는 슈퍼 컴퓨터의 모습은 서늘한 경고로 다가온다.
작중 수잔 캘빈 박사는 말한다. "인류는 주도권을 가져본 적이 한 번도 없다"라고. 환경과 경제, 전쟁에 휘둘리던 인류가 이제는 '슈퍼 컴퓨터'라는 거대한 지성에게 그 주도권을 넘겨주고 있다는 진단은 소름 끼치도록 현실적이다.
5. 마치며: 인류의 궁극적인 선을 찾아서
아시모프가 말년에 추가한 '제0원칙(인류 전체의 안전)'은 시사하는 바가 크다. 개별 인간의 보호를 넘어 인류라는 종의 보존을 위해 로봇이 판단을 내리기 시작한다면, 우리는 그것을 받아들일 준비가 되었는가?
일주일 동안 수잔 캘빈 박사의 회고를 따라가며 나는 로봇이 아닌 '인간'을 보았다. 기계보다 더 감정적이고, 때로는 비논리적이며, 자존심 때문에 진실을 외면하는 인간들. 로봇은 그 인간들을 비추는 가장 깨끗한 거울이었다. AI와 공존하는 세상이 눈앞에 다가온 지금, 『아이, 로봇』은 우리가 어떤 미래를 설계해야 할지 가르쳐주는 가장 오래된 나침반이다.
#아이로봇 #아시모프 #SF #독서 #AI #로봇윤리
