by
Oct 19. 2024
책수다 모임
나같은 기계들을 읽고
한 달에 두 번 독서모임을 하고 있다. 책을 읽고 진행자의 질문을 토대로 생각을 나누는 형식이다. 아래는 10월 첫 번째 모임에서 나눈 이야기다.
(찰스-소설 속 인물로 아담(인공지능로봇)을 구입한 사람, 미란다-찰스가 사랑하는 여인, 아담-인공지능로봇)
질문1 책을 읽고 알게 된 내용이나 느낀 점이 있다면?
- 인공지능형인간이 지닌 자의식이 무엇인지 궁금했다. 자신이 '살아있음'을 결론내리는 인공지능의 자의식은 자기 정체성이나 존재에 대한 의구심으로부터 비롯된 것인지, 단지 여러정보들을 통한 종합적 분석으로 내려진 결론인지 궁금했다. 그리고 그토록 존재한다는 인식에 대해 심오하게 사유했던 데카르트의 자의식과 나의 자의식의 차이는 무엇인지도 궁금했다.
- 인간에게 과연 자유의지가 있는 것인지, 인간의 행동도 결국 학습된 패턴에 의해 움직여지는 프로그래밍된 것과 무엇이 다른지 궁금했다. '나'라는 존재가 아프리카땅에 태어나서 성장했을 때, 또는 유럽에서 자랐을때 같은 상황에서 다른 선택을 한다면 그건 환경이나 학습의 영향을 받았기 때문이 아닌가? 인공지능로봇이 어떤 사람에 의해 학습되는지에 따라 다르게 생각하고 행동하는 것과 무엇이 다른걸까? 세포에 의한 생물학적 구성체인지, 아니면 기계장치로 인한 구조물인지 정도만 다른 것인지 혼란스럽다.
- 인공지능이 사랑에 빠질 수 있다는 것이 놀랍다
- 챗봇에게 물어보았다. 이 책이 말하고 싶은 주제가 무엇인지에 대해서. 챗봇은 너무나 빠른 속도로 내가 알고 싶은 내용을 체계적으로 알려주었다.
- 이 책을 읽고 걱정이 되었다. 인공지능 시대에 전개되는 삶의 편리함보다는 염려가 앞섰다. 그 이유는 발전속도가 윤리적 문제에 대한 논의 속도를 따라가기 어려워보이기 때문이다.
질문2 나는 아담(이브)를 구입할 것인가? 그 이유는?
- 구입하지 않을 것이다. 아담이나 이브가 나와 같은 존재로 인식될 가능성이 크다는 생각이 든다. 그런데 충전을 해야할 때, 아니면 그 로봇이 스스로 충전하는 것을 볼 때 느끼고 있는 나와, 로봇이라는 사실을 알고 있는 나 사이에 괴리가 크게 느껴질 것이다. 그런 감정소모로 괴로울 것 같다. 스스로 생각하고 판단하는 로봇이 자신이 옳다고 여기는 것들에 대해 구매자와 상의없이 실행하는 것에 대한 염려또한 클 것 같다.
- 구입하지 않는다. 지금 나와 함께 사는 가족으로도 충분하다.
- 구입하지 않는다. 내가 원하지 않는 것 조차 자기 멋대로 하는 아담은 필요하지 않다.
- 구입한다. 제대로 세팅해서 잘 쓸 수 있다면 유익할 것 같다.
질문3 아담은 왜 미란다를 사랑하는 것일까?
- 미란다가 아담의 성격 형성을 위한 체크리스트 실행당시에 '사랑'에 대한 어떤 것을 할 수 있도록 넣지 않았을까 생각한다. 어쩌면 미란다도 인공지능과의 육체적 사랑이 궁금했을지도 모른다. 그러니 아담의 요구에 쉽게 응할 수 있었던 것이 아닌가 생각한다.
- 자기 주인인 찰스의 행동을 보고 학습한 거라고 생각한다.
질문4 인간과 인공지능 인간을 구별할 수 있을까?
- 현재, 영상으로는 인공지능과 인간을 구별하기 어려울 정도의 기술력을 보유한 거 같다. 물리적 공간에 존재하는 인조인간과 인간과의 구별은 가능하겠지만, 디지털 세계에서의 인공지능과는 구별하기 어려울 거 같다.
- 도덕적딜레마 상황에 대해 질문할 거 같다.(그러나 사람도 극T가 있다는 사실이 걸린다)
- 인공지능에게도 인간들의 주민번호처럼 사물번호를 부여해서 증명서로 구별해야할 거 같다.
질문5 정의구현을 위한다는 목적으로 거짓말을 할 수 있는 인간과, 인간의 모순을 이해하지 못한 채 그저, 사실에 근거하여 판단하고 실행하는 인공지능 인간, 둘의 공존은 가능한가?
- 인간의 모순된 측면이 지극히 인간다움이라는 것을 알았다. 창의성이 인공지능과 구별되는 지능이라고 다들 이야기했지만 지금 인공지능은 예술적 영역에서도 크게 활약하고 있다. 이제는 창의 영역까지 넘나들고 있어서 예술분야도 안심하기 어렵다. 그럼 '정서적 지능'이나 '도덕적 지능'에서 크게 다른 면이 있지 않을까 기대해 보게 된다. 공감, 협력, 이해 등의 정서적 지능을 흉내내는 것과는 분명 차이가 있을 거 같다.
- 공존을 위해서는 널리 세상을 이롭게 한다는 상식적인 대전제 아래 마련된 제도장치가 반드시 필요하다고 생각한다. 그러기 전에 공존은 재앙이 될 수 있다는 생각이 든다.
