‘로봇공학 4원칙’ 上

IEEE, ‘로봇공학 4원칙’ 제시

로봇 대중화 시대…보다 현실적인 문제에 대처할 수 있는 원칙 필요해

사진. Adobe Stock

세계적인 SF 소설가 아이작 아시모프(Isaak Azimov)가 제시한 ‘로봇공학 3원칙(Three Law of Robotics)’은 많은 매체를 통해 소개되며 대중은 물론, 로봇공학 내에서도 로봇에 대한 흥미로운 윤리적 담론들을 형성해 왔다. 일반 대중이 로봇과 직접적인 접촉을 할 기회가 드물었던 과거에, 해당 원칙은 주로 공상과학적 설정으로 소비되는 경향을 보였지만, 최근 LLM(Large Language Model)을 필두로 인공지능(AI)과 각종 서비스로봇이 발달하며 대중 역시 로봇과 상호작용할 기회가 증가하고 있다. 얼마전 IEEE는 로봇 대중화 시대에 보다 현실적으로 적용 가능한 ‘로봇공학 4원칙’을 제시했다.

로봇과 관련해 대중들에게 많이 알려진 이야기 중 하나로 SF소설가 아이작 아시모프(Isaak Azimov)가 자신의 단편소설 ‘런어라운드(Runaround)’에서 언급한 ‘로봇공학 3원칙(Three Lawa of Robotics)’을 이야기할 수 있다. 이 원칙은 이후 발간된 아시모프의 장편소설 ‘아이, 로봇(I, Robot)’을 통해 유명해졌으며, 동명의 영화(Alex Proyas, 2004, I, Robot)를 비롯해 많은 SF 작품의 주요 설정으로 등장해 왔다.

SF소설가 아이작 아시모프(Isaak Azimov). 그는 그의 소설을 통해 '로봇공학 3원칙'을 제시했다.(사진. Karsh)

아시모프의 로봇공학 3원칙은 다음과 같다.

▲1원칙 : 인간은 로봇에게 해를 입혀서는 안 되며, 부작위로서 인간이 해를 입게 두어서도 안 된다(A robot may not injure a human being or, through inaction, allow a human being to come to harm.).

▲2원칙 : 제 1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다(A robot must obey orders given it by human beings except where such orders would conflict with the First Law.).

▲3원칙 : 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 자기 자신을 보호해야 한다(A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.).

공상과학에서 현실의 문제로

로봇공학 3원칙이 다양한 미디어에서 소비되어온 결과, 대중의 상당 수는 해당 원칙이 SF소설에 등장한 설정이 아닌, 로봇의 개발 과정에서 고안된 원칙으로 알고 있는 경우가 많다. 실제로 해당 원칙은 로봇공학 분야에서 여러 윤리적 담론을 형성해 왔지만, 적어도 협동로봇(Cobot) 개념의 확산과, 딥러닝(Deep Learning)의 등장으로 인공지능(AI) 개발 가속화가 본격적으로 대두되기 시작한 2010년 초중반 이전까지 일상에서 로봇을 접할 일이 드문 대중에게는 문자 그대로 공상과학적 이야기에 불과했다.

2025년 현재, AI와 로봇공학은 비약적인 기술 발전을 보이고 있다. 자율주행로봇(AMR)과 서비스로봇의 상용화로 로봇과 대중이 접촉하는 일은 점점 증가하고 있고, 특히 LLM(Large Language Model)의 등장을 기점으로 AI 기술의 발전은 가공할 만한 성과를 입증해 왔다. 이제 로봇공학에서 논의되던 윤리적 담론들은 공상과학이라는 틀을 부수고 현실적인 문제로 다가오고 있다. 로봇과 대중의 상호작용이 증가하는 현재, 아시모프의 로봇공학 3원칙은 현실에서 얼마나 실효성이 있을까.

'로봇공학 4원칙'을 제시한 다리우스 제미엘니악(Dariusz Jemielniak) 교수(사진. Wikipedia)

지난 1월 다리우스 제미엘니악(Dariusz Jemielniak)교수는 ‘IEEE Spectrum’에 최근 AI발전에 맞춰 업데이트 한 로봇공학 4원칙이 필요하다는 내용의 글을 기고했다. 그는 폴란드 코즈민스키 대학교(Kozminski University)교수이며, 하버드 대학(Harvard University)의 ‘버크민 클라인 인터넷 사회학 센터(Berkmin-Klein Center for Internet and Societ)’ 교수진이다.

‘아시모프의 로봇 원칙은 AI를 위해 업데이트가 필요하다(Asimov’s Law of Robotics Need an Update for AI)’라는 제목의 글에서, 제미엘니악 교수는 최근 더욱 정교해지고 보편화되는 AI기술에 대응 가능한 새로운 원칙을 제시한다.

그는 최근 급격히 발전하는 AI기술에 대해 “오늘날 AI의 발전은 아시모프가 상상하지 못했던 전례 없는 인간-AI 협업의 시대를 이룩하고 있다”며, “특히 언어와 이미지 제작에서 생성형 AI의 급격한 발전은 아시모프의 원래 우려했던 로봇이 끼치는 신체적 해악과 명령 불복종에 대한 문제 이상의 과제를 만들고 있다”고 언급했다.

인간을 닮아가는 기계들

여기서 잠깐 화제를 돌려보자. 지난 2024년 치러진 미국 대선 당시 흑인들이 도널드 트럼프 후보를 지지하는 듯 묘사된 사진이 논란이 되었다. 트럼프 후보가 흑인 여성들과 미소를 지으며 어깨동무를 하고 있는 해당 사진은 미국의 라디오 제작팀이 AI를 통해 제작한 합성 이미지로 밝혀졌고, 가짜뉴스 논란을 불러일으켰다.

흑인들과 어깨동무를 하고 있는 도널드 트럼프. 해당 이미지는 생성형 AI를 통해 제작한 합성 이미지다(사진. Media Confidential)

해당 이미지 제작자 중 한명인 라디오 쇼 진행자 마크 케이(Mark Kaye)가 BBC와의 인터뷰를 통해 “나는 보도기자가 아니며, 실제로 일어난 일을 사진으로 찍은 것이 아닌 스토리텔러이다”고 전하며 합성 이미지로 투표에 영향력을 행사하려 한 정황을 부정했다. 이미지 제작자들의 동기야 어쨌든, 이 사건이 시사하는 바는 분명하다. 이제 사진이 사실 증명의 효력을 상실했다는 점이다.

트럼프 이미지 제작자 중 한명인 마크 케이(Mark Kaye). 그는 BBC와의 인터뷰에서 이미지 제작 동기를 밝혔다(사진. Media Confidential)

생성형 AI와 딥페이크를 통해 제작한 이미지 논란은 최근 국내에서도 여러 사회적 파장을 불러왔다. 특히, 청소년 사이에서 퍼진 딥페이크 음란물 사건은 기술 발전이 낳은 사회의 어두운 면을 어김없이 보여줬다. 제미엘니악 교수 역시 그의 글에서 FBI의 ‘2024년 인터넷 범죄 보고서’를 인용하며, 확산되는 AI기술 기반의 사회적 범죄에 대한 우려를 표하고 있다.

그는 “코로나 팬데믹 동안 해당 기술에 대해 광범위한 연구를 진행한 결과, AI가 생성한 기사가 기존의 미디어 만큼 설득력이 있거나, 심지어 더욱 논리적인 설득력을 가진다”며, “이 같은 논리적 콘텐츠를 생성하는 데 큰 노력이 요구되지 않는다”는 점을 지적했다.

또한, 그는 AI가 발달하며 아동과 청소년들이 AI에 대한 감정적 애착을 쉽게 형성하고 있다고 설명한다. 이에 대해 제미엘니악 교수는 “아동들은 때때로 현실의 친구와 온라인 봇과의 상호 작용을 구별하지 못한다”며, “이미 AI 챗봇과 상호 작용으로 인한 자살 사건이 존재한다”고 밝혔다.

기계는 인간을 모상으로 발전을 추구하고 있다(사진. Adobe Stock)

제미엘니악 교수가 해당 글을 통해 제기하는 문제는 기계가 점점 인간을 닮아간다는 사실에 그 기저를 두고 있다. 확실히 AI든 로봇이든 상관없이 이 모든 기계는 인간의 모습을 추구하고 있다. 여러 AI챗봇은 인간과 유사하게 자연어를 활용하는 방식으로 발전하고 있으며, 매니퓰레이터에 활용되는 다양한 엔드 이펙터(End-Effector)또한 얼마나 인간의 손과 유사한 기술을 구사하는지가 발전의 중요한 척도이다. 한편 곤충과 동물을 모방한 생체모방로봇 역시 모방 대상과 유사한 메커니즘을 구사하는 기술이 중요하게 다뤄진다.

-下편에서-