인공지능을 공부하면 좋은 이유
특이점의 시대에 끌려가지 않으려면
by
Feb 11. 2021
사진=픽사베이가끔 내가 하는 일의 목적이나 의의를 잊는다. 너무 당연한 일상이라서 생각할 게 없어서일 수도 있고. 관성대로 하던 일을 계속하다 보니 그렇기도 하다. 그러다 좋은 콘텐츠를 읽거나 사람에게서 생각지도 못한 통찰을 접할 때, 일 목적과 의의를 되새기기도 한다. 그런 순간을 만나면 무척 반갑고 감사하다. 깨달음을 얻을 때 생각 없이 하던 대로 살았다는 생각에 부끄럽지만. 이렇게라도 다시 생각할 계기를 만난다는 건 다행스러운 일이다. 편법을 부리지 말고 과정에서 양심적으로 제대로 하라고 반성할 수 있고.
지난해 12월 '모두의 딥러닝' 저자인 조태호 인디애나대 영상의학과 교수님의 줌 강연을 들었다. '비개발자, 비전공자를 위한 딥러닝 입문' 강좌였다. 조 교수님은 브런치 북 프로젝트에서도 대상을 수상하셨고, 그때 출품작으로 에세이도 내셨다. 모두의 딥러닝은 지난해 개정판이 나왔는데 원래 인기도서이기도 했다. 2년 연속 베스트셀러였다고 하니. 조 교수님은 이력도 흥미롭다. 공학도 출신이 아니고 학부시절 영문학을 전공했다고. 그러나 컴퓨터 대회 입상을 계기로 어도비 코리아에 입사해서 엔지니어로 일했다고 하셨다. 이후 보건학 박사 학위를 딴 다음, 현재는 딥러닝으로 치매질환을 예측하는 연구를 하시는 중.
둘러보면 생각보다 공학을 전공하지 않았지만 이쪽으로 방향을 틀어서 전문성을 쌓거나 컴퓨터 프로그래밍 책까지 쓰는 능력자가 많다. 요즘 스퀘어 공동창업자인 짐 매켈비의 '언카피어블'을 읽고 있다. 이 책은 에피소드와 통찰 하나하나가 버릴 게 없고 무척 흥미롭다. 지난해 나온 경영서 중 밥 아이거의 '디즈니만이 하는 것' 추천이 느낌적 느낌에 가장 많았다. 올해가 많이 남았지만 특별한 책이 더 나오지 않는다면 '언카피어블'을 추천 경영서로 많이 꼽지 않을까 싶다. SNS 추천도 많고. 국내는 스퀘어에 관심이 많지 않을 수 있지만.
사진=리더스북문제는 그게 아니고- 짐 매켈비도 입지전적인 인물인데 그는 원래 경제학도였지만 대학시절 컴퓨터 프로그래밍 책을 썼다. 이유는 수업 교재였던 컴퓨터 프로그래밍 책이 "너무 어렵고, 예시도 틀렸고, 시대에도 뒤떨어지는 데다 질도 나빴기" 때문. 그는 "미래의 학생들이 똑같은 절망을 겪지 않도록 내가 직접 새 교재를 만들겠다고 다짐했다"라고 한다. 그러나 책 주제에 지식이 전혀 없고 컴퓨터 프로그래밍은 대학 와서 처음 접했다고.
그래도 매켈비는 책을 써냈다. "친구, 교수 도움을 얻고 여름방학 내내 도서관에서 시간을 보낸" 결과, 결국 책을 집필해낸 것. 그 책은 "미국 최고 교과서 출판사인 프렌티스 홀과 워즈워스에서 관심을 끌었다"라고 한다. "CS-236 수업 교재"로도 쓰였다고. "워즈워스 출판사에서 책을 한 권 더 써달라고 요청해서 또 썼고 그 책도 베스트셀러가 됐다"라고 했다. 그는 이 일과 자신의 삶의 여정을 이렇게 회고했다. 미친 짓이긴 했지만 "지금까지 해온 일들에 확실한 공통점이 하나 있다면, 내가 관심을 쏟는 문제가 중심에 있었다는 것이다. 관심은 매우 대담한 에너지원이다....(중략) 이제 분노는 더 이상 내게 동기를 부여하지 않지만 그 일곱 살짜리 아이는 여전히 매일 나와 함께 일한다"라고.
이 책에는 이것 말고 흥미로운 에피소드가 무척 많지만- 매켈비 대학시절 일화에서 기업가, 창업자 특징을 실감했다. 바로 '발명가'라는 점. 제프 베조스도 어린 시절부터 다양한 발명품을 선보였고 그 기질이 자신의 삶에 미친 영향을 회고글이나 연설에서 밝힌 바 있다. 그는 자동문, 태양열 조리기, 경보기 등을 만들었다. 그의 외할아버지가 직접 뭘 고치는 모습을 보고 배운 것, 할아버지 격려 이런 게 그의 가치관에 영향을 끼친 듯했다. 발명한다는 건 어떤 문제를 해결하기 위한 목적도 있는데- 그 과정에서 문제 해결 능력을 키웠고 그게 아마존, 블루 오리진 창업에도 영향을 준 듯. 블루 오리진만큼은 문제 해결 사고가 더 명확하다는 게 내 뇌피셜.
사진=픽사베이이야기가 자꾸 다른 방향을 새는데- 매켈비 이야기로 돌아오자면 이제 막 컴퓨터 프로그래밍에 관심을 가진 비전공자였던 그에게 구시대적이고 비싸고 어렵고 품질도 낮은 프로그래밍 책은 해결해야 할 문제점이었고. 그는 스스로 집필에 뛰어들면서 이 문제를 해결하려고 했다. 수업 교재로도 채택될 정도였으니 목표는 달성했고 효과도 검증된 듯하고. 이걸 읽으면서 든 생각은- 물론 개인 역량도, 관심도, 노력 수준이 중요한데 '내가 비전공자여서, 전문가가 아니라서 그 이상은 못한다'는 핑계는 변명이나 보험에 불과할 수 있겠다는 점.
다시 원래 하려던 이야기로 돌아가야 하는데- 매켈비 일화를 보니 조 교수님이 떠올랐다. 그분은 어떤 이유에서 비전공자로서 컴퓨터에 관심 갖고 엔지니어 길을 걸으셨는지 잘 모르지만. 진심으로 관심 갖고 파고들면, 단 진정성 있게 집중하고 공부하면 비전공자도 인공지능 분야에서 전문성을 쌓을 수 있다는, 평범한 듯하지만 과정은 절대 평범하기 힘든 그런 교훈을 생각해봤다. 그러나 이 이야기가 내가 오늘 하려던 이야기는 아닌데 옆길로 너무 많이 새서 돌아가는 데 굉장한 어려움을 겪고 있다!!! 거참!!!
오늘 쓰려던 주제는 조 교수님 강연 내용에서 얻은 통찰과 연결됐는데- 전문가에게는 새롭지 않을 수 있지만. AI 지능이 사람 지능을 넘어서는 시점이 2029년이라는 예측이 있다. 나아가 AI 지능이 인류 지능 총합을 초월하는 시점이 2045년이라는 전망이 있다. 그때가 바로 '특이점'이라고. AI 지능이 쥐의 지능을 초월한 시점이 2015년이라고 하는데 발전 속도가 엄청나다. 이 이야기는 조 교수님 의견은 아니고 레이먼드 커즈와일이 2005년 '특이점이 온다'라는 책에서 한 이야기이긴 하지만.
사진=픽사베이이 배경만으로도 AI를 공부하는 게 좋은 이유는 충분하지 않나 싶었다. 이미 삶에서 일상적이고 중요한 판단, 결정이 알고리즘으로 많이 이뤄지고 있고. 물류센터에서 상품을 비치하는 방식이나, 긱 노동자들이 배달 앱에서 주문을 배정받는 과정도 AI 판단과 결정에 따르는 게 오늘날 현실. 그게 내가 매일 접하는 뉴스나 콘텐츠, 생활방식 등 전방위에서 영향을 끼치는 만큼 그 원리와 작동방식은 물론이고 기술 배경이라도 기초 또는 교양 수준으로 아는 건 당연한 일인 듯하다. 일자리도 대체될 거고 이미 시각 지능은 사람을 압도하고 있으니.
쌀로 밥 짓는 이야기여서 써놓고 보니 나도 참 당황스럽긴 하다만(이건 뭐 '밥 먹으면 배부르다'거나 '굶으면 죽는 건 확실하다'는 고 김영삼 전 대통령 어록만큼이나 당연한 이야기)- 나도 잊고 살 때가 많은지라 되새길 겸 써봤다. 이런 맥락에서 앞으로 AI를 공부하는 건 시민으로서 정치에 관심 갖고 선거 때 투표하는 것만큼이나 지극히 당연한 일이지 않나 싶다. 무심하면 직무 유기가 될 수 있는 일. '포스트 휴먼이 몰려온다'라는 책에서 본 것 같은데 아직은 이 주제가 전문가 영역에 한정돼 있고 그들만의 리그가 돼있다는 게 한계라면 한계.
우리 삶과 사고방식에 지대한 영향을 끼치고 이를 기술적으로 해석하는 것도 중요하지만- 인문학 측면에서 이 기술을 바라보고 생각할 과제를 도출하는 것도 소홀히 해서는 안된다 싶다. 비개발자, 비전공자도 AI 이해관계자이니까. 간혹 어떤 분야가 너무 전문적인 분야라는 이유로 담론도, 논의도 전문가에게만 맡기는 경우도 있는데(원전도 한때 그랬고)- 그 과정에서 또 다른 중요 이해관계자인 사용자 또는 소비자 의견이 소외될 수 있으니까. 물론 인문학 분야에서도 AI 논의는 활발하고 이루다 논란에서도 그걸 실감했지만. 발언권을 보장받지 못하면 목소리를 반영하기 어렵고 손해를 입을 수 있으니까.
사진=아카넷"그러나 인간의 기술에 대한 이해와 통제 수준은 전에 없이 미약하다. 지금까지 도구는 인간이 설계한 방식대로 작동했기 때문에 기계의 작동방식과 결과는 별다른 설명이 필요 없었다. 스스로 학습하고 결과를 내놓는 인공지능은 다르다. 딥러닝은 뇌 구조를 모방한 심화 신경망 방식의 기계학습으로 뛰어난 성과를 내고 있지만, 이는 인공지능을 블랙박스로 만들었다. 심화 신경망은 서로 복잡하게 연결된 수백수천 층위에서 수백만 개의 매개변수들이 상호작용하는 구조로, 사람이 그 모두를 인지하는 게 불가능하다. 인공지능의 결과와 효율성은 탁월해졌지만 알고리즘은 더 불투명해지고 인간의 인지영역 밖에 있다.
...(중략) 알파고에서 딥러닝의 주요한 특징이 드러났다. 인간이 이해할 수 없지만 인간을 능가하는 결과를 내놓는다는 점이다. 알파고가 둔 돌의 의미는 해석되지 않았다. 알파고와 대국한 이세돌 9단은 물론 딥마인드의 개발자도, 기보 해설을 맡은 프로기사도 그 의미를 설명할 수 없었다. 알파고의 행보와 포석 이유를 알 수 없었지만, 알파고의 수는 바둑 최고수의 전략을 능가했다. 인공지능의 추론 과정을 알 수 없지만 그 결과가 항상 효율적이라는 점은 딜레마다. 이해할 수 없고, 그래서 통제할 수 없지만 우리는 이러한 괴물 같은 인공지능을 실생활에 끌어들이기 때문이다. 효율성 극대화는 기업의 이익 증대와 국가의 군사력 증강을 의미한다. 이해할 수 없지만 효율성 높은 인공지능을 경쟁기업과 이웃국가가 채택한다면 다른 쪽 상대에게 선택의 여지는 없다. 우리는 점점 더 이해할 수 없고, 그래서 통제할 수 없는 인공지능을 생활 속으로 불러올 운명이다.
...(중략) 앞의 사례들에서 볼 수 있듯, 사람을 모방한 인공지능의 존재와 행동에 대해 인간은 거의 식별하지 못하고 사후에 그 결과를 보고 파악하는 경우가 많다. 기술의 발달은 인공지능이 사람과 유사하거나 사람보다 뛰어난 인식, 판단, 실행 능력을 갖는 포스트 휴먼 시대를 불러왔다. 개인과 사회의 규범과 체계는 인간만을 이성적 능력을 지닌 자유와 책임의 주체로 상정하고 만들어져 운영돼 왔다. 포스트 휴먼 시대는 인간 외에 인식과 판단, 실행 능력을 가진 비인격 주체와의 공존을 의미한다.
사진=픽사베이...(중략) 첫째, 알고리즘은 중립적이지도 공정하지도 않다. 알고리즘은 인간의 약점과 단점, 편견을 갖지 않고 기계적 인식과 판단을 통해 정확성과 공정성, 효율성을 가질 것으로 기대되었다. 하지만 알고리즘도 사람들이 만든 기존 질서와 설계 구조를 반영할 따름이라는 게 확인되고 있다. 미국 보스턴대 법학 교수 대니얼 시트론은 '알고리즘을 객관적이라고 생각해 신뢰하는 경향이 있지만 그 알고리즘을 만드는 것은 인간이므로 다양한 편견과 관점이 알고리즘에 스며들 수 있다'라고 지적한다.
단계적 수식 프로그램인 알고리즘은 세부적 코드마다 실제로는 구체적인 가정과 선택을 필요로 한다. 이 과정에 개발자의 성향과 판단, 사회적 압력이 알게 모르게 개입한다. 조지아공대의 기술사학자 멜빈 크랜즈버그 교수가 만든 '기술의 법칙'은 '기술 자체는 좋은 것도 나쁜 것도 아니지만, 중립적이지도 않다(제1조)' '기술은 지극히 인간적인 활동이다(제6조)'라고 정의한다....(중략) 인공지능 분야에 종사하는 사람들은 백인, 남성, 고소득자, 영어 사용자가 절대다수다.
뉴욕대 교수 케이트 크로퍼드는 '인공지능은 다른 기술들처럼 개발자의 가치를 반영한다. 누가 중요한 자리에 앉아 결정하고 윤리적 관점을 제시하는지 따지지 않으면 소수 특권 세력의 편협하고 편향적인 관점을 반영하게 된다'라고 말한다. 로런스 레식 하버드 법대 교수는 '코드 2.0'에서 법이 사회를 규율하듯 소프트웨어 코드는 사이버 세계를 규율한다고 말한다. 법과 알고리즘 모두 현실을 규율하는 힘이지만, 차이는 법조문은 작동 방식과 영향이 드러나지만 알고리즘은 블랙박스 속에 숨어 있다는 점이다. 곧 개발자 외에는 접근할 수 없다.
사진=픽사베이사람의 판단과 결정은 각종 이의제기 절차와 재판 항소 절차에서 드러나듯 완벽하지 않으며 수정될 수 있다는 것을 전제한다. 인간이 내린 판단은 항상 잠정적이고 가변적이다. 하지만 알고리즘은 다르다. 기업 비밀로 보호되고 그 구조가 공개되지 않는 알고리즘은 수정하기도 어렵지만 차별이나 편향과 같은 오류가 있다는 것을 인지하는 것 자체가 어렵다. 만약 차별적 법을 제정하고 독재를 자행하는 경우 다수의 비판을 피할 수 없고 이는 반발과 투쟁, 통제와 타협으로 이어지는 정치 행위의 대상이 된다. 하지만 인공지능과 소셜미디어의 알고리즘은 편향되고 왜곡된 결과를 내놓아도 그 구조가 드러나지 않기 때문에 감시의 대상이 되기 어렵다.
...(중략) 그렇다면 포스트 휴먼 시대에 위협당하는 민주주의 체제를 지켜내기 위한 방법은 무엇일까? 출발점은 기술이 지배하고 영향력을 행사하는 현실에 대한 자각, 기술에 의해 우리 사회의 근간인 민주주의 체제와 그 전제가 위협당하고 있는 현실을 파악하는 것이다. 이는 자율성을 갖춘 인공지능 로봇이 인류 전체를 위협한다는 그릇된 상황 인식이 아니라, 다수의 이용자를 조종하고 착취할 수 있는 구조로 설계된 기술이 지닌 위험성을 파악하는 것이다. 이는 초지능의 인공지능을 걱정하는 먼 미래를 향한 공상과학적 상상이 아니라 현재의 인간과 사회질서에 기술이 끼치는 현실적 힘과 영향을 어떻게 통제해야 할지에 대한 문제이다.
...(중략) 고대 그리스의 정치가 페리클레스는 '아테네에서 정치에 무관심한 사람은 시민으로서 쓸모없는 인간으로 여겨진다'라고 말했다. 민주주의를 유지하기 위해 필수적인 개념이다. '큰 권력에는 큰 책임 따른다'는 볼테르의 말처럼, 디지털과 인공지능이 개인과 사회에 지대한 영향력을 행사하는 포스트 휴먼 사회에선 적극적인 시민적 감시와 참여가 요구되고 있다."
사진=픽사베이이 내용은 구본권 님이 쓴 '디지털 사회와 보이지 않는 권력'에서 발췌한 내용이다. 구본권 님은 한겨레신문 기자이고, IT 전문 기자이며, 사람과디지털연구소장으로 계신다. 디지털과 인문학 관계를 두고 그 누구보다 통찰력 있는 생각을 갖고 계신 분이 아닐까 싶다. 기자 초년생 시절 이분의 '로봇 시대, 인간의 일'을 감명 깊게 읽었다. 부제가 '인공지능 시대를 살아가야 할 이들을 위한 안내서'였다. 그때는 IT 부서에서 수습 시절을 보내던 때라 업무와 관련된 내용이라고 생각해서 읽었다. 워낙 양서라서 중고서점에서도 가치가 높았던 듯.
내 생각이라는 것도 구본권 님 책과 글에서 배운 게 많다. 솔직히 앞서 쓴 내용도 결국 구본권 님에게서 영향을 크게 받아 정리한 생각인 것 같다. 구본권 님 생각이기도 하고. 그 생각을 내면화한 까닭은 무척 공감했기 때문인 듯하다. 삶에서 '알 권리'에 해당하는 영역이 있는데- 정치가 있고, 공공 정책이 있고, 논란이 되는 사회 현안이 있고, 기술도 거기에 포함된다. 원래 글 제목을 '~ 공부해야 할 이유'로 쓸까 했는데 강압적인(?) 느낌이 들어서 '~공부하면 좋을'로 순화했다만. 위 이유에서 AI를 꼭 공부하고, 꼭 알아야 한다'라고 생각한다.
사는 대로 생각하지 않고, 생각하는 대로 살아가려면. 거창하지만 특이점 시대에 내 인생의 주도권을 놓치지 않으려면 AI가 아니라도 기술 전반을 기초 또는 교양 수준으로라도 알아두는 게 좋다. 앞으로 세상이 어떻게 바뀔지 모르지만. 코로나 19가 촉발한 비대면 시대는- 정보통신기술에 기반한 문명이기도 하니까 AI나 클라우드는 그 핵심 기술이기도 하고. 기업만 AI 기업이 돼야 할 게 아니라 개인도 자신이 통제할 수 있는 범위 안에서 AI를 활용할 줄 알아야 한다고 생각한다. 이미 접근성이 좋은 무료 도구도 많고.
사진=웅진지식하우스김미경 님의 '리부트'에서도 그 의의를 배웠다. 생산자 수준으로 디지털을 이해해야 한다는 내용이었는데- 그가 파이썬을 배우는 이유를 다룬 장에서 나온 내용이었다. 그는 "4차 산업혁명 이후의 세상에서는 생산자의 레벨에서 디지털을 이해해야 내가 원하는 비즈니스로 제대로 상상하고 설계할 수 있다. 디지털 기술을 소비자만큼만 알면 평생 소비밖에 못한다. 나는 더 이상 소비자가 아닌 생산자 수준의 이해를 하고 싶었다. 그래서 어설프게라도 이 세상이 어떻게 이뤄져 있는지 알기 위해 기초 언어를 공부하기 시작한 것이다.
그런데 배우면 배울수록 디지털에 지레 겁먹을 필요가 없다는 것을 깨닫고 있다. 아무리 훌륭한 기술이 있어도 콘텐츠가 없으면 아무것도 아니다. 기술만 있는 사람들보다 기술은 잘 몰라도 20년간 콘텐츠 쌓아온 이들이 새로운 것을 배우기로 작정하면 엄청난 저력을 발휘할 수 있다. 나처럼 오랫동안 사업하면서 밥 먹은 사람의 특징이 용감하고 '촉'이 빠르다는 것이다. 기술에 대해 잘 아는 20대들보다 훨씬 더 많은 것을 할 수 있다. 디지털 기술을 무서워하지 않는다면.
...(중략) '잘 생각하셨어요. 일반인들도 디지털 기술에 대해 전반적인 이해를 가져야 해요. 앞으로는 기술 접근성이 낮을수록 사업은 물론이고 일상적인 삶의 수준도 유지하기 어려워질 거예요. 디지털 기술까지 배우고 나면 학생들이 날개 단 듯 날아오르겠네요."
사진=픽사베이난 파이썬을 배우면 좋다고 생각하지만 꼭 배워야 한다고는 생각하지 않는다. 파이썬뿐만 아니라 코딩 전반에 대한 생각이 그런데- 전에도 비슷한 글을 썼지만 '어떤 문제를 해결하겠다'거나 배움 목표와 얻고자 하는 바가 분명하지 않은 상태에서 배우는 데 시간을 쓸 필요는 없다고 판단했다. 시간은 제한돼 있고 할 일이 많으니까. 또 챗봇도 노코드 개발 플랫폼으로 만들 수 있는 시대이고, 그런 도구가 많은 데다, 그 도구를 다루는 것도 내겐 난이도가 높은 일이라서 일단 그것부터 소화하고 부족분을 확인한 다음, 채우고 싶다고 생각했다.
물론 나도 배우고 싶은 마음이 있긴 하다. 이를 다루는 방법을 아는 게 기술 콘텐츠를 쓸 때 많이 도움될 거라고 판단하기 때문이다. 그 경험을 요구하는 곳도 많고. 쓸 줄 몰라도 읽을 줄 알기만 해도 괜찮다는 이도 있지만. 생산자 수준으로 알아야 매켈비처럼 프로그래밍 책도 쓸 수 있는 거고(책 쓰고 싶다는 이야기는 절대 아님). 정리되지 않은 생각인데- 일단 길벗 출판사에서 나온 '모두의 ~~~' 시리즈부터라도 제대로 읽어야겠다 싶다. 전문성도 없이 저런 글 쓰는 건 여전히 부끄러움이 없지는 않다.
나도 평생 기술을 소비밖에 할 줄 모르는 이로 머물고 싶은 건 아니다. 배운 게 도둑질이라고 겨우 펜대 굴리거나 타자 치는 문과생(문과생이 그렇다는 얘기가 아니고 내가 그렇다는 얘기다)으로서 그나마 생산자 수준에 겨우 얕게나마 접근 가능한 수준은 AI 주제로 글을 쓰는 것 정도다. 난 그것도 너무 어려워서 매번 컥컥 대고 있지만. 기술적으로 전문성 있는 내용을 쓰는 것도 아니고. 쉽게 쓰는 것도 아닌 것 같다. 피드백을 받다 보면 드는 생각이다. 어려웠다는 반응을 들으면 부끄럽고 쉽게 잘 읽혔다고 해주면 기분이 좋다. 많이 멀었다.
사진=픽사베이