이제, 인공지능도 성찰을 하는데, 하물며 사람이라면?
내 일상을 차릴 알고리듬
야심 차게 도전했던 서비스가 어려워지면서 작년까지 대략 2년 동안 실패에 대한 책임으로 어려움을 겪었습니다. 그렇지만, 그중에서 밝은 면만 언급해 보면 제 삶에서 시행착오[1]의 의미가 새롭게 규정되었습니다.
그래서 만들어진 표현이 육아 과정에서 시행착오를 재해석한 <시행착오와 모방이 만드는 청출어람>입니다. 육아뿐 아니라 가급적 제가 하는 모든 활동을 할 때, 시행착오에 대한 새로운 인식을 기반으로 다시 인식해 보려고 마음을 먹었더니 마침 페북에서 이런 이미지가 눈에 띄었습니다.
이정표? 삶의 괴로움에서 벗어나는 과정?
넘어져 있던 단계 FALL에서 불안 따위의 감정에 빠지거나 이를 회피하려고 외면하는 일도 분명 있었습니다. 다행스럽게 작년에 불안을 직면하고 현존과 고통과의 관계를 깨달은 바 있습니다.
그리고 이러한 문제에 관심을 두다 보니 김영식 님의 <삶의 괴로움에서 벗어나는 과정 - 이정표>가 눈에 들어왔습니다. '이완의 습관화'로 인지ACKNOWLEDGE를 빠르게 할 수 있을까요?
토템이나 알아차림을 이용하여 일상의 동일시에서 돌이켜지는 습관을 만듭니다. 그런 알아차림을 하루에 10회 정도를 꾸준히 할 수 있다면 저절로 그렇게 됩니다. 신경망은 자극하는 대로 길들여지기 때문입니다
일단, 기대를 걸고 몇 번이라도 해 보도록 하겠습니다. 사실 그 뒤의 절차를 FALL에서 빨리 벗어나는 일에 비하면 상대적으로 쉬워 보입니다.
내 삶에도 복기에 해당하는 기술을 연마하자
한편, 인스타에서 떠서 인상 깊게 보았던 이세돌 기사의 말도 인용해 봅니다. 이세돌의 복기에 해당하는 일이 저에게는 무엇일까요?
체계적으로 해 본 적이 없다는 사실을 깨달았습니다. TDD를 배운 후에 개발이 아닌 활동에서 응용하려고 노력했지만, 거칠고 정밀하지 못했던 듯합니다. 다음 제목을 보면 이미 제가 지금 느끼는 것이 그대로 드러나는데 디테일에서 몸에 누적된 바가 초라한 듯합니다.
왜 빠른 실패가 더 큰 성공을 만드는 걸까?
여기에 더하여 얼마 전 본 페벗 님의 글도 참조합니다. 아마도 <왜 빠른 실패가 더 큰 성공을 만드는 걸까?>라는 책에서 추린 문구인 듯합니다.
1. 우리가 하는 많은 일이 처음입니다. 외부에서도 경험한 사람이 없는 일입니다.
2. 여전히 우리에겐 도전이 필요합니다. 새로운 시도를 하지 않고 이미 가지고 있는 걸 지키려고만 한다면 그다음 단계로 나아갈 기회는 없을 겁니다.
3. 도전을 장려하기 위해선 실패를 빠르게 받아들여야 한다. 실패를 제대로 평가하고 빠르게 수정할 수 있어야 했다.
4. 결정과 실행, 그로 인한 결과를 평가할 때 의견을 낸 사람이나 결정을 한 사람을 제외하고 '일'과 결과' 자체만을 바라봐야 객관적으로 평가할 수 있습니다.
5. 그래야 조직이 제대로 받아들이고 성장할 수 있습니다.
이제, 인공지능도 성찰을 하는데, 하물며 사람이라면?
한편, 인공지능에 대해 알면 알수록 인간의 두뇌 활동에 대한 이해가 높아지는 느낌이 듭니다. 튜링 포스트의 <에이전트가 '실수'로부터 배우는 법: 'Reflection (성찰)'의 역할>은 분명 AI에 대한 이야기이지만, 분명 우리 스스로에게 성찰의 필요성을 일깨우는 글인 듯도 하고 여기서 성찰 방법에 대해 배울 수도 있을 듯합니다.
미래에 대해서 생각하고 예측하는 것만큼, 아니 오히려 그 이상으로, 에이전틱 AI는 ‘과거의 행동을 분석하고, 실수를 알아채고, 전략을 개선’할 수 있어야 합니다. 사람처럼요.
'사람처럼요'라는 문장을 보면서, 저는 이렇게 속말을 합니다.
그런데, 사람이라면?
언젠가 가까운 지인이 성찰하는 사람과 그렇지 못한 사람으로 주변 사람을 나눈 일이 떠올라서 던진 말인 듯합니다. 성찰을 하지 못한다면 AI와 같이 스스로 내린 결정에서 배우는 능력이 결여됩니다.
AI에는 여전히 결정적인 한 가지가 부족하죠: 바로, 스스로 내렸던 결정으로부터 ‘배우는 능력’입니다!
그렇군요. 남 탓만 하는 사람들이 보여주는 특징입니다. 남 탓만 하면 자기는 옳았다고 생각하기 때문에 같은 실수를 반복하게 되죠.
성찰은 자신의 믿음에 의문을 제기하는 실천
한편, 기사에서는 성찰의 철학적 뿌리도 다룹니다.
‘성찰’이라는 능력 - 스스로의 생각과 행동을 분석하는 능력 - 은 오랫동안 지능이라는 것의 기본적 요소로 인정받아 왔습니다. 소크라테스는 자신의 믿음에 의문을 제기하는 실천을 옹호했고, “내면의 성찰을 통해서만 건전한 추론과 결함 있는 가정을 구분할 수 있다”라고 주장했습니다. 동양의 고대 철학자들도 이 생각에 공감했는데, 공자는 모방과 경험보다는 성찰을 지혜에 이르는 가장 고귀한 길로 여겼습니다. 역사를 통틀어서, 성찰은 판단력을 예리하게 하고, 의사결정을 더 잘하게 해 주고, 개인적이고 지적인 성장을 촉진하는 메커니즘으로 여겨져 왔습니다.
그리고 더 나아간 행동에 대해서도 요약해 줍니다.
아리스토텔레스나 칸트 같은 사상가들은, ‘명상’ 그리고 ‘행동’의 차이를 구분하면서, ‘의사결정’이 진정한 의미를 가지려면 ‘목적을 가진 깊은 생각’이 반드시 함께 해야 한다고 이야기했습니다. 최근으로 보자면, 존 듀이가 ‘성찰적인 사고’라는 걸 ‘증거에 비추어서 믿음을 신중하고도 끈기 있게 (재)평가’하는 거라고 설명하기도 했는데, 이걸 통해서 개인이 충동적이 아니라 예지력을 가지고 행동할 수도 있다고 봤습니다.
뒤이어 도널드 숀의 현대적 정리도 말해 줍니다.
미국의 철학자 도널드 숀(Donald Schön)은, 나중에 이 개념을 확장해서 ‘Reflection-in-Action (행동 중의 성찰)’과 ’Reflection-on-Action (행동 후 성찰)’을 구분했는데, 전자는 실시간으로 조정, 적응해 가는 것, 후자는 미래의 결정을 개선하기 위해서 과거에 했던 결정을 분석하는 겁니다. 도날드 숀의 이런 생각은, ‘전문적인 의사결정이라는 것이, 단순히 계획에 따라 만들어지는 게 아니라, 진행되는 과정에서 행동을 다이내믹하게 평가하고 개선하는 것에 관한 거라는 개념을 강화하게 되었습니다. 이 생각이 인지과학에서부터 교육 영역에 이르기까지 다양한 분야에 깊은 영향을 미쳤고, 학습, 추론, 그리고 행동이 어떻게 ‘함께’ 작동해야 진정한 지능을 이끌어낼 수 있는지에 대한 오늘날 우리의 이해를 형성했다고도 할 수 있습니다.
제가 좋아하던 말인 'Planning over Plan 계획은 매일 하는 것'에 대한 해박한 풀이처럼 들립니다.
AI가 ‘성찰’한다는 건 뭘까?
한편, AI가 성찰을 하기 위해서는 자기 개선 루프 (Self-Improvement Loop) 구현이 필요하다고 합니다.
이 ‘자기 개선 루프’ – 생성 (Generate) —> 비평 (Critique) —> 개선 (Improve) – 는 이미 코딩, 글쓰기, Q&A 같은 영역에서 유의미하게 AI의 성능을 향상시켜주었을 뿐 아니라, 앤드류 응 같은 경우는 ‘성찰’ 때문에 AI가 더 신뢰할 수 있고 자율적인 시스템이 될 수 있다고 강조하기도 합니다.
이를 위한 구성 요소들과 그 관계도가 다음 그림에 나타납니다.
우측에 몰려 있는 Planning 기능의 네 가지 구성요소가 어쩌면 '전략적 로드맵'의 기능 구성일 수도 있겠네요.
주석
[1] <낱말의 뜻을 깊고 넓게 묻고 따지는 일의 소중함> 실천으로 한자사전을 찾아봅니다.
지난 내 일상을 차릴 알고리듬 연재
(26회 이후 링크만 표시합니다.)
27. 지금 나의 위치는 어디인가?
30. 희망과 고통을 모두 만들어 내는 생각에 대처하기
32. 호기심의 가치 그리고 꿈을 일상으로 만들기 위한 조정
33. 지금 이 순간의 편안함에 낚이지 말고 의미를 따지자
35. 8개월 차 감정 과학자 입문기
37. 복잡계를 위한 벡터 변화 이론
