자유에너지 원칙과마코프 블랭킷 모델 (4/4)

능동적 추론 과정으로서의 내면소통

전통적 동기이론의 종말 - 도파민 회로는 보상보다는 새롭고 현저한 자극에 반응

자유에너지 원칙은 뇌과학이나 정신건강의학 뿐만 아니라 행동과학에도 커다란 관점의 전환을 가져오고 있다. 대표적인 것이 보상과 강화학습에 대한 새로운 관점의 제시다. 전통적으로 심리학이나 교육학에서는 사람이나 동물의 행동을 변화시키거나, 새로운 것을 학습시키기 위해서는 보상과 처벌을 적절히 사용해야한다고 굳게 믿어왔다. 특정한 행위에 대해 보상이나 처벌회피를 약속하게 되면 그 행위를 하고자하는 "동기"가 발생하고 그에 따라 같은 행위가 반복됨으로써 학습이나 기억이 더 강화된다는 것이 이른바 강화이론(reinforcement theory)의 핵심이다. 오랫동안 많은 뇌과학이나 뉴로바이올로지 연구들은 이러한 과정에서 도파민이 가치(보상)의 예측을 인코딩한다고 굳게 믿었고 이러한 믿음을 바탕으로 한 수많은 연구 결과들을 발표해왔다(Schultz et al., 1997; Schultz, 1998; Kakade & Dayan, 2002).

자유에너지 원칙은 지각 과정(인풋)과 행위 과정(아웃풋)을 "자유에너지의 최소화"라는 동일한 원칙에 따라 작동하는 것으로 보는 통합적인 이론적 관점을 제공해준다. 특히 뇌의 기본적인 작동 방식으로 오랫동안 받아들여져 온 "보상"이나 "가치"(좋은 것 혹은 유용한 것)가 사실은 불필요한 개념이고, 따라서 특히 보상에 반응하는 것으로 알려진 도파민의 역할에 대해서도 새롭게 다시 평가할 필요가 있게 된다(Friston et al.,2009).  

그동안 전통적인 보상 반응 실험들에서 얻어진 반응 데이터는 그것이 "보상"이었기때문에 나온 것이라고 당연히(?) 여겨져왔다. 즉 생체가 그러한 자극이 좋은 것(보상)이라고 가치판단했기 때문에 도파민이 나왔다는 것이다. 그러나 프리스턴은 그러한 반응은 자극이 "보상"이었기 때문에 나온 것이라기보다는 단지 "새로운" 경험을 주는 현저한 자극에 대한 에이전트의 능동적 추론이 정확했기 때문에 나온 것이라는 주장을 편다. 즉 그동안의 수 많은 보상 실험에서 피험자에게 주어진 자극들은 사실 "보상"으로서의 역할을 했던 것이 아니라 "새롭고 현저한" 자극으로서의 역할을 했다는 것이다(Friston et al., 2009). 그렇기에 도파민 시스템은 "보상"에 반응한다기보다는 새로운 자극에 대한 추론결과에 반응하는 시스템으로 봐야 한다. 이것이 사실이라면 우리는 지금까지 인간에 대해 엄청난 오해를 하고 있었던 것이고, 심리학이나 특히 교육학의 여러가지 기본 개념과 이론들을 대폭 수정해야만 한다. 

전통적인 보상은 반드시 그 가치와 존재가 알려져 있는 것임을 전제로 한다. 저 쿠키는 맛있는 것이라는 알고, 저 쿠기가 주어질 것이라는 것을 알아야 "쿠키"가 보상으로서의 역할을 할 수 있는 것이다. 그러나 이럴 경우에 쿠키는 예측의 대상이 되지 않아 뇌에 별다른 자극을 주지 않는다. 지금까지 알려진 보상과 처벌의 효과에 대한 대부분의 실험 디자인들은 주로 하나의 에이전트가 다른 에이전트를 가르치는 상황이었다. 말하자면 실험 조건에서 보상을 걸고 과제를 시킨다든지 혹은 교사가 학생을 가르친다든 하는 경우 뿐이었다. 다른 에이전트의 보상 약속은 본질적으로 불확실한 것이기에 활발한 능동적 추론이 요구되었고 그러한 추론이 정확한 것이었을 때 도파민 시스템이 작동했던 것이다. 스스로 확실하다고 판단하는 보상 자극에 대해서는 예측이 일어나지 않으므로 보상 자극으로서 작동하지 못한다. 당연하다고 여기는 자극에 대해서는 도파민이 나오지 않는것이다. 당연히 기대했던 선물은 아무리 비싼 것이라도 보상으로서 작동하지 않는 이유다. 무언가 예측을 넘어서야, 즉 예측 오류의 가능성을 유발시켜야, 또는 미처 기대도 안했던 것이 새로운 자극으로 주어져야 보상으로 작동한다. 서프라이즈의 가능성이 있는 새로운 자극이 주어져야 도파민 시스템이 가동된다. 비유적으로 말하자면 서프라이즈 파티는 "파티"여서가 아니라 "서프라이즈"여서 도파민 시스템이 활성화되는 것이다. 

도파민은 감각상태의 예측오류의 정확성을 인코딩할 뿐이다. 도파민 시스템이 별도로 보상 체계에도 관여하고 근육 움직임에도 관여하는 것이 아니라 도파민은 오직 하나의 기본 기능, 즉 "감각상태에서의 예측 오류의 정확성을 인코딩하기"에만 관여할 뿐이다. 그 결과 도파민 체계의 이상이 오면 한편으론 파킨슨씨 병과 같은 움직임 장애가 발생할 수도 있고 다른 한편으론 강화학습에 문제가 생길 수도 있는 것이다(Friston et al., 2009). 특정한 자극이 도파민 반응을 이끌어낸다는 것은 예측이 정확하다는 신호를 주는 것이다. 이 예측은 고유수용감각에 관한 것이고 능동적 추론을 통해서 행동 반응을 이끌어 낸다. 보상이든 감각이든 무슨 자극이든 상관없이 예측이 정확한 경우에는 도파민 신호를 불러 일으킨다. 이것이 보상 자극이 전혀 아님에도 불구하고 주의를 끄는 현저한 자극이기만 하면 도파민을 반응을 불러일으키는 이유다. 따라서 인간관계에서나 실험 상황에서 한 에이전트의 행동을 바꾸려면 새로운 환경에 처하게 함으로써 새로운 사전 자극을 주면 된다. 

자유에너지 원칙의 관점에서 보자면 보상과 처벌은 아무런 차이가 없다. 둘 다 서프라이즈일 뿐이다. 뉴로바이올로지의 관점에서 보자면 도파민은 "가치의 예측오류"(좋은 것이냐 나쁜 것이냐, 혹은 당근이냐 채찍이냐)를 인코딩하지는 않는다. 다만 "예측오류의 가치"(예측 오류 자체가 좋으냐 나쁘냐, 즉 예측이 맞았냐 틀렸냐) 만을 인코딩할 뿐이다(Friston et al., 2009). 이에 따라 예측오류가 정확하도록 지각과 행위과정을 몰아갈 뿐이다. 

좋은 먹이나 칭찬이 올 것 같다고 해서 도파민이 나오거나 하는 것이 아니라, 다시 말해서 예측되는 가치 (좋은거냐 나쁜거냐)에 따라 도파민 시스템이 작동하는 것이 아니라, 내가 지금 하고 있는 예측(감각 예측이든 행위 예측이든)이 맞냐 아니냐에 따라 도파민 시스템이 작동한다고 보아야 한다. 도파민의 본질적 기능은 예측오류를 인코딩하여 그것을 최소화하는 방향으로 뉴럴네트워크를 지속적으로 업데이트하는 것이다. 도파민 반응을 이끌어내는 자극은 예측이 정확한지의 여부만을 알려주는 것이다. 새롭거나 주목을 끄는 현저한 자극이면 보상이든 아니든 상관없이 도파민 반응을 불러 일으키게 되는 이유가 바로 이것이다. 

도파민 회로의 기능이 보상에 반응하는 것이 아니라 예측 오류의 정확성을 인코딩 하는데 있다는 것이 사실이라면 전통적인 강화학습에 대한 해석이나 보상에 따른 동기부여에 관한 모든 이론이 재검토되어야 한다. 말하자면 달콤한 보상을 약속하거나 강력한 처벌을 예고하는 것보다는 새롭거나 불확실한 자극을 제공하는 것이 더 큰 학습 효과와 근본적인 행동변화를 가져온다고 보아야 하기 때문이다. 학교 교육의 상벌 시스템이나 기업에서의 보상 체계 (보너스나 상벌체계)도 이러한 관점에서 새롭게 구성해야 한다.

뇌의 보상체계에 관한 전통적인 관점을 프리스턴이 뒤흔들어 놓은 이래, 최근 뇌과학의 많은 연구들이 프리스턴의 주장을 뒷받침하고 있다. 도파민을 보상체계의 핵심이라고 보는 것보다 보다 일반적인 예측오류를 인코딩하는 것으로 보는 것이 타당하다는 결과들을 잇달아 내놓고 있는 것이다. 모렌스 등은 실제로 도파민 회로는 보상 그 자체보다는 새롭고 낯선 모든 자극에 의해 활성화되며 특히 예측오류를 인코딩한다는 연구결과를 발표했다(Morrens et al., 2020). 

가드너 등 역시 도파민 회로가 전통적인 보상자극에 의해서만 활성화되는 것이 아니라 보상과 전혀 관련이 없는 일반적인 감각에 대한 예측오류에 대해서도 활성화된다는 사실을 밝혀냈다(Gardner et al., 2018). 이것은 매우 중요한 발견이다. 도파민 회로의 기능이 단지 보상에 대해 반응하는 보상체계가 아니라 사실은 보다 폭넓은 예측 오류와 관련해서 작동하는 시스템이라는 의미이기 때문이다. 도파민이 강화이론에 따라 학습을 강화시키고 행동의 변화를 가져오는 것처럼 보였던 것은 사실 "보상"(자극의 가치)에 의한 것이 아니라 "예측오류"(보상에 관한 것이든 아니든 일반적인 예측오류)에 의한 것이라고 보아야 한다.

도파민 회로로도 알려져 있는 보상체계는 사실 보상에 대해서만 활성화되는 것이 아니라 불확실성과 새로운 것에 대한 탐색의 과정에서도 활성화되는 것이라는 연구 결과도 있다(Gershman & Uchida, 2019). 도파민은 환경에 대한 불확실성에 대한 반응이 학습을 강화시키며, 환경에 대한 새로운 믿음과 학습을 업데이트시키는데 있어서 중요한 역할을 한다는 것이다. 즉 예측적 조절과 예측오류의 최소화 과정에서 도파민은 핵심적 기능을 담당하고 있다. 

이러한 연구 결과들을 종합해보면 도파민 회로는 은 보상을 넘어서 일반적인 학습과정에 있어서 매우 중요한 역할을 하고 있는 것이 분명하다. 특히 도파민 시스템의 기능 이상으로 발생하는 정신질환은 추론과정에서의 교란이 가져오는 내적 모델의 왜곡과 변환이 근본 원인일 가능성이 크다(Diederen & Fletcher, 2020). 따라서 예측 오류와 추론 과정에서의 도파민의 역할을 보다 더 깊게 탐구하는 것은 심리학, 교육학, 경영학뿐만아니라 정신건강의학에도 큰 발전을 가져오게 될 것이다.

마음근력 훈련의 관점에서 보자면 명료한 의식으로 깨어 있는 사띠의 상태는 지금 이 순간 벌어지는 모든 일들을 마치 생전 처음 마주하는 마음으로 대하는 것이다. 무엇인가를 당연하다고 여기는 순간 그것에 대한 정보 처리의 많은 부분이 우리 뇌에서 생략된다. 마음근력을 향상시킨다는 것은 특정한 뉴럴 네트워크를 강화시킴으로써 새로운 습관을 만들어 간다는 뜻이다. 그러한 과정이 효과적인 것이 되려면 우리의 뇌는 늘 낯선 것을 처음 보는 상태인 것처럼 작동해야 한다. 그래야 도파민 회로가 활성화되고, 그래야 새로운 마음의 습관이 형성된다. 

모든 것을 낯설고 새로운 자극을 대하는 상태로 내부 상태를 유지하는 것이 바로 명료한 의식상태다. 이것이 지눌 선사가 강조했던 영가현각 스님의 "성성적적(惺惺寂寂)"에서의 "성성"의 의미이며, 슌류 스즈키가 말하는 초심(初心)의 의미이기도 하다(Suzuki, 2020). 자유에너지 원칙의 관점에서 보자면 알아차림(사띠) 명상은 모든 감각상태와 내적(의식)상태가 능동적 추론과 예측적 조절 작용에 활발히 몰입하는 상태이며, 주어지는 모든 자극을 새로운 자극으로 받아들여 끊임없이 도파민 회로가 작동하는 상태라 할 수 있다. 이것이 바로 아나빠나사띠와 같은 명상이 지극한 기쁨(pīti)과 편안한 행복감(sukha)을 주는 이유다.

확장된 마코프 블랭킷: 몸으로서의 매체와 매체로서의 몸 

자유에너지 원칙은 인간의 뇌 작용에만 적용되는 원칙이 아니다. 하나의 세포에서부터 한 생명체, 나아가 집단에 이르기까지 다양한 차원에 모두 적용될 수 있다. 한 사람에게 있어서는 그의 몸이 곧 마코프 블랭킷이다. 조직이나 국가 단위에도 "경계"는 분명히 존재한다. 예컨대 한 회사라는 조직을 외부 환경과 구분시켜주면서도 인적 물적 자원을 받아들이고 생산물이나 서비스를 내보내는 여러 제도나 시스템이 곧 그 조직을 유지시켜주는 경계다. 미시세계의 구조가 거시세계에서도 반복된다(West, 2017)는 스케일의 관점은 마코프 블랭킷에도 정확히 적용된다(아래 그림 참조. Kirchhoff et al., 2018). 

 

(그림 출처: Kirchhoff et al., 2018)

마코프 블랭킷의 개념은 스케일의 관점에서만 확장이 가능한 것이 아니라 기능적 관점에서도 확장이 가능하다. 대표적인 것이 각종 미디어다. 맥루한은 매체의 본질을 "몸의 확장(extention of the body)"으로 보았다 (McLuhan, 1994). 말하자면 카메라는 눈의 확장이고, 마이크는 목소리의 확장이라는 것이다. 인간은 몸적인 존재이기 때문에 시공간의 제한을 받는다. 지금 여기에 있으면서 동시에 다른 곳에 있을 수가 없다. 하지만 "몸의 확장"인 미디어 덕분에 우리는 시공간을 뛰어넘어 커뮤니케이션을 할 수 있다. 

디지털 미디어의 발전 덕분에 전세계 어디에 있는 사람과도 언제든 문자나 목소리나 영상을 실시간으로 주고 받을 수 있게 되었다. 매체는 몸의 확장으로서 감각상태와 행위상태의 기능을 담당하고 있는 것이다. 자유에너지 원칙의 관점에서 보자면 매체는 인간의 감각상태와 행위상태 정보처리의 기능을 담당하고 있는 확장된 마코프 블랭킷인 셈이다.

매체는 외부 환경에 속하는 다른 사물들과는 달리 감각상태에 시각, 청각, 촉각 등의 정보를 전달해주는 역할을 담당한다. 휴대폰 스크린에 비친 동영상을 보거나 컴퓨터 모니터를 통해 게임을 할 때, 우리의 감각상태가 받아들이는 정보는 사물로서의 휴대폰 스크린이나 컴퓨터 모니터 자체가 아니라 그것이 전달해주는 이미지나 사운드 등 여러 감각정보들이다. 우리는 스크린이나 모니터를 외부 환경으로 받아들이는 것이 아니라 그것이 전달해주는 감각 정보들을 외부환경으로 받아들인다. 즉 스크린이나 모니터는 우리 몸과 외부환경 사이에 투명하게 존재하며 감각상태의 대상이라기보다는 마코프 블랭킷의 일부처럼 기능하고 있는 것이다. 이것을 프리스턴식으로 말하자면 매체는 확장된 감각상태(extended sensory states)인 것이다. 디지털 미디어가 점점 더 몸친화적인 매체가 되어 웨어러블 컴퓨팅이나 VR 기기가 확산이 되면 미디어는 더욱 더 확장된 마코프 블랭킷으로 자리잡게 될 것이다.  

클락은 매체가 단지 "확장된 감각"만을 가져오는 것이 아니라 "확장된 인지(extended cognizing)"도 가져온다고 주장한다(Clark, 2017). 스마트폰이나 노트북 컴퓨터는 물론, 하다 못해 필기 도구인 종이나 연필까지도 정보를 처리하고 보관하고 변형시키는데 있어서 중요한 역할을 하는 한 마코프 블랭킷의 일부로 보아야 한다는 것이다. 다양한 종류의 매체 기술은 감각이나 인식을 위한 외적인 도구라기보다는 능동적 추론 과정의 한 부분을 구성한다는 것이다. 종이와 연필을 사용해서 특정한 계산과 사고작용을 완성했다면, 그 종이와 연필은 인식과정의 한 부분이라는 것이다. 이렇게 보면 의식이나 정신작용이 반드시 생물학적 존재 안에만 머무를 이유는 없으며 그 유기체가 몸담고 살고 있는 환경으로까지 확대된다. 인간은 스스로의 마코프 블랭킷을 만들어내고 확장시킬 수 있는 독특한 유기체가 된다(Clark, 2017). 

한편, 미디어를 몸의 확장이라 볼 수 있는만큼, 몸을 일종의 미디어라 할 수도 있다. 처음에는 인간의 뇌의 작동 방식을 모방해서 컴퓨터 시스템을 구축했지만, 이제는 컴퓨터 시스템을 통해서 인간 뇌의 작동방식을 이해하려는 노력도 늘고 있는 것과 비슷한 관점이다. 감각정보와 행위정보인 기호를 실어 날으는 기호운반체 (sign-vehicle)로서의 기능에 촛점을 맞춘다면, 마코프 블랭킷으로서의 몸의 본성을 일종의 미디어로 파악할 수도 있게 될 것이다. 이는 다양한 기호학과 매체 이론을 통해 마코프 블랭킷으로서의 몸에 대한 이론화가 더 깊어 질수도 있음을 의미한다. 

= References =

Aliseda, A. (2000). Abduction as epistemic change: A Peircean model in artificial intelligence. In Abduction and Induction (pp. 45-58). Dordrecht: Springer.

Apps, M. A., & Tsakiris, M. (2014). The free-energy self: a predictive coding account of self-recognition. Neuroscience & Biobehavioral Reviews, 41, 85-97.

Barrett, L. F. (2012). Emotions are real. Emotion, 12(3), 413-429.

Berkovich-Ohana, A., Dor-Ziderman, Y., Glicksohn, J., & Goldstein, A. (2013). Alterations in the sense of time, space, and body in the mindfulness-trained brain: A neurophenomenologically-guided MEG study. Frontiers in Psychology, 4. https://doi.org/10.3389/fpsyg.2013.00912

Chekroud, A. M. (2015). Unifying treatments for depression: An application of the Free Energy Principle. Frontiers in Psychology, 6, 153.

Clark, A. (2012). Dreaming the whole cat: Generative models, predictive processing, and the enactivist conception of perceptual experience. Mind, 121(483), 753-771.

Clark, A. (2017). How to knit your own Markov Blanket: Resisting the second law with metamorphic minds. In T. Metzinger & W. Wiese (Eds.). Philosophy and predictive processing. Frankfurt am Main: MIND Group.

Conway, M. A. (2005). Memory and the self. Journal of memory and language, 53(4), 594-628.

Cornwell, B. R., Garrido, M. I., Overstreet, C., Pine, D. S., & Grillon, C. (2017). The unpredictive brain under threat: A neurocomputational account of anxious hypervigilance. Biological Psychiatry, 82(6), 447-454.

Damasio, A. (1999). The feeling of what happens: Body and emotion in the making of consciousness. New York: Harcourt Brace.

Dayan, P., Hinton, G. E., Neal, R. M., & Zemel, R. S. (1995). The helmholtz machine. Neural Computation, 7(5), 889-904.

Deane, G. (2020). Dissolving the self: Active inference, psychedelics, and ego-dissolution. Philosophy and the Mind Sciences, 1(I), 2. https://doi.org/10.33735/phimisci.2020.I.39

Diederen, K. M., & Fletcher, P. C. (2020). Dopamine, prediction error and beyond. The Neuroscientist, https://doi.org/10.1177/1073858420907591.

Fletcher, P. C., & Frith, C. D. (2009). Perceiving is believing: a Bayesian approach to explaining the positive symptoms of schizophrenia. Nature Reviews Neuroscience, 10(1), 48-58.

Fletcher, P. C., & Frith, C. D. (2009). Perceiving is believing: a Bayesian approach to explaining the positive symptoms of schizophrenia. Nature Reviews Neuroscience, 10(1), 48-58.

Friston, K. (2010). The free-energy principle: a unified brain theory?. Nature reviews neuroscience, 11(2), 127-138.

Friston, K. (2012). A free energy principle for biological systems. Entropy, 14(11), 2100-2121.

Friston, K. (2013). Life as we know it. Journal of the Royal Society Interface, 10(86), 20130475.

Friston, K. (2017). I am therefore I think. In M. Leuzinger-Bohleber, S. Arnold & M. Solms (Eds.), The unconscious : A bridge between psychoanalysis and cognitive neuroscience (pp. 113-137). London: Routledge.

Friston, K. (2018). Am I self-conscious?(or does self-organization entail self-consciousness?). Frontiers in psychology, 9, 579.

Friston, K. J., Daunizeau, J., & Kiebel, S. J. (2009). Reinforcement learning or active inference?. PloS one, 4(7).

Friston, K. J., Daunizeau, J., Kilner, J., & Kiebel, S. J. (2010). Action and behavior: a free-energy formulation. Biological cybernetics, 102(3), 227-260.

Friston, K. J. (2017). Precision psychiatry. Biological Psychiatry: Cognitive Neuroscience and Neuroimaging, 2(8), 640-643.

Friston K (2008) Hierarchical Models in the Brain. PLoS Comput Biol 4(11): e1000211. doi:10.1371/journal.pcbi.1000211

Gandal, M. J., Leppa, V., Won, H., Parikshak, N. N., & Geschwind, D. H. (2016). The road to precision psychiatry: translating genetics into disease mechanisms. Nature neuroscience, 19(11), 1397-1407.

Gardner, M. P., Schoenbaum, G., & Gershman, S. J. (2018). Rethinking dopamine as generalized prediction error. Proceedings of the Royal Society B, 285(1891), 20181645. 

Gazzaniga, M. S. (1998). The split brain revisited. Scientific American, 279(1), 50-55.

Gazzaniga, M. S. (2012). Who's in charge?: Free will and the science of the brain. New York: HarperCollins.

Gershman, S. J., & Uchida, N. (2019). Believing in dopamine. Nature Reviews Neuroscience, 20(11), 703-714.

Gratton, C., Kraus, B. T., Greene, D. J., Gordon, E. M., Laumann, T. O., Nelson, S. M., ... & Petersen, S. E. (2019). Defining Individual-Specific Functional Neuroanatomy for Precision Psychiatry. Biological psychiatry.

Helmholtz, H. (1971/1878). The Facts of Perception in (Ed.) R. Kahl,The Selected Writings of Hermann von Helmholtz, Middletown, CT: Wesleyan University Press.

Helmholtz, H. V. (1925/1867). Treatise on physiological optics. Rochester, NY: Optical Society of America.

Hinton, G. E., Dayan, P., Frey, B. J., & Neal, R. M. (1995). The" wake-sleep" algorithm for unsupervised neural networks. Science, 268(5214), 1158-1161.

Hofstadter, D. R. (2007). I am a strange loop. New York: Basic books.

Hohwy, J. (2016). The self‐evidencing brain. Noûs, 50(2), 259-285.

Jardri, R., Duverne, S., Litvinova, A. S., & Denève, S. (2017). Experimental evidence for circular inference in schizophrenia. Nature communications, 8(1), 1-13.

Josipovic, Z. (2010). Duality and nonduality in meditation research. Consciousness and Cognition, 19(4), 1119-1121.

Josipovic, Z. (2014). Neural correlates of nondual awareness in meditation. Annals of the New York Academy of Sciences, 1307(1), 9-18.

Kakade, S., & Dayan, P. (2002). Dopamine: Generalization and bonuses. Neural Networks, 15(4-6), 549-559.

Kim, J. (2016). Phenomenology of public opinion: Communicative body, intercorporeality and computer-mediated communication. In Jung, H. Y., & Embree, L. (Eds.) Political phenomenology: Essays in memory of Petee Jung (Vol. 84). pp. 259-279. New York: Springer.

Kirchhoff, M., Parr, T., Palacios, E., Friston, K., & Kiverstein, J. (2018). The Markov blankets of life: Autonomy, active inference and the free energy principle. Journal of The Royal Society Interface, 15(138), 20170792.

Limanowski, J., & Friston, K. (2020). Attenuating oneself: An active inference perspective on “selfless” experiences. Philosophy and the Mind Sciences, 1(I), 6.

McLuhan, M. (1994). Understanding media: The extensions of man. Cambridge, MA: MIT press.

Metzinger, T. (2003). Being no one: The self-model theory of subjectivity. Cambridge, MA: MIT Press.

Metzinger, T. (2009). The ego tunnel: The science of the mind and the myth of the self. New York: Basic Books.

Metzinger, T. (2020). Minimal phenomenal experience: Meditation, tonic alertness, and the phenomenology of ”pure” consciousness. Philosophy and the Mind Sciences, 1(I), 7. https://doi.org/10.33735/phimisci.2020.I.46

Milliere, R., & Metzinger, T. (2020). Radical disruptions of self-consciousness. Philosophy and the Mind Sciences, 1(I), 1-13.

Millière, R., Carhart-Harris, R. L., Roseman, L., Trautwein, F. M., & Berkovich-Ohana, A. (2018). Psychedelics, meditation, and self-consciousness. Frontiers in Psychology, 9, 1475.

Morrens, J., Aydin, Ç., van Rensburg, A. J., Rabell, J. E., & Haesler, S. (2020). Cue-evoked dopamine promotes conditioned responding during learning. Neuron. 106(1), 142-153.

Pascual-Leone, A., & Walsh, V. (2001). Fast backprojections from the motion to the primary visual area necessary for visual awareness. Science, 292(5516), 510-512.

Pearl, J. (1988). Probabilistic reasoning in intelligent systems: Networks of plausible inference. San Francisco: Morgan Kaufmann.

Peirce, C. S. (1994). The Collected papers of Charles Sanders Peirce. Electronic Edition. Vol. 1-8. Cambridge, MA: Harvard University Press.

Pellicano, E., & Burr, D. (2012). When the world becomes ‘too real’: A Bayesian explanation of autistic perception. Trends in Cognitive Sciences, 16(10), 504-510.

Polkinghorne, D. E. (1991). Narrative and self-concept. Journal of narrative and life history, 1(2-3), 135-153.

Ramstead, M. J., Kirchhoff, M. D., Constant, A., & Friston, K. J. (2019). Multiscale integration: beyond internalism and externalism. Synthese, 1-30.

Ricoeur, P. (1984). Time and narrative. trans. by K. McLaughlin & D. Pellauer. Chicago: University of Chicago Press.

Schechtman, M. (2011). The narrative self. In Shaun Gallagher (ed.), The Oxford Handbook of the Self. Oxford: Oxford University Press.

Schultz, W., Dayan, P., & Montague, P. R. (1997). A neural substrate of prediction and reward. Science, 275(5306), 1593-1599.

Schultz, W. (1998). Predictive reward signal of dopamine neurons. Journal of Neurophysiology, 80(1), 1-27.

Schutter, D. J. (2016). A cerebellar framework for predictive coding and homeostatic regulation in depressive disorder. The Cerebellum, 15(1), 30-33.

Suzuki, S. (2020). Zen mind, beginner's mind. Boulder, CO: Shambhala Publications.

Sylvester, C. M., Yu, Q., Srivastava, A. B., Marek, S., Zheng, A., Alexopoulos, D., ... & Patel, G. H. (2020). Individual-specific functional connectivity of the amygdala: A substrate for precision psychiatry. Proceedings of the National Academy of Sciences, 117(7), 3808-3818.

Trapp, S. & Kotz, S. A. (2016). Predicting Affective Information–An Evaluation of Repetition Suppression Effects. Frontiers in Psychology, 7, 1365.

Unoka, Z., Berán, E., & Pléh, C. (2012). Narrative constructions and the life history issue in brain–emotions relations. Behavioral and Brain Sciences, 35(3), 168-169.

Visweswaran, S., & Cooper, G. F. (2010). Learning instance-specific predictive models. Journal of Machine Learning Research, 11(Dec), 3333-3369.

West, G. B. (2017). Scale: The universal laws of growth, innovation, sustainability, and the pace of life in organisms, cities, economies, and companies. New York: Penguin.

Zahavi, D. (2014). Self and other: Exploring subjectivity, empathy, and shame. Oxford: Oxford University Press.

(부탁의 말씀: 이 글은 곧 출간될 예정인 책 원고의 일부이며, 아직 교정 전 원고이니 인용은 하지 말아주시기를 부탁드립니다.)