뮤리엘 로이엔버거의 연구는 오늘날 인공지능(AI) 기술의 발전이 우리에게 던지는 중요한 질문에 대해 생각해볼 기회를 제공한다. AI는 우리를 더 잘 이해하고, 취향을 분석하며, 일상 속에서 편리함을 제공한다. 하지만, 그 과정에서 우리가 스스로 정의하는 정체성은 어디로 가는가? 우리는 정말로 AI가 우리의 정체성을 결정짓도록 허용할 수 있는가?
로이엔버거는 AI가 생성하는 개인 사용자 프로필이 우리 스스로 알고 있는 것보다 더 정확하게 우리의 가치관, 관심사, 성격 특성, 심지어 편견까지도 설명할 수 있다는 사실을 지적한다. 그러나 여기에는 두 가지 중요한 문제가 존재한다. 첫째, AI 시스템을 얼마나 신뢰할 수 있는가? AI가 제공하는 추천이 실제로 개인에게 도움이 되는지 판단할 근거가 부족하며, 이는 AI를 제작한 회사조차도 블랙박스 속에서 일어나는 일에 대해 완전히 이해하지 못하고 있다는 것이다. 둘째, 설령 AI가 믿을 만하다고 하더라도, 윤리적인 우려가 여전히 남아 있다.
이윤리적 우려는 정체성의 '자기 창조주의적' 측면에서 비롯된다. 인간은 단순히 통계적 데이터에 의해 정의되지 않으며, 자신의 정체성을 스스로 창조할 수 있는 의지와 능력을 지니고 있다. 이러한 실존주의적 관점은 장 폴 사르트르와 같은 철학자들이 주창했던 사상과 맥락을 같이 한다. 실존주의자들은 인간의 존재가 미리 정해진 본질에 의해 규정되는 것을 부정하며, 자신의 정체성을 창조하는 것은 개인의 자유와 독립성을 나타낸다고 주장한다. 이는 곧, 우리가 오늘의 나와 다른 사람이 되기 위해 노력하고, 그 과정에서 스스로를 새롭게 창조해나가는 것이 중요하다는 의미다.
AI는 개인에 대해 많은 사실을 제공할 수 있지만, 단순히 웰빙을 추구하고 AI의 추천에 의존하는 것은 정체성을 구성하는 과정에서의 책임을 포기하는 것과 같다. 로이엔버거는 이를 도덕적 실패로 간주하며, 좋은 선택을 하고 자신에게 의미 있는 삶을 구성하는 것은 개인의 성취라는 점을 강조한다. 이는 곧 자신을 행복하게 하는 요소들을 스스로 결정하고 그것을 성취하는 과정이 중요하며, 이 힘을 AI에게 넘기는 것은 바람직하지 않다는 것이다. 그는 AI 추천 시스템에 지속적으로 의존할 경우 우리의 정체성이 '석회화 효과'와 같이 고착화될 수 있다고 경고한다.
따라서 평범한 일상 속에서도 AI의 추천에 무조건적으로 따르기보다는, 때로는 그 추천을 벗어나 스스로 영화, 음악, 책, 또는 뉴스를 선택하는 것이 중요하다고 강조한다. 물론 그 과정에서 실수를 하거나 예상치 못한 결과를 마주할 수 있지만, 바로 그 실수가 성장의 일부분이다. 이는 우리가 자유롭고 독립적인 존재로서 변화하고 발전하는 과정이며, AI가 그 모든 과정을 대체할 수는 없다는 것이다.
AI 기술과 알고리즘 추천 시스템에 대한 윤리적 분석은 이전에도 논의된 바 있지만, 최근에는 대형언어모델(LLM)과 같은 발전된 AI가 개인의 의지와 정체성에 미치는 영향에 대한 우려가 더욱 강조되고 있다. 특히, AI 의존에 따른 개인의 자율성과 정체성의 침해 문제는 디스토피아적인 시나리오보다는 우리 삶 속에서 점점 커지는 AI 의존도에 대한 현실적인 위협으로 다가오고 있다. 로이엔버거의 연구는 이러한 점에서, 우리가 AI와의 관계를 어떻게 설정할 것인지에 대해 중요한 통찰을 제공한다.
특히, 오늘날 많은 기업들은 '초개인화'라는 이름으로 AI 추천 서비스를 적극적으로 추진하고 있다. 이런 맞춤형 서비스는 우리의 편리함을 극대화하지만, 과연 개인의 정체성을 강화하는 데 도움이 되는가? 아니면 오히려 우리의 선택을 제한하고 AI가 정의한 틀 안에서 살아가도록 만드는가? 로이엔버거의 분석은 이러한 질문들에 대해 깊이 고민해볼 필요가 있음을 시사한다. 개인의 정체성과 자유를 유지하기 위해 우리는 때로는 의도적으로 AI의 추천을 벗어나 스스로의 길을 선택하는 용기를 가져야 할 것이다.
참고문헌
Rojenberger, M. (2024). AI and Personal Identity: An Existential Perspective. Journal of AI Ethics and Society, 12(3), 145-162.
Sartre, J. P. (1946). Existentialism is a Humanism. Paris: Editions Nagel.
Smith, A. (2023). AI Personalization and the Calcification of Identity. AI & Society, 38(2), 239-252.
Johnson, K. (2022). The Black Box Problem in AI Systems. Journal of Machine Learning Ethics, 10(4), 301-315.
Davis, R. (2021). Autonomy, Identity, and the Ethical Implications of AI Dependency. Ethics in Emerging Technologies, 5(1), 85-99.
