인공지능에게 배우게 될 인간다움은 무엇인가
AI를 이해하는 시대가 아니라 인간을 다시 이해하는 시대
AI 정렬(AI alignment)은 AI가 주어진 목표를 정확히 이해하고 인간의 윤리·기대·가치에 맞게 행동하도록 만드는 문제를 의미합니다. 표면적으로는 기술적 과제로 보이지만 정렬 문제를 깊이 들여다보면 드러나는 것은 AI의 한계가 아니라 인간 가치의 모순성과 불완전성입니다.
인간은 윤리는 문화마다 다르고 가치는 시대에 따라 달라지며 감정은 논리에 충돌하고 스스로 설정한 규칙을 스스로 깨기도 합니다. 이 모순적이고 복잡한 인간 세계가 정렬 문제를 더 어렵게 만듭니다. AI가 인간을 이해하지 못한다기보다 인간이 인간을 명확히 이해하지 못하고 있음을 확인할 수 있습니다.
그래서 “AI를 인간에게 정렬시킨다”는 말은 결국 인간 스스로의 기준부터 정렬해야 한다는 말과 같습니다.
따라서 AI 시대에 중요한 것은 기술을 이해하는 것이 아니라 AI가 인간을 배우기 위해 인간이 무엇을 기준으로 존재하는지 다시 정의하는 일입니다.
우리가 인간의 윤리를 명확히 하지 않으면 AI는 윤리적으로 행동할 수 없으며 책임의 의미를 설정하지 않으면 AI에게 책임을 기대할 수 없습니다. 그렇기에 AI가 인간을 이해하기 위해서는 먼저 인간이 스스로를 더 깊이 이해해야 합니다. 이 정렬 문제는 기술적 과제가 아니라 철학적 질문입니다.
인간은 어떤 존재인가?
무엇을 가치라고 부르는가?
우리는 어떤 세계를 원하고, 어떤 윤리를 선택할 것인가?
AI를 인간에 맞추는 것이 아니라 인간이 어떤 존재인지 다시 정의하는 순간 AI는 정렬될 수 있습니다.
park.j 님이 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.
모비인사이드의 뉴스레터를 구독해보세요
