인공지능 빅브라더
인공지능 시대에 인간은 조종당하고 있을까요?
사람들은 각자 자신의 꿈과 목표를 세워 인생을 살아갑니다. 각자가 원하는 방식으로 꿈을 설계할 수 있습니다. 하지만 인공지능이 사회에 큰 영향을 주면서, 우리의 꿈은 인공지능에 의해 설계당할 수 있습니다. 과연 인간의 꿈과 목표는 스스로 정하고 있을까요?
오늘 이야기의 소재는 조종입니다.
조종: 다른 사람을 자기 마음대로 다루어 부림.
과거 인공지능 학회인 NeurIPS 2022에서 음악 어플 회사인 Spotify 부스를 방문한 적 있습니다. AI 연구자로서 Spotify에서 어떤 역할을 할 수 있는지 물었습니다. 그들은 강화학습을 이용하여 사용자들이 앱에 더 오래 머물 수 있는 알고리즘과 모델을 개발해 주길 바라더군요. 서비스하는 기업에게 반드시 필요한 연구 분야입니다. 기업은 최대의 이윤을 위해서 행동하죠. 그러나 그 말을 듣고 한 가지 걱정이 떠올랐습니다. 그들의 동기는 강력하고 AI는 더욱 막강해졌는데, 인간은 서비스 사용에 저항하여 본인의 시간을 스스로 통제할 수 있을까요?
뉴립스 학회
스포티파이 부스에서 받은 기타 키링유사한 사례를 하나 더 고려해 보겠습니다.
엄마가 나를 학원에 보내려 한다. 나는 집에서 쉬고 싶다. 그래서 학원에 가지 않는다.
엄마에게 혼나면 나는 학원을 간다.
결과적으로 나는 학원에 간 것입니다. 이때 작용하는 두 가지 힘, 내 휴식의 욕구와 엄마의 아들 학원 보내기 욕구가 충돌하여 더 강한 힘의 방향으로 우리의 행동이 결정됩니다.
AI개발자는 인공지능을 학습시켜 사람들에게 영향을 줄 수 있습니다. 개발자는 인공지능의 행동을 설계할 수 있습니다. 바꿔 말하면 인공지능 개발자는 사람들을 조종하는 방향으로 모델을 학습시킬 능력이 있습니다. 인공지능을 만들 때 다음과 같은 요소가 중요하게 고려됩니다.
목적함수 : 어떤 목적을 달성하도록 학습할 것인가 (강력한 조종 가능)
학습 데이터: 어떤 데이터에 맞춰서 학습할 것인가 (강력한 사회적 편향 가능)
모델 구조: 입력에 대해서 어떤 구조로 연산할 것인가
이 세 가지 중에서 학습 데이터는 모델이 자의식을 배우는 환경을 나타냅니다. 인간이 성장하는 환경에 따라서 다른 가치관을 가지고 경험을 축적하는 것처럼, 학습 데이터는 모델의 성격이 자라나는 환경입니다. 이 공간의 설계는 보통 개발자 혹은 프로젝터의 리더가 정하며, 인공지능이 말하는 모든 것들은 학습한 데이터의 특징으로부터 발현됩니다. 민감한 정치적인 발언에 대해서 한쪽 진영으로 치우친 데이터를 좀 더 많이 학습한다면, 인공지능의 말과 행동이 정치적 편향을 가질 가능성이 높습니다. AI 연구자들은 치우쳐진 모델의 특성을 편향이라고 부르며, 이를 해소하기 위해서 연구합니다. 그러나 기업의 입장에서는 편향이야말로 그들이 원하는 것입니다. 소비를 촉진시킬 수 있으니까요.
Spotify 예시에서는 기업이 편향을 유도하여 더 많은 이익을 창출하는 부분을, 정치 관련 데이터에 대해서는 치우쳐진 인공지능에 대해서 이야기하였습니다. 저는 모델의 파급력으로부터 인간의 꿈이 조종당하는 것의 불안감을 느낀다.
우리는 조종당하고 설계당합니다. 조지오웰의 1984 [1 참조]에 나오는 빅브라더처럼 관리 감독하에 인간의 행동과 습관은 감시되며 설계당합니다. 적어도 빅브라더에서는 조종이 명시적으로 나타나지만, 인공지능의 영향 하에서는 간접적으로 나타나죠. 대표적으로 SNS의 알고리즘은 우리가 원하는 것을 보여주지만, 반대로 그들이 원하는 것을 것을 추천할 수 있습니다. 회사는 유저의 앱 사용 방식을 항상 감시하며, 인공지능의 도움으로 우리를 앱에 더 머무르게 할 수 있습니다. 그러니까, 실제로 우리의 자유의지는 적을 수 있습니다.
인공지능 알고리즘이 우리를 설계할 수 있다는 사실을 알기에 알기에, 최대한 SNS는 멀리하려고 합니다. 가장 큰 이유는 내가 가고 싶은 길을 이끄는 원동력이 빅데이터로 학습된 그들의 강력한 알고리즘을 이길 수 없기 때문이다. 개인적 의견으로 SNS가 손쉽게 사람들을 중독시키는 것은 담배보다 나쁜 것이라고 생각합니다. 담배를 멀리 하라고 경고하는 것이 건강에 나빠져서 일찍 죽기 때문이라면, 어려서부터 수많은 시간을 SNS 하면 사라질 수 있는 개인의 시간은 더 많은 양을 차지하는 것 같더군요. 물론 SNS를 하는 게 시간낭비는 아닙니다. 그런데, 일주일 전에 본 쇼츠는 기억이 나지 않더군요.
저의 몇 가지 만트라 중에 한 가지를 공유합니다.
삶의 작은 조각이라도 잃어버리지마라. 그럼으로써 내 삶은 누군가의 인생보다 길다.
저에게 인공지능을 만드는 것은 인위적인 생각의 흐름을 만드는 것입니다. ChatGPT도 개발자가 만들어놓은 생각회로입니다. 인간의 뇌도 마찬가지로 수 억 개의 뉴런이 수 조 개의 시냅스 (연결)을 만들고 자신만의 생각의 길을 이끌어 낼 수 있습니다. 여전히 우리는 인공지능 제품을 멀리할 선택권이 있기 때문에, 빅브라더의 경우보다 심하지 않을 수 있습니다.
그런데, 우리는 얼마만큼의 자율성을 가지고 있을까요, 우리는 조종당하지 않고 있다고 말할 수 있을까요?
앞으로 살아갈 인공지능 시대에 독자들이 외부의 조종으로부터 스스로를 보호하고, 사람들이 건강한 삶을 살기를 바랍니다.
[1] 조지 오웰의 책. 1984"
조지 오웰의 "1984"는 전체주의 정부가 모든 것을 통제하는 미래의 디스토피아 사회를 배경으로 한다. 주인공 윈스턴 스미스는 빅 브라더의 감시와 억압 속에서 진실을 찾으려 하지만, 결국 체제에 굴복한다. 이 소설은 자유와 독재, 개인과 국가의 갈등을 통해 권력의 위험성을 경고한다.
[2] 저는 인공지능 회의론자가 아닙니다. AI를 연구하고 있으며, 사람에 대해서 더 많이 알고 싶습니다. 두 개의 소재 "인간"과 "인공지능"을 탐구하기 위해 작성된 글입니다.
