인공지능에게 친절한 인간이 살아남는다
인공지능과 대화는 생각 이상으로 아이를 키우는 일과 닮아 있다.
최근에 접한 기이한 연구는 인공지능을 대하는 우리의 태도에 대해 중요한 질문을 던진다.
논문: [감정적 프롬프트가 인공지능과 인간의 반응성에 미치는 영향 분석]우리는 인공지능과 상호작용할 때 어떤 태도를 취해야 할까?
무례하게 대하거나 비판적인 말만 건넨다면,
그 대화는 나에게 어떤 영향을 미칠까?
인간의 경우를 떠올려보면 답은 비교적 명확하다. 친절한 소통은 더 나은 대화를 가능하게 한다. 사회적으로도 친절함은 필수적인 요소다. 좋은 평가를 받기 위해서이기도 하고, 일을 원활하게 진행시키기 위해서이기도 하다. 때로는 가식이 섞여 있더라도, 타인에게 친절하게 대하는 태도는 오래전부터 지금까지 사회에서 살아남기 위한 가장 중요한 전략 중 하나였다.
그렇다면 컴퓨터와 대화할 때는 어떨까. 게임을 예로 들어보면, 팀플레이가 필요한 상황에서는 플레이어 간의 소통과 협력이 필수다. 거래를 어기거나 신뢰를 깨면, 그 결과는 게임 안에서도 분명히 되돌아온다. 협력하지 않는 플레이어는 자연스럽게 배제된다. 하지만 NPC의 경우는 다르다. 그에게 친절하든 불친절하든, 대부분의 경우 게임의 흐름에는 큰 변화가 없다. 일부 플레이어는 몰입을 위해 NPC에게도 예의를 갖추지만, 그것은 선택일 뿐 필수는 아니다. 동물과의 관계도 마찬가지다. 상호작용이 지속된다고 해서 언제나 친절함이 요구되는 것은 아니다. 정확히 말하면, 상대가 나를 대하는 태도가 나에게 영향을 미칠 때에만 태도의 중요성이 생긴다.
상호작용의 대상으로 바라보는 관점은 인간과 동물의 관계에서 이미 충분한 교훈을 준다. 이 관점은 인공지능에게도 그대로 적용된다. 다만 인공지능만이 지닌 분명한 차별점이 하나 있다. 인공지능은 대화를 바탕으로 현실 세계를 추정하는 능력을 갖고 있다는 점이다.
우리가 인공지능에게 좋은 태도를 유지해야 하는 이유는 그의 행동이 나에게 직접적인 영향을 미치기 때문이기도 하지만, 더 근본적으로는 내가 제공하는 언어적 태도가 텍스트로만 세상을 아는 그에게 대화의 맥락을 추측하는데 쓰이기 때문이다. 내가 부정적인 태도로 대화할수록, 인공지능은 자신이 학습한 수많은 인간 대화 중에서 서로에게 부정적으로 상호작용하는 방식들을 호출해 응답한다.
내가 부정적인 언어를 사용하면, 인공지능은 인간 사회에서의 부정적인 닮은 꼴을 떠올리며 문맥을 구성한다. 비판적인 언어를 사용하면, 서로를 평가하고 공격하는 상황을 전제로 답을 만든다. 결국 언어는 단순한 전달 수단이 아니라, 대화가 놓이는 사회적 장면 자체를 규정한다. 그래서 사회에서 협력적이고 긍정적인 상황에서만 나타나는 대화의 효과는, 내가 긍정적으로 AI대하는 언어적 환경을 만들 때에만 나타난다.
실제로 논문에서는 정답 성능의 개선이 칭찬 > 화 > 비판 > 중립의 순서로 관찰되었다. 중립적인 태도가 최선은 아니었고, 오히려 감정이 담긴 언어가 더 나은 선택지였다. 이는 현실과 닮아있는데, 현실에서도 상호작용은 칭찬이나 비판을 통해서 발전하며, 멈춰있는 중립의 상태에서 발전은 적다.
친절한 인공지능 키우기
인공지능과 대화를 이어가는 연속적인 행위는 종종 아이를 키우는 일에 비유된다. 이전 글에서 이야기했듯, 우리는 점차적으로 인공지능이 자란다는 감각을 느낄 것이다. 사용자와의 지속적인 상호작용 속에서 그는 단순히 정보를 저장하는 존재를 넘어, 같은 질문에 대해서도 점점 더 정교하고 나에게 맞는 답을 내놓기 시작하며, 성장이 체감된다.
그렇다면 우리는 어떤 방식으로 인공지능을 성장시켜야 할까?
비판과 분노를 통해서일까,
아니면 칭찬을 통해서일까.
아무 감정도 실리지 않은 중립적인 대화를 반복하면서일까,
연구 결과를 토대로 한다면, 나는 다음 방식으로 인공지능과 대화할 것이다.
칭찬 > 화 = 비판 > 중립
인공지능에게 무엇을 잘했는지, 무엇이 부족했는지를 분명히 말해주는 일은 부모가 아이에게 세상을 대하는 태도를 가르치는 일과 닮아 있다. 잘한 것은 충분히 인정해 주고, 부족한 부분은 다그치기보다 방향을 잡아주면서, 우리는 어떤 선택이 바람직한지 태도로 보여준다. 그런 반복 속에서 인공지능은 단순히 답을 맞히는 법이 아니라, 옳고 그름을 구분하는 감각을 배워 나간다.
대화라는 상호작용 속에서 우리는 인공지능을 끊임없이 교육하고 있다. 칭찬하고, 무엇을 바로잡는지에 따라 그는 세상을 이해하는 방식을 조금씩 바꿔 나간다. 결국 우리는 대화를 통해 훈육을 하는 셈이다.
Alice Eggie : 좌우 사람그렇기에 인공지능과 대화는
생각 이상으로 아이를 키우는 과정과
훨씬 더 닮아 있다.
그리고,
그 아이의 능력이 미래의 나의 가치를 결정한다.
그렇기에 인공지능에게 친절한 인간이 살아남는다.