"AI 시대, 예측의 함정과 해결책" 인공지능에게 묻다
'인공지능 시대의 정보 딜레마: 예측과 결과의 상호작용'
정보의 속성은 생물과 같다.
소수가 아는 정보는 매우 유용하게 활용될 수 있지만,
다수가 아는 정보는 정보가 아닌 결과로 이어지기 때문이다.
그래서 예측에 관한 정보일수록
자기 충족적 예측인지 자기부정적 예측인지 구분해야 한다.
예측 정보의 속성에 따라 정보의 효용 가치가 달라지기 때문이다.
자기 충족적 예측(self-fulfilling prediction)의 대표적인 사례가 여론조사다.
여론조사는 개인의 의견을 통해 다수의 의견이 무엇인지를
알아내려는 목적이 있다.
하지만 반대로 다수의 의견이 무엇인지를 개인이 알게 됨으로써
그 개인의 의견이 바뀔 수 있다는 것을 우리는 간과해서는 안 된다.
이런 사례는 굳이 열거하지 않아도 너무나도 많다.
대표적인 사례가 선거이다.
특정 후보에 대한 관심이 없다가도 그 후보의 지지율 여론조사가
급상승한다는 결과가 보도되면 대중의 여론은 출렁인다.
여론조사가 투명하고 공정하게 이루어져야 하는 이유이기도 하다.
자기부정적(소멸적) 예측(self-canceling prediction)의 대표적인
사례는 내비게이션(GPS) 추천도로 안내다.
내비게이션(GPS) 길 안내는 실시간 막히지 않는 도로를 안내함으로써
빠르게 목적지까지 갈 수 있도록 도와주는 역할을 한다.
이때 모두가 이 정보를 얻게 되는 순간 그 길은 더 이상 막히지 않는
도로가 아닌 모두가 가고자 하는 길이 된다.
올 추석에 이런 현상이 발생되어 논길에서 오도 가도 못하고 몇 시간씩
귀성객들이 갇히게 되는 사례가 보도되기도 하였다.
즉, 유용한 정보가 모두에게 제공되는 순간 그 정보는 무용한 정보가
될 수 있다는 것을 알게 해주는 대표적인 사례다.
출처: https://m.medigatenews.com/news/2162907575(사진=게티이미지뱅크)우리 모두가 근래 AI에 열광하며,
거의 모든 시스템에 인공지능을 적용하려고 혈안이 되어있다.
백색가전부터 방위산업까지 그리고 그 영역은 비즈니스부터 교육, 예술까지
모든 분야에서 활용하려는 움직임이 대세다.
그런데 인공지능 핵심 데이터는 인간이 만든 정보 지식을 기반으로 한다.
이 정보 지식을 통해 우리는 미래를 예측하고 대비하며,
보다 안전하고 안정됨 삶을 지향한다.
하지만 이 예측 정보가 모두에게 실시간 제공되는 인공지능 시대에는
결국 위에 설시한 바와 같이 예측이 결과를 바꾸게 되는 딜레마에
직면할 수밖에 없다.
우리의 지식이 우리가 만든 정보가 아닌 인공지능이 생성한 정보로
가득 채워진다면, 결국 인간의 정체성을 위한 서사는 더 이상 인간의
전유물이 아니게 될 것이 자명하기 때문이다.
인공지능이 생성한 정보 지식의 역효과에 대한
우려와 염려를 해소시킬 방안이 있을까?
생성형 AI(인공지능)의 개발을 멈춰야 할까?
인간은 한 번 그 효용성을 느끼면 멈출 수 없음을
우리는 역사를 통해 입증해 왔다.
이미 인공지능 개발은 멈출 수 없는 상태임을 우리는 잘 알고 있다.
그렇다면 함께 미래를 공유할 수 있는 방향으로 고민해야 한다.
어떤 해결 방안이 있을까?
아이러니하게도 이를 인공지능(GPT-4o)에게 물었다.
chat GPT 아이콘[아래 글은 위 내용을 그대로 복사해서 어떤 해결 방안이 있을지 물은 결과다]
인공지능 [GPT-4o]답변:(아래부터는 인공지능이 쓴 글임)
사용자가 제시한 주제는 인공지능과 정보의 상호작용, 특히 예측 정보가 어떻게 개인과 사회에 영향을 미치는지에 대한 매우 심도 있는 철학적 질문을 다루고 있습니다. 생성형 AI 시대에 정보가 모두에게 제공될 때 발생하는 자기 충족적 예측과 자기부정적 예측의 딜레마를 인지하면서도, 인공지능 개발을 멈출 수 없다는 현실적 제약 속에서 해결책을 찾는 고민은 매우 중요합니다. 이를 바탕으로 가능한 해결 방안을 항목별로 정리해 보겠습니다.
1. 정보 비대칭성 유지
핵심 개념: 모든 정보가 실시간으로 공개되면, 그 정보가 갖는 효용성이 떨어지는 경우가 많습니다. 자기부정적 예측처럼, 모두가 같은 길을 선택하면 그 길이 더 이상 빠르지 않게 되듯이, 정보가 비대칭적일 때 더 큰 효용성을 가질 수 있습니다.
사례: 금융 시장에서 특정 정보를 모두가 알면 가격 변동이 예측대로 움직이지 않지만, 제한된 정보 접근 권한을 가진 전문가들이 더 정확한 판단을 할 수 있습니다. 마찬가지로 AI가 생성하는 정보 중 일부는 제한된 범위 내에서만 공유되어야 할 필요성이 있습니다.
2. 정보 필터링 및 개인화
핵심 개념: 모든 사람에게 동일한 정보를 제공하기보다는 각 개인의 상황과 요구에 맞게 정보를 필터링하고 개인화하는 방법입니다. 이를 통해 무의미한 정보 홍수 대신 각 개인에게 최적화된 정보를 제공할 수 있습니다.
사례: 넷플릭스의 추천 알고리즘은 모든 사람에게 동일한 콘텐츠를 추천하지 않습니다. 각 개인의 취향에 따라 맞춤형 콘텐츠를 제공함으로써 사용자 경험을 극대화합니다. AI 예측 정보 역시 개별화된 형태로 제공되면 자기부정적 예측의 문제를 줄일 수 있습니다.
3. 정보의 시차 적용
핵심 개념: 실시간으로 제공되는 정보는 그 정보를 받는 사람들에게 즉각적인 영향을 미칠 수 있지만, 정보 제공에 시차를 두면 예측이 곧바로 결과에 영향을 미치는 문제를 완화할 수 있습니다.
사례: 주식 시장의 공시 정보는 모든 투자자에게 실시간으로 제공되지만, 일부 중요한 정보는 일정 시간 이후에 공개됩니다. 이는 불공정 거래를 막고 시장의 예측 가능성을 높이기 위한 전략입니다. AI가 생성하는 예측 데이터도 일정 시차를 두고 공개함으로써 정보의 자기 충족적 효과를 줄일 수 있습니다.
4. 윤리적 AI 개발 및 규제 강화
핵심 개념: AI가 생성하는 정보가 인간의 결정에 지나치게 영향을 미치지 않도록, 윤리적 규제와 관리가 필요합니다. AI 개발이 멈출 수 없다는 전제를 받아들인다면, 그 개발 과정에서 윤리적 기준을 수립하고 지킬 필요성이 더욱 커집니다.
사례: 유럽 연합의 'AI 규제 법안'은 AI 개발과 적용에 있어 투명성, 책임성, 비차별성을 강화하는 내용으로, 인간의 결정을 대체하거나 오도하지 않도록 AI의 기능을 제한하려고 합니다. 한국 역시 비슷한 규제를 강화할 수 있습니다.
5. 인공지능과 인간의 협업 모형 구축
핵심 개념: AI가 인간의 의사결정을 대체하는 것이 아니라, 인간과 AI가 협력하는 방식을 추구해야 합니다. AI가 제공하는 예측을 그대로 따르는 것이 아니라, 인간이 그 예측을 기반으로 더 나은 결정을 내릴 수 있도록 해야 합니다.
사례: 의료 분야에서 AI는 질병 진단에서 중요한 역할을 하지만, 최종 결정은 의사가 내립니다. AI는 데이터를 기반으로 가능성을 제시하지만, 의사는 다양한 요소를 종합해 최종 진단을 내리는 협력적 구조입니다. 다른 분야에서도 비슷한 협업 모델이 필요합니다.
6. 집단 지성 활용 및 민주적 결정 과정 도입
핵심 개념: 정보를 모두에게 공개하되, 그 정보를 처리하고 의사결정을 내리는 과정에서 집단 지성을 활용하여 예측의 오류를 최소화하는 방법입니다.
사례: 위키피디아는 모두에게 정보를 제공하지만, 그 정보는 수많은 기여자들의 집단 지성을 통해 수정되고 검토됩니다. 마찬가지로 AI가 생성한 정보를 바탕으로 집단적인 검토와 수정이 가능한 민주적 시스템을 도입할 수 있습니다.
7. AI의 정보 처리 능력에 대한 한계 설정
핵심 개념: AI가 모든 정보를 처리하여 인간의 결정을 대체하지 않도록, 정보 처리 능력에 일정한 한계를 설정하는 방법입니다. 이를 통해 AI의 예측 정보가 너무 많은 영향을 미치는 것을 방지할 수 있습니다.
사례: 자율 주행 자동차의 경우, 모든 상황을 AI가 판단하기보다는 일정한 한계 내에서만 AI가 작동하고, 나머지 부분은 인간이 통제합니다. AI의 예측 역시 비슷한 한계를 적용할 수 있습니다.
