'AI윤리, 원칙을 넘어 실행을 위한 전략과 사례'
2023 산업비전 포럼
'AI 윤리, 원칙을 넘어 실행을 위한 전략과 사례' 발표
"두려움 없이 AI를 활용하는 것, 기업-정부-개인 노력 모두 필요"
김명신 LG AI연구원 정책수석이 'AI윤리, 원칙을 넘어 실행을 위한 전략과 사례' 주제발표를 하고 있다. ⓒ데일리안 홍금표 기자"빠르게 진행되고 있는 기후 변화가 인류에게 큰 영향을 미치고 있는 것처럼, 생성 AI도 빠르게 확산되며 그 파급력이 급격히 커지고 있다. 챗GPT 출시가 1년이 안됐는데 엄청난 이슈가 사회적으로 등장했다. 오늘날 AI 윤리에 세상이 주목하는 이유다. AI 덕분에 삶의 질은 올라가지만, 일부에서는 재앙을 불러올 수 있다는 예측도 있다. 산업혁명 수준의 사회 변화가 올 것으로 예측되는데, 어떻게 하면 AI가 인간 통제 범위 내 인류를 위해서 사용되게 하느냐가 AI 윤리 문제의 핵심이다."
김명신 LG AI연구원 정책수석은 20일 서울 여의도 CCMM빌딩에서 '인공지능(AI)을 두려워 말라'를 주제로 열린 '데일리안 창간 19주 2023 산업비전포럼'에서 'AI 윤리, 원칙을 넘어 실행을 위한 전략과 사례'를 발표하며 이같이 말했다. 김 수석은 ▲세상은 왜 AI윤리에 주목하는가 ▲기업은 왜 AI윤리에 주목해야 하는가 ▲LG의 AI 윤리 이행 전략 ▲AI의 미래, 모두가 신뢰할 수 있는 AI 의 소주제를 연이어 발표했다.
먼저 김 수석은 '세상이 AI윤리에 주목하는 이유'에 대해 "사람들의 일상 공간이 자연에서 디지털 환경으로 확장되며 예상치 못했던 새로운 문제를 야기하고 있다"고 했다. 자연의 무분별한 개발로 인해 기후 위기가 닥친 것과 마찬가지로, 생성AI의 등장이 디지털 환경 내 인간이 생산하지 않은 수많은 콘텐츠의 범람으로 이어질 수 있다는 지적이다. 그는 "그 변화의 속도나 규모, 영향력이 인간의 예상-대응 능력보다 빠르고 크다는 것이 문제"라고 강조했다.
그렇다면 기업이 AI 윤리에 주목해야하는 이유는 뭘까. 김명신 수석은 "생산성 향상이나 시간 단축 등 우리 눈앞에 가까워지는 혜택이 많다. 다만 우리가 AI를 얼마나 안전하게 신뢰할 수 있게 사용하느냐의 문제"라고 설명했다. 그는 "AI 윤리 관련 리스크들이 실제로 기업 현장에서 일어나고 있다. 가장 큰 문제점은 있지도 않은 것을 이야기하는 할루시네이션(환각)이다. 금융, 의료 등 정확성이 중요시되는 산업 영역에서는 할루시네이션 이슈가 AI 도입 과정에서부터 문제가 되고 있다. 이것이 기업이 AI윤리에 주목해야 하는 이유 중 하나"라고 말했다.
김 수석은 "AI 윤리는 점차 규제 방식으로 제도화되고 있다"며 "국내외에서 이미 200개에 가까운 윤리원칙이 만들어졌다. 차별금지, 포용을 가장 많이 언급하고 있는데 인간에게 해가 되지 않는 위해방지 내용이 가장 핵심"이라며 "AI 규제를 둘러싼 논쟁 중 법적 강제 규제와 민간 자율 규제를 놓고도 논쟁이 벌어지고 있는데, 현재 미국 빅테크 기업들을 쫓고 있는 현실을 고려할 때 현재는 자율규제가 적합한 접근이라고 본다"고 전했다.
김 수석은 한국 4대 기업 중 가장 먼저 AI 윤리 원칙을 발표한 LG의 사례를 들며 "각 그룹마다 기업의 경영이념이 있는데, LG는 고객을 위한 가치창조, 인간존중의 경영"이라며 "이에 바탕을 둔 원칙이 만들어졌을 때 실천될 수 있는 동력을 확보할 수 있다. 그렇기에 아직 원칙을 만들지 않은 기업이 있다면 경영이념과 개별 기업의 산업 섹터에 맞는 원칙을 만들어야 한다"고 주장했다.
그의 설명에 따르면, LG는 지난해 8월 다섯가지 핵심가치에 기반한 원칙을 만들었다. 인간존중, 공정성, 안전성, 책임성, 투명성 등이다. 아울러 이같은 5대 핵심가치 기반 위에 거버넌스, 연구, 참여라는 실행 전략을 세웠다. 김 수석은 "아무리 거버넌스가 좋아도 우리 연구원의 구성원 AI인식이 없다면 실천되기 힘들다"며 "이같은 AI 윤리 인식을 어떻게 높일 수 있을지 고민하고 있다"고 했다.
그는 "할루시네션(환각)을 최소화하기 위해 명확한 근거에 기반해서 답변하는 기술을 개발하여 현재 고도화 작업을 진행 중에 있다"며 "아울러 참여 부문에서는 매년 상반기 전 구성원들을 대상으로 AI 윤리 인식 조사를 진행하고 있다. LG AI 연구원 구성원의 인식 증진 뿐만 아니라 시민들의 AI 리터러시 증진을 위해 청소년과 청년, 직장인 대상 수준별 맞춤형 교육 프로그램을 제공하고 있다"고 LG AI 연구원의 활동을 전했다.
끝으로 그는 'AI의 미래, 모두가 신뢰할 수 있는 AI' 소주제를 준비하고 "두려움 없이 인공지능을 활용하는 것은, 이는 기업만의 노력으론 안된다"며 "기업과 사회, 개인의 모든 노력이 필요하다. 개인 역시 더이상 자신이 소비자일 뿐만 아니라 데이터 생산 주체이자 콘텐츠 크리에이터, 인플루언서이기도 하다는 사실을 다시 한번 생각해볼 필요가 있다"고 했다. 그러면서 "AI가 인간 일자리를 대체하는 것이 아니라 AI를 잘 활용하는 사람이 못하는 사람의 일자리를 대체하게 될 것"이라고 말했다.
또한 기업의 노력으로는 "AI 라이프사이클 전 주기에 걸쳐 발생할 수 있는 실제적, 잠재적 위험을 없애는 것은 물론 한 걸음 더 나아가 AI를 통해 사회문제를 해결하는 적극적 역할도 고민할 필요가 있다"고 했다. 아울러 "사회 역시, AI의 확산으로 수많은 이해관계자들이 뜻하지 않은 갈등 관계에 놓일 때 어떻게 사회적 합의를 통해 새로운 거버넌스를 만들 것인가가 굉장히 중요하다"며 정부 역할의 필요성을 강조했다. 끝으로 그는 "모든 사람들이 더 나은 삶을 누릴 수 있도록 하는 것이 AI의 본질이며, LG AI 연구원에서도 이러한 AI를 발전시킬 수 있도록 노력하겠다"고 덧붙였다.
임채현 기자 (hyun0796@dailian.co.kr)
기사 원문은 아래 링크에서
