슬기로운 현차생활 8번째 키워드
A.I (인공지능) 키워드 코멘트 정리
슬기로운 현차생활이란?
외부에서 길을 찾는 것만이 올바른 트렌드인 것처럼 회자되는 세상의 목소리도 타당하지만, 결국 우리 내부의 변화는 내부 + 외부의 균형적인 상호작용에 의해서 꾸준한 실행을 통해서 일어날 수 밖에 없다.
모두가 좋은 동료, 좋은 팀, 하고 싶은 아이템만 할 수 없는 것이 현실이라는 것을 인정하는 것에서부터 출발하되, 그 아픔의 해결방식을 무조건 밖에서만 찾는 것이 아니라 내부에서 좋은 에너지를 연결할 수 있다면 그 좋은 에너지의 결과는 언젠가는 내부의 변화의 동력이 될 수도 있다는 다소 이상적인 믿음을 지켜가는 현대자동차인들의 커뮤니티.
슬기로운 현차 생활의 가입은 구성원이 오픈채팅방 링크와 참여코드를 각자 추천하는 사람에게 전달하고 들어오면 "팀/실명" 으로 참여하는 방식이다. 익명성이 주는 유익함도 있지만, 결국 익명성은 언젠가는 자신을 명확히 드러내고 소통하기 위한 시발점이 되어야 한. 현대자동차 임직원 정도의 수준이라면 익명성에 숨어서 대안없는 불만을 얘기하기보다는 자신에게 다소 부정적인 영향을 미칠 수 있는 사안에 대해서도 용기있고 정직하게 말할 수 있는 태도, 그리고 집단 지성을 통해서 모두가 합의할 수 있고 넥스트 레벨로 갈 수 있는 대안을 제시하는 역량을 만들어가는게 무엇보다 중요하다.
2주마다 매일 새벽 단톡방에 정리한 키워드 코멘트를 전체 정리하여 브런치에 업데이트
(7번쨰 키워드부터 시작)
기간 : 21년 6월 14일(월) ~ 6월 25일(금)
키워드 : A.I (인공지능)
6월 14일(월)
A.I (Artificial Intelligence)는 인간의 학습능력, 추론능력, 지각능력 그외에 인공적으로 구현한 컴퓨터 프로그램 또는 이를 포함한 컴퓨터 시스템을 포괄적으로 의미합니다.
A.I의 역사는 사실 오래 되었습니다. 1940년대 후반과 1950년대 초반에 수학, 철학, 공학, 경제 등 다양한 영역의 과학자들에게서 가능성이 논의되었고, 1950년대 중반에 이르러서야 인공지능이 학문 분야로 진입하기 시작합니다. (벌써 약 70년의 역사를 가지고 있는 오래된 분야...)
초기에 어떤 분야가 시작될 때 해당 분야를 선점하기 위한 노력이 투입되는 것이 인지상정입니다. 그래서 시대의 전문가들이 해당 내용에 대거 초기 황금기를 이끌었으나 결국은 암흑기를 맞이하게 됩니다.
이는 다시 부흥기를 맞이하는 듯이 보이는 현 시점과 오버랩해서 생각해보시면 쉽게 이해가 됩니다.
1. 비즈니스(돈)이 되지 않는다
2. 철학적인 딜레마가 해결되지 않는다.
지금 컴퓨터로 안되는 것이 없는 것처럼 느껴질 정도인 2021년에도 A.I는 여전히 이러한 도전에 직면하고 있는데 그 당시는 어떠했을까요?
'모라벡의 패러독스'에서 설명하듯이 컴퓨터는 특정 영역에서는 너무나 쉽게 처리할 수 있는 것이 있는 반면, 인간에게는 쉽고 당연한 것이 컴퓨터에게는 어렵고, 이를 실제 구현하고 지속 운용하기 위해서는 엄청난 자원을 소모하게 됩니다.
초기 연구자들에게는 개념은 존재해도 구현해볼 수 있는 상황이 아니기 때문에 "컴퓨터 능력의 한계" 가 가장 큰 장벽이 되었겠죠?
결국 너무 오래 걸릴 것 같은 프로젝트에 자금들은 줄줄이 취소되고, 비용이 없으면 연구도 할 수 없는 것이 세상의 당연한 상식입니다.
그러나 이미 시작된 에너지는 흐름은 약해질 수는 있어도 완전히 사라지지 않는 이상 그 명맥을 이어갈 수 있습니다.
특정한 분야에 집중하여, 작은 단위라도 성과를 만들어가는 것에 집중하였고, 이미 연구를 시작한 관성과 과학 발전에 대한 책임감, 그리고 후발주자로서 세상을 혁신하겠다는 창업가/기업가들의 지속적인 시도는 컴퓨팅 능력의 발전과 맞물리며 조금씩 빛을 보게 됩니다.
지금 여러분이 사용하고 있는 휴대폰에 "음성형 인공지능 어시스턴트" 프로그램은 이제 너무나 자연스럽고, (성능의 만족도는 아직도 갈 길이 멀어보입니다만...) 우리가 사용하는 많은 상용 서비스에서 이를 개선하기 위한 데이터 분석에는 이미 "A.I" 기반 머신러닝, 딥러닝 기술들이 광범위하게 활용되고 있습니다.
자동차 업계 역시 자율주행과 연계하여 다양한 로드맵을 보여주며 기술 경쟁에 돌입하고 있습니다. 최초 자율주행 발표의 약속들을 제대로 지키는 곳들은 아직 없지만, 최소한 ADAS가 급격하게 발전하고 있다는 것만은 부인할 수 없는 사실로 보입니다.
키워드 스크랩 기사에서 보여드린 것처럼 인포테인먼트 시스템에 A.I를 적용하여 HMI 의 사용자 중심 고도화를 하겠다고 벤츠가 발표한 것처럼 자동차 역시 A.I 가 자율주행에만 매몰될 필요가 없다는 것을 하나씩 입증해가고 있습니다.
이미 우리 삶에 가까이 도착해있는 A.I 에 대하여 오늘부터 2주 동안 살펴보면서 의미있는 생각들을 해보시는 좋은 계기가 되셨으면 좋겠습니다!
6월 15일(화)
기술의 발전은 인간을 자유롭게 해방할 것이라는 기대감이 그 어느 때보다 높아지고 있는 현 시대에 인공지능은 그 중에서도 핵심이라고 볼 수 있습니다.
느낌상 2년전만 해도 강인공지능, 약인공지능 등이 언급되면서 인공지능의 위험성에 대한 우려가 생각보다 많이 언급되었던 것에 비해, 최근에는 확실히 삶에 익숙해지고 실체적인 상용서비스가 많이 나오면서 위험성보다는 기대감이 더욱 커지고 있는 분위기로 기울고 있다는 개인적인 생각이 듭니다.
(물론, 자율주행분야는 조금 분위기가 다른 것 같기는 합니다....^^)
개인적으로 느껴지는 이런 감각은 얼마 전 터졌던 이루다 사태와 연계해서 생각했을 때는 다소 의외의 느낌입니다.
스캐터랩이라는 스타트업에서 발표한 챗봇형 A.I 서비스였던 이루다는 오픈하고나서 얼마 지나지 않아 여러 이슈, 그 중에서도 "젠더 이슈" 에 무방비하게 노출되다가, 논란 증폭의 끝에 무엇으로 학습을 시켰길래 이렇게 되느냐는 의혹까지 연계되었습니다. 그 결과, 스캐터랩이 운영했던 다른 서비스의 연인들의 "대화" 데이터가 무분별하게 사용되었다는 정황과 증언들이 계속 나오게 되었고, 결국 대화형 챗봇의 가능성을 보여주었던 이루다는 짧은 생을 마감하였습니다.
"언어뭉치" 측면에서 한국어 기반 서비스는 영어에 비해 다소 느리게 자연어 처리 기술이 개발될 수 밖에 없는 상황에서 한국어 기반 GPT3가 적용된 이루다의 이런 실책이 다소 아쉽긴 하지만, AI 시대에 우리의 사생활에 대해서 생각해볼 수 있는 기회가 된 것은 매우 의미가 있다고 생각합니다.
자율주행과는 다르게 소프트웨어 자체만으로 충분히 발전이 가능한 자연어 처리 기반 대화형 인공지능 영역은 GPT2 에서 GPT3로 넘어가면서 엄청난 혁신을 이뤘습니다. 그리고 GPT4를 향해 엄청난 속도로 달려가고 있습니다.
그러나 기술의 진보가 가져다줄 편의로움만큼 그로 인해 발생하는 이슈는 함께 고려되고 있는 것일까요? 우리의 미래는 자비스와 함께 하게 될까요, 스카이넷과 함께 될까요?
이런 관점을 조금 더해서 남은 기간동안 A.I 를 살펴보신다면 더욱 의미가 있을 것 같습니다.
6월 16일(수)
올해 추석 이전까지 휴일에 대한 희망(?)이 없어져서 슬퍼하고 있었는데, 정부에서 대체 공휴일을 적극 추진하겠다는 소식이 들려오고 있습니다. 잘 추진되길 기원하며...!
A.I가 발전하면 우리의 일자리는 어떻게 될까요?
긍정론자들은 A.I 산업이 새로운 일자리를 창출하며 인간을 단순 노동에서 해방시키고 더욱 창의적인 일에 도전할 수 있게 할 것이라고 얘기합니다.
부정론자들은 그것은 단순한 착시일 뿐이며, 결국 인간은 A.I 와 로봇에 의해 대체될 것이라고 얘기합니다.
질문을 조금 바꿔보겠습니다.
만약에 내가 주어진 단순 반복 업무만을 하는데, 안정적인 급여가 나오고 정년까지는 다닐 수 있는 일자리가 있다면 그걸 선택하시겠습니까?
굳이 경쟁하고 노력하고 자기계발을 하고 있는 또는 할 수 밖에 없지만 그에 대한 정당한 대우를 받는다고 느끼기 어려워지고 있는 시대에 위와 같은 일자리가 있다면 우리는 어떤 선택을 할까요?
A.I 가 멀리있는 것처럼 보이지만 이미 우리 실생활에 깊숙이 들어와있습니다. "소프트웨어" 만 기반으로 구동되는 A.I 들은 이미 그 자리를 확고히 차지하고 있습니다.
챗봇 서비스, AI 스피커를 활용하는 것은 기본이고, 주요 가전제품 광고에서도 AI 기반의 연결된 서비스를 USP 로 소구하는 경우도 이미 가까이서 볼 수 있습니다.
이미 A.I 에게 인간이 종속된 분야도 있습니다. "디지털 인형 눈 붙이기" 라고 불리우는 A.I 가 학습하기 위한 이미지에 "태그" 를 붙이는 아르바이트(데이터 라벨링)이 의외의 꿀알바로 자리 잡고 있는 것이 그 예시입니다. 구조를 보면 A.I의 고도화를 위해서 인간이 저임금 노동을 하는 형태입니다. (물론, A.I 를 생산수단으로 가진 인간을 위해 그걸 갖지 못한 인간이 저임금 노동을 한다고 볼 수도 있습니다)
수치로도 살펴보기 위해서 최근 네이버 시총도 역전해서 잘나가는 카카오의 IR 자료를 한번 찾아봤습니다.
카카오의 현재 직원수는 21년 1분기 기준 2,713명 / 종속회사 8,431명으로 총 11,144명입니다. 우리 삶에 영향을 미치고 있는 것 대비해서 그렇게 많은 일자리의 숫자처럼 보이지는 않습니다.
그런데, 오늘 기사에서 나오는 것처럼 AI 가 로봇과 결합되어 생산을 대체하게 되면 또 이야기가 또 달라집니다. 제조업은 일자리 창출에 매우 중요한 역할을 해왔다는 기존 프레임이 근본부터 무너질 수 있는 상황이 다가온다는 것이죠.
오늘 공유드린 시론에서 얘기가 나온 것처럼 우리는 기술을 정말 "인간" 을 위해 발전시키고 있는 것인지, "인간을 위한다" 는 포장만을 하고 실체는 오직 생산성 개선을 달성하고 있는 것인지, 한번쯤은 차분히 생각해볼 주제가 아닌가 싶습니다.
6월 17일(목)
오늘은 AI와 관련하여 이런 지점들을 한번 생각해보시길 바라면서 키워드 스크랩 해왔습니다!
1) 저작권 문제
- 인간이 A.I 에게 끝까지 저항(?)할 수 있는 영역은 창의성 영역이라고 말하곤 합니다. 과연 그럴까요? 이미 A.I 가 창작하는 그림, 글, 음악 등이 나오고 있습니다. 그렇다면 그 권리는 누구에게 있을까요? 이 문제는 아직까지 국내에서는 해결되지 않고 있습니다.
20년 12월부터 정부에서 인공지능과 관련된 로드맵을 가지고 진행하고 있으며, 법안 마련까지 고심하고 있으니 어느 정도 윤곽은 나올 것으로 기대하고 있는 정도의 상황입니다.
단, AI가 저작권을 인정받아도 실제는 "AI 의 소유자(개인/법인 포함)"가 이익을 얻게 되겠죠?
2) A.I 권리 문제
- 이루다가 사라지게 된 트리거는 "음담패설" 에서부터 시작되었습니다. 현재 챗봇만이 아니라 STT(Speech to Text) . TTS(Text to Speech)기술의 발전과 GPT3와 같은 자연어 처리 기술이 발전하면서 "STT - 자연어처리 - TTS" 의 화려한 콤비네이션으로 A.I 상담사의 활약도 증가하게 될 것으로 판단되고 있습니다.
- 그런데, 사람은 전화선 넘어 맞은 편에 있는 것이 "인격체" 라고 알고 있음에도 "강자와 약자"의 인식 기반 행동을 통해 블랙컨슈머 논쟁을 만들어내는데, 만약에 그것을 "A.I" 라고 명확하게 인식하게 된다면?
- 당연히 대부분의 사람은 그렇게 행동하지 않겠지만 분명히 문제를 인식하고 대응할 필요가 있는 지점으로 보입니다.
- 흥미있는 지점은 "상담사"는 사람이기 때문에 매뉴얼이 있어도 똑같이 대응을 못할 수도 있고, 매뉴얼 전부를 완벽히 숙지하기도 어렵습니다. 그날의 감정 컨디션에 따라서 다를 수도 있구요.
하지만 A.I는....? 기업 운영의 관점에서는 1차 상담사들이 필요성이 줄어들고, 결국 A.I 상담사로의 완전 대체는 "A.I 상담사 운영비가 1차 상담사의 운영비보다 저렴해지는 시점"이 될 것이라는 것은 이미 정해진 미래일지도 모르겠습니다.
3) 비즈니스 모델 관점
- 기사에서 언급하듯이 요즘 A.I 스피커 시장은 통신사에서 TV와 결합형 상품으로 주도해가고 있습니다. 초기 네이버, 카카오에서 드라이브를 걸었던 모습은 잘 보이지 않네요.
- 개인적으로 아래와 같은 이유라고 판단합니다.
운영비용의 차이 : 통신사는 인터넷 설치, TV 결합상품 판매 등으로 인한 기존 활용 인프라가 있었고, 셋톱박스 제조/유통에서 배운 노하우가 너무나 당연하여 A.I 스피커 하나 추가하면 시너지가 날 수도 있으나, IT 기업들은 이 모든 것이 신규 비용입니다.
- IT 기업 본인들의 코어 역량과도 일단 부합하지도 않구요.
그러나, 요즘 카카오/네이버 모두 콘텐츠에 광폭행보를 보이고 있는 상태이고, 음성 Only 와 관련해서도 다양한 가능성이 보이는만큼 "A.I 스피커 단독" 으로 돈을 벌어들일 수 있는 만큼 A.I 스피커가 하나의 디지털 채널로써 그 역할을 할 수 있는 시점이 되면 A.I 스피커 결합상품 기반으로 제 2 라운드가 펼쳐지지 않을까 조심스레 생각해봅니다.
6월 18일(금)
오늘은 행복한 금요일입니다.
자율주행에 대한 "춘추전국시대"가 끝나고 "삼국지" 정도로 재편되고 있는 느낌적인 느낌이지만 여전히 초기에 "완전자율주행"이 약속했던 미래는 단기적으로 봤을 때 요원해보입니다.
(물론, 특정 구간에 알고리즘 기반 수요응답형 셔틀링 서비스를 기반으로 상용화, 단계적으로 스마트 교통망 인프라가 단계적으로 구축되는 곳에서는 하나씩 의미있는 실현이 될 것입니다)
이런 상황에서 구글 웨이모가 2.8조(....28억만 있어도 좋겠는데 말이죠)의 투자를 유치했다는 소식입니다. 한편으로는 반가우면서도 한편으로는 이 쪽 분야는 이 정도 투자 규모 아니면 매출이 없기 때문에 버틸 수도 없을 뿐만 아니라, 이미 신규로 들어가는 플레이어는 "10조" 정도는 투자하겠다는 통큰 베팅이 아니라면 힘들 것 같다는 생각이 듭니다.
자율주행을 기준으로 생각해보면 A.I 가 과연 우리가 생각하는 미래를 가져올 수 있어? 라는 착시 현상이 생길 수도 있지만 이미 우리 삶에서 A.I 는 엄청난 영향을 미치고 있습니다.
요즘 포털을 통해 뉴스를 많이 소비하시는데, 이 포털에 "기사" 가 배치되는 것도 "A.I 알고리즘" 을 기반으로 이뤄집니다. (그렇기 때문에 언론 개혁방향에 이러한 주제가 언급되고 있습니다)
SNS에 예쁘게 보이려고 사진을 찍으시려고 사용하는 스노우와 같은 앱에서도 보정이 가능한 이유는 "얼굴을 인식하는 AI 기반 비전 인식 기술" 이 있기 때문입니다.
개인적인 사이드 프로젝트로 커머스에 도전하시려는 분들은 어떤 분야를 취급하시더라도 이미지 작업 때문에 골머리를 썩고 있으실텐데, 이 역시도 AI 기반 콘텐츠 생성 솔루션들이 있어서, 똥손이라도 금손처럼 만들어주는 시대가 이미 우리 삶 속에 깊이 침투해있습니다.
주말에 소비하실 넷플릭스, 유튜브와 같은 OTT 및 동영상 서비스 역시 A.I 알고리즘을 기반으로 우리의 소비패턴과 취향을 기반으로 콘텐츠를 추천해줍니다. 나도 모르는 것을 알아서 찾아준다는 장점도 있지만, 과연 이게 어느 순간부터는 내 취향인지, "A.I가 의도하는 취향" 인지 경계선이 모호해집니다.
"설마 이것도 A.I 가 적용되어 있는거야?" 라는 질문을 한번씩은 해보시면서 남은 기간 A.I 에 대해서 생각해보시면 좋을 것 같다는 생각이 드는 금요일입니다!
모두 즐거운 불금! 즐거운 주말되세요!
6월 21일(월)
새로운 일주일이 시작되는 월요일 아침입니다. 저는 오랜만에 운전을 할 일이 많았던 주말이었는데, ADAS의 도움을 받아 예전과 비교하면 엄청나게 편의로운 운전을 즐겼습니다. 자율주행의 미래가 어떻게 될지는 아무도 모르겠지만, 최소한 그 이전에 ADAS는 지금보다 계속해서 발전되어 운전 보조의 역할로써 빠르게 발전하길 기원합니다.
지난 주에 여러 가지 키워드 스크랩을 공유드렸는데, 저도 이 과정에서 생각보다 AI가 생각보다 참 다양한 분야에 사용되고 있다는 것을 느꼈습니다.
오늘은 탈모, 미용, 번역 중에서도 고양이 소리, 코알라 로드킬 예방과 같은 분야에서도 AI 기술이 적극 사용되고 있음을 공유드렸는데, "데이터 수집" 의 관점에서 한번 살펴보는 것도 재미있을 것 같습니다.
AI의 정확성이 올라가기 위한 기초이자 가장 중요한 것이 결국 데이터입니다. (처음과 끝이라고 해도 무방하죠)
삼성전자 C랩은 "두피 진단기기"를 통해서, 쉐어스팟은 미용사가 작업(?)이후 입력하는 "사람의 인풋" 을 통해서, 미야오톡은 "APP, 더 정확히 말하면 스마트폰의 마이크" 를 통해서, 코알라 로드킬 예방은 "카메라" 를 통해서 데이터를 수집하게 됩니다.
실생활에서 그대로 발생하는 데이터만이 AI가 실생활에서 사용될 수 있는 기능까지 고도화되기 위해서는 의미가 있기 때문에 많은 기업들은 이렇게 실질적인 데이터를 수집하기 위해 다양한 노력을 기울입니다.
그런 면에서 AI 허브를 통해 공개된 CCTV 정보가 개인정보 이슈 때문에 실제 사건 상황에서의 개개인이 아닌, 동일한 상황을 재현한 수준의 가상 데이터를 제공하는 것으로 발표되어 논란이 있습니다.
연기가 "실제 상황" 을 완벽하게 재현할 수 있는 것은 아니기 때문에 이를 학습한 AI가 과연 실제 범죄 예방에 도움이 되는 수준으로 학습이 가능한가에 대해서 많은 업체가 의문을 제기하고 있기 때문입니다.
앞으로 이런 논란은 계속 증폭될 것입니다.
AI가 우리 삶에 이미 깊숙하게 침투해있고, 우리는 이미 많은 데이터를 제공하고 있습니다. 그렇기에 자연스럽게 개인정보 이슈는 같이 수면 위로 떠오를 수 밖에 없습니다.
"안방에는 AI 스피커를 놓지 않는다. 그것이 나의 은밀한 부부간의 대화를 엿듣는 것을 원하지 않는다"
이런 내용을 본 적이 있는데, 이미 스마트폰을 곁에 충전하면서 자는 사람들이 저 말을 한다면 그 자체가 넌센스인 세상이 되어버렸습니다.
"나는 편의를 위해 어디까지 나의 개인정보를 제공할 수 있는가?"
AI의 데이터 수집 측면과 함께 이 질문에 대해 한번쯤 생각해보시는 시간을 가져보시는 것도 좋을 것 같습니다.
6월 22일(화)
"히틀러가 옳았습니다. 나는 유대인이 싫어요"
"국경에 차단 벽을 설치하고, 멕시코가 그 비용을 내야죠"
16년 3월, 마이크로소프트의 "테이 대참사" 라고 기록된 이 문장들은 16세 미국인 소녀의 생각과 말투를 벤치마킹해 탄생한 "테이"의 트윗 송출을 통해 기록되고, 삭제된 내용들입니다.
물론 MS가 이런 결과를 의도하고 만든 것은 아닙니다. 인종차별이 여전히 일어나고 있는 현실과는 별개로 "인종차별주의자" 라는 것을 대놓고 드러내는 것을 선호하는 개인이나 기업은 없습니다.
아... 생각해보니 예외적인 인물이 있네요. 바로 트럼프입니다. 그는 트윗을 통해 바로 이런 "혐오"를 조장했고, 자신의 생각을 대신하는 정치인을 선택하는 "대의 민주주의체제"는 자신은 못하는 "혐오의 공식화"를 대변할 수 있는 사람을 전세계 최강국의 대통령으로 만들었습니다.
그럼 이쯤에서 생각해봐야 합니다. AI가 나쁜 것일까요? 인간이 나쁜 것일까요?
현재 수준의 AI는 그저 알고리즘에 의해서, 다르게 표현하면 인간이 입력한(또는 지시한) 규칙에 따라서 인풋값을 받아들이고 그에 대한 아웃풋을 만들 뿐입니다.
대화형 AI는 일부 가상 데이터를 활용한다고 해도 일부일 뿐, 결국 "실제 사람들이 하는 말과 글" 을 통해서 학습하는데, 테이가 이런 결과를 보여주었다는 것은 결국 AI 보다는 사람들의 말과 글과 행동이 본질적 문제라는 의식이 중요합니다.
잘못 학습된 AI는 위험하다. 타당해보입니다. 그러나 저는 반문해보고 싶네요.
"잘못 학습된 인간이 훨씬 위험하다"
5년이 지난 지금 GPT3 에서 GPT4로 발전하는 자연어 처리 기술 기반으로 AI 결과물도 점점 품질이 좋아지고 있고, 편견과 혐오를 배운 AI 에게도 다시 "상대적으로 적은 자원" 을 투입해서 보정할 수 있는 시대로 진화하고 있습니다.
그럼 다음과 같이 질문해보겠습니다.
"인간은 5년 동안 얼마나 더 나아졌는가?"
기술은 엄청난 속도로 발전하고 있는데, 우리의 사고방식은 어제보다 나아지고 있을까요?
"알고리즘 때문"에 편향성이 생겼다는 핑계에 숨어 자기 스스로 생각하는 힘을 잃어버리고 있지는 않은가요?
AI를 만드는 것도, AI를 사용하는 것도 결국 우리 자신입니다.
자율주행자동차의 문제에서 "사고 발생을 고정적으로 상정한 상태"에서 윤리적인 선택의 딜레마는 항상 나오는 문제입니다.
기업의 입장에서 "고객"의 생명을 위험하게 하는 물건을 판매한다는 것은 말도 안되는 소리라서 논쟁이 없어보이지만, "고객" 의 생명을 구했다고 해도 타인에게 상해/중상해/죽음에 이르게 하였기 때문에 고객에게 발생할 피해를 생각하면 사고 발생이 확정된 케이스에서는 자율주행 AI가 어떤 선택을 하게 만들어져도 "고객"에게 피해가 발생합니다.
이 문제를 우리는 어떻게 풀어나가고 있을까요? 아직까지 이런 자율주행 시대가 가깝게 느껴지지는 않지만 우리 회사가 반드시 이 문제를 풀어서 의미있는 인류의 진보를 이뤄낼 수 있게 되기를 바래보며, 아침 코멘트를 마무리합니다!
6월 23일(수)
AI 관련된 기사 및 내용들을 검색하다보니 정말 많은 분야에서 AI를 적극적으로 활용하고 실제로 "성과"를 내고 있다는 소식이 많이 보이고 있습니다.
대부분은 "생산성을 개선했다" 는 측면에서 성과를 발표하고 있다는 점에서 기업의 AI 기술 도입은 생산성 개선에 그 본질이 있고 노동의 미래는 어디로 가는가에 대해서도 현 시점에서 잘 생각하고 준비해야 할 것으로 생각됩니다.
또, 한 측면에서 AI 발전은 단순히 생산성이 아니라 패권경쟁에서도 매우 중요한 하나의 축으로 작동하고 있습니다.
AI의 기술력은 "데이터"에 달려있고, 데이터의 품질도 중요하지만 "데이터의 양"이 일단은 더욱 중요합니다. 그리고 AI의 갑론을박의 논란을 이겨내고 상용화 드라이브를 걸 수 있느냐도 매우 중요한 요인입니다.
그런 면에서 중국은 AI가 발전할 수 있는 가장 좋은 제반환경을 가지고 있습니다.
1) 인구 규모로 인하여 자유주의 진영에 비해 폐쇄적으로 국가 시스템을 운영함에도 불구하고 데이터 자체의 절대 생산량이 많습니다.
2) 강력한 드라이브를 걸 수 있는 정치 체제는 속도를 분명히 높여줍니다.
현재 중국은 이미 미국의 AI 경쟁력을 넘어섰다는 평가를 받고 있습니다. 과연 자율주행은 웨이모가 가장 먼저 상용화시킬까요? 왠지 느낌상 중국이 "자국 내에서" 먼저 상용화를 할 수 있지 않을까라는 생각도 조심스럽게 하게되는 하루입니다.
6월 24일(목)
- 시간 부족으로 자료만 공유하고, 코멘트는 Skip... (악상이 떠오르지 않기도 하였음...)
6월 25일(금)
AI(인공지능) 키워드 스크랩 기간의 마지막 날입니다.
인공지능과 관련된 내용을 살펴보면서 들었던 생각은 기존에 가지고 있던 아래의 생각을 더욱 강화시켜주었습니다.
테크는 그저 거들뿐, 중요한 것은 인간에게 달려있다
한 스타트업 대표와 인공지능과 로봇이 결합된 미래에 대한 이야기를 나눈 적이 있습니다. 이때 주로 나눴던 쟁점은 "비가역성" 입니다.
언젠가 "강인공지능"이 나왔을 때 처음에는 엄청나게 놀라운 기술에 모두 놀라게 될 것입니다. 그런데 놀라움의 시점을 지나 인공지능이 우리의 예측 범위를 넘어서 어떤 판단을 내릴 수 있게 되는 날이 올 수 있습니다.
그 때 인간을 제거대상으로 판단한다면?
또한 그 시점에 인간에게 인공지능의 판단에 따라서 물리적인 위해를 가할 수 있는 강인공지능 로봇이 나와있다면 어떻게 될까라는 이야기였고, 어떤 테크는 인간이 특정 지점을 넘어서면 이것이 잘못되었다고 판단해도 돌이킬 수 없는 상황을 만들어내기도 한다는 것을 잘 생각해볼 필요는 있다는 이야기였습니다.
사실 강인공지능과 로봇이 결합되지 않아도 6G 기술까지 얘기되고 있는 초연결 및 IoT 기반의 오프라인과 온란의 구분이 없어진 시대에 인간을 적으로 삼는 AI에게 인터넷 네트워크만 장악되어도 "소프트웨어 명령" 을 기반으로 움직이는 현재 시점에서 얼마든지 다양한 방식으로 인간을 제거(?)할 수 있습니다.
석유 송유관 제어권이 해킹 되는 것 하나만으로도 엄청난 이슈가 발생하는 사회에 살고 있는 우리에게 이렇게 다소 극단적 상상도 필요한 이유는 "테크"에 대한 무조건적인 의존보다는 올바르게 사용하기 위한 "철학"이 정립되는 것이 선제적으로 전제되야 하기 때문입니다.
AI에게 학습을 시킬수록 그 AI가 왜 그런 결과를 도출하는지 인간이 이해하기가 어렵다는 것은 이 쪽을 연구하시는 분들이 사적인 자리에서 토로하는 고충입니다. 학습을 시킬 수는 있지만 왜 이 결과가 나오는지 "해석" 을 하는 것은 완전히 다른 차원의 문제라는 것이죠. (어떤 결과를 도출한 학습 알고리즘을 보니 "몇 억줄의 코드" 가 나와있는...)
그래서 자율주행 역시도 사고가 발생했을 때, AI가 왜 그렇게 판단했는지 알고리즘을 다시 분석하는데 엄청난 시간이 걸리게 되는데, 그럼 다시 이런 문제 봉착한다고 합니다.
AI의 알고리즘 실패를 검수하는 또 다른 AI가 나와야하나....? 그럼 그건 또 어떻게 믿고 사용하나...?
이런 꼬리에 꼬리를 무는 철학적 질문이 발생하는 것은 모든 테크가 발전하는 과정에서 당연하지만, AI는 그런 논란에서도 자연스럽게 정점에 있을 수 밖에 없는 특성이 있다는 점(기본적으로 걔가 왜 그런 결과를 도출하는지 해석이 안되니...)
그럴 때일수록 답없는 논쟁에 빠져드는 것이 아니라 우리가 그것을 왜 발전시키는지에 대한 명확한 철학과 좋은 방향으로 선용하는 것, 그리고 명분만 내세워 안좋은 결과를 도출하려는 위선적 시도에는 연대를 통해서 제어하는 것과 같은 조금 더 실질적인 행동으로 연결되야 한다는 생각이 들었습니다.
오늘은 금요일이면서도 즐거운 월급날입니다! 모두 정시퇴근하시고 행복한 주말 되시길 바랍니다
