인간을 위협하는 AI는 누가 만들까?

#생성형AI 사용자가 무척 많습니다. 몇달 전 통계에 따르면, 접해본 사람 기준 절반 정도는 현재도 쓰고 있다고 하네요. 제 생각엔... 전 세계적으로 2억 명 정도는 되지 않을까, 생각합니다. 아마... 빠르게 늘고 있진 않을 거에요. #챗GPT 가 만들어진 영향력 덕분이긴 한데, 이게 5억명이 되고 10억 명이 되려면 #ChatGPT 급의 무언가가 한 번 더 나와야 하지 않을까, 싶습니다. 아쉽게도 #메타버스 는 아닌 것 같고, #가상인간 정도는 되어야 하지 않을까, 싶어요.

#제프리힌튼 교수님. 인공지능 계에서 #4대천왕 이라고 불리는 분입니다. 요즘 우리가 너무 흔하게 사용하는 - 인공지능 세계에서의 이야기입니다 - #딥러닝 을 제안하고 안착시킨 분이고, 교수로서 제자 양성에도 탁월한 분이시죠. #캐나다 가 전세계 AI 세계에서 유명하게 만든 - #토론토대학 교수님이세요 - 분이기도 하죠. 캐나다가 뜻밖에도 미래 기술 분야에서 좀 탁월합니다. 인공지능도 그렇지만 #양자컴퓨터 세계에서도 장난 아니죠. 세계 최초의 상업용 #양자컴퓨터 가 캐나다산입니다. 앞으로 이게 계속 유지될지, 는 알 수 없지만, 암튼 뜻밖의 대단한 나라이긴 해요. 아무튼 대단한 교수님인데, 요즘 또 새로운 느낌으로 유명해지고 있습니다. 바로, 인공지능의 위협을 알리는 데 노력 중이시죠. 최근에, AI가 인간을 공격하는 무기가 될 것이다, 라고 해서 또 한 번 전세계를 놀라게 했죠. 뭐, 그럴 수 있지만, 전 교수님과는 생각이 좀 달라서... 감히 교수님의 생각과 다른 이야기를 써보려고 합니다.

언제나, 골치아픈 짓을 하는 사람은 있다!

#핵융합 을 연구하니 #원자력 을 만들고자 했는데, 정작 #핵무기 가 먼저 만들어지죠. 그런데 우리가 알아야 할 게 하나 있습니다. 우리가 너무 흔하게 쓰는 많은 것들 중에는, 전쟁에서 이기기 위해 연구되고 만들어진 게 꽤 있다는 거죠. 그런 점에서 어떤 기술 자체가 문제라기보다는, 그 기술을 가지고 골치아픈 짓을 하는 사람이 있는 게 문제입니다.

인공지능도 마찬가지라고 생각해요. 지금 인공지능이 이렇게 잘 쓰여지는 세상에, 이걸로 무기를 만들고, 도둑직을 하는 데 적용하는 사람들, 당연히 있겠죠? 그렇다면 그 사람을 처벌하는 게 맞을까요, 인공지능을 처벌하는 게 맞을까요?

뜻밖에 우리도 인공지능을 위협적으로 만든다!

인공지능 가상인간 세계에서 아주 유명한 사건이 하나 있죠. 바로 #마이크로소프트 의 야심작 #테이 였습니다. #MS 라는 회사가, 미국을 라이벌로 여기는 #중국 에서조차 세계 최고의 인공지능 기술 기업으로 인정하는 회사입니다. 그런 회사에서 야심차게 만들었죠. 그런데 너무 잘 만들어서 그런지... 공개되고 얼마 지나지 않아 문제를 일으키긱 시작했습니다.

인공지능은 항상 #빅데이터 가 필요하고, 이를 학습해서 작동합니다. 당시 테이는 #트위터 (지금은 #X 라고 불리죠!) 를 학습한 모양이에요. 그리고 사람들과 대화하면서 계속 학습을 했는데, 얼마 지나지 않아 #인종차별 #욕설 등 도저히 사용할 수 없는 수준에 이릅니다. 서비스를 중단하고 보완해서 다시 오픈했지만, 결국 이 문제는 해결되지 않았고, 서비스가 중단되어 버립니다.

요즘 인공지능이 #편항적 이라고 이야기하는 분들이 있는데, 전 그 사람이 오히려 편향적이라고 생각해요. 그거 아세요? 우리 인간 세계가 원래 편향적입니다. 그 기준조차 각자가 정해놓은 기준에서 판단하거든요. 그런데 AI가 중립적이다? 불가능합니다. 인간이 편향적이고, 인간이 만든 데이터가 편향적이니까요. 그 말은, AI가 데이터를 학습하고, 그 데이터를 인간이 만들기 때문에, 우리가 만들어낸 데이터의 편향성이 결국 AI를 편향적으로 만든다는 겁니다. 그 점에서, 우리가 AI 를 위협적으로 생각하고, 위협적인 존재로 여길 때... AI가 그럼에도 친인류적인 기준을 유지할 수 있을까요? 사람이 개입을 하겠지만, AI 세계는 나중에 좀 개입해서 문제의 근원이 잘 해결되지 않습니다...

AI가 인간을 위협할 수 있을 가능성에 대비해야겠지만, 우리를 위협하는 AI를 바라볼 때, 그 뒤에 있는 사람을 보지 않고 AI 그 자체를 본다면, 우리의 대응이 제대로 될리 만무합니다. 그리고 그 좋은 도구를... 우리는 놓칠 수도 있어요. 우리에게 #스파이스 같은 물질이 있지 않는 한... 우리는 AI를 잘 다루려고 노력해야 합니다.

마지막으로, 제프리 힌튼 교수님, 여전히 놀랍고 대단한 분이십니다. 감히 제가 그분 이야기에 토를 달긴 했지만, 실은 교수님의 이야기나 저나 다르지 않다고 생각해요. 그냥 늬앙스를 좀 다르게 쓴 것 뿐입니다. ^^ 여러분이 잘 이해해 주시리라 믿고, 어떻게 하면 AI를 잘 다룰 것인가, 고민해 보면 좋겠습니다.

#BestAICoach

#백기락 Dream

* 다시 책을 쓰려고 합니다. 쓰게 되면 18번째 책이 되겠네요. 아마... #인공지능 비슷한 분야가 될지도 모르겠습니다. 어떤 출판사와 어떤 주제로 작업할지, 기대되는 2024년입니다. ^^

** 교육 분야 생성형AI를 구축하려 합니다. 참여하시려면 ~

https://blog.naver.com/kirak/223380569752