chatGPT는 효율적인 검색도구 일 뿐
개발자의 생각 #46
知之爲知之 不知爲不知 是知也
아는 것을 안다고
모르는 것은 모른다고
하는 것이 진짜 아는 것이다.
공자, 「논어 위정편」
1.
사람들이 몇 달동안 chatGPT를 사용하며 기능을 학습해왔다. 초반과는 달리 "chatGPT"의 한계를 빠르게 공감했으며 그에 따른 활용법과 가능성을 찾아내기 시작했다. 바로 "엄청난 생산성을 가진 도구"로 활용방안을 찾고 유튜브나 블로그에 올리기 시작했다. 그들이 목적으로하는 chatGPT의 활용성은 대부분 "자동화"라는 주제로 만들어진다.
2.
설마 자기소개가 틀릴까?chatGPT가 핫해진 이유는 누가 뭐래도 LLM(Large Language Model)을 사용한 놀라운 챗봇 기능의 UX이다. 마치 사람에게 말하는 착각을 일으킬 정도로 "수려한 문장"을 출력하지만 openAI에서 말하는 것 처럼 "부정확한 정보를 그럴 듯한 말로 설명"하는 경우가 부지기수이다.
일 예로 chatGPT에게 자신의 소속과 이름을 입력하면 자신도 모르는 놀라운 사람이 되어 있음을 알게된다. 이유는 웹에 공개된 정보를 가지고 때에 따라 짜집기를 수행하기 때문이다.
반백년 넘게 나를 좋게 평가해주는 사람(?)은 자네 밖에 없네. 그런데 창립일과 개발분야가 모두 틀리네.그리고 문제는 웹에서 수집한 데이터의 "진위(truth)"를 알 수 없다. 그것은 사람도 마찬가지이다. 웹에 있는 정보 중 재대로 된 정보가 얼마나 있을까?를 생각해보면 된다. 적지 않은 수가 광고 마케팅으로 쓴 정보이다보니 "과장"과 "오류"가 존재한다.
그런 점에서 chatGPT를 사용하면서 오해하지 말아야 할 것은 다음과 같다.
웹에서 학습된 데이터가 정확할 수 없다.
LLM기반에 특화되어있다. 사람들이 이해하기 쉬운 문장력을 구사한다.
자체 이해능력은 없다. 검색에 최적화 된 것일 뿐이다.
그러므로 "선무당 사람잡네"식의 답변은 10번중 5번 이상 나온다.
그런 점에서 chatGPT는 그럴 듯한 아무말 대잔치를 하는 경우가 흔할 수 밖에 없다.
"생각해서 말하는 것이 아니라
어딘가에서 들은 이야기를
짜집기 해서 말한다"
로 받아들이는 것이 현명하다.
3.
그럼에도 불구하고 개발자에게는 chatGPT는 너무 멋진 친구이다. 개발자는 언제나 학습을 해야 하는 직업이므로 chatGPT와 같은 초등생 [동아전과]형 학습정보가 도움이 된다. 그런 점에서는 초보 개발자 또는 전문가지만 다른 분야를 학습해야 하는 개발자들에게 "축복"과도 같은 기능을 제공하고 있다. 설명과 예제 코드를 거의 정확한 내용으로 기술해주기 때문이다.
형이 너 같은 인력(?)을 필요로 했다. 초급실력에 노가다 만들어줄 개발자가 필요했다. 흑흑이렇다보니 가끔 chatGPT에 대한 올바르지 못한 정보(오버액션)를 이슈화 하는 경우가 발생하고 있다. 바로 아래와 같은 예이다.
chatGPT 해킹이슈
유튜브 댓글에도 있지만 AI가 해킹소스를 만들어주는 것이 아니다.
chatGPT는 스스로 코딩을 하지 않는다.
학습된 정보를 보여줄 뿐이다(그럼에도 무척 도움이 된다).
chatGPT에서 보여준 예제는 "인터넷 검색"으로도 찾을 수 있다.
해킹의 원흉은 "보안코드 미적용"같은 업체의 무책임이다.
해킹 능력은 개뿔...
이라는 결론을 내릴 수 있다.
사이비 종교처럼 chatGPT를 만능 또는 공포로 만들어가는 포스팅을 보면 씁슬해진다. 저렇게 하는 이유는 자신들에게 어떤 "이익"이 있으니까 저러는 것이겠지라는 생각을 하게된다.
