(이 포스트의 글은, 다른 전체의 글도 다 그렇지만, 특히 저의 뇌피셜로 쓰여진 글입니다. 전혀 검증같은 것은 하지 않았으니 학술적인 잣대를 들이대지 마시기 바랍니다)
앞에서 AI는 병렬연산을 하는 기계라고 언급하였습니다. 그래서 CPU 대신 GPU 만 갈아끼우는 형태이고 겉으로 보기에 컴퓨터와 전혀 다를 바가 없습니다. 또한 O/S 도 기계어로 되어 있을 것이고 (저는 엔지니어가 아니라서 잘 모릅니다), 초기 LLM 모델들은 사람의 말을 잘 알아듣지 못했을 것입니다. 그래서 기계어를 다룰 줄 아는 컴퓨터 공학자들이 AI를 발전시켜 왔습니다.
지금의 LLM은 사람의 말을 이해할 수 있습니다. 최소한 그런 것처럼 보입니다. 그래서 프롬프트 엔지니어는 사람의 말로 프롬프트를 입력 해도 AI 모델은 잘 작동합니다. 정확하게 알아 듣느냐는 차후 문제입니다. 알아 듣고 작동을 한다는 것이 중요합니다.
여기서 문제가 발생합니다. 전통적인 컴퓨터 엔지니어들은 기계어에 익숙한 사람들입니다. 정확한 명령어를 입력하지 않으면 컴퓨터는 작동하지 않습니다. AI도 유사합니다. 정확한 명령어를 입력하지 않으면 작동은 하지만 이상한 답변이 나옵니다. (이를 할루시네이션이라고 앞에서 말씀드렸습니다) 그렇기 때문에 컴퓨터 엔지니어들은 정확한 답변을 얻고 싶어서 기계어에 가까운 또는 AI 기계어 json 이란 형태로 프롬프트를 입력합니다. 정확하게 명령해서 정확한 답변을 얻어내기 위한 당연한 행동입니다. 문제는 AI는 정확한 답을 내는 연산기계가 아니라는 것입니다. 아무리 정확한 명령어를 넣어도 AI는 확률적으로 답변을 뱉어내는 기계입니다. 따라서 정확한 명령어라는 것 자체가 존재하지 않습니다.
엔지니어들은 할루시네이션을 최소화 또는 0로 만들기 위해 노력합니다. 더 정확한 프롬프트를 만들기 위해 열심히 수학적인 계산을 합니다. 절대로 AI가 다른 생각을 할 수 없게 더 정확한 계산을 하도록 강요합니다. 이것이 무슨 말이냐 하면, 병렬 연산을 하는 기계에게 직렬 연산을 강요하게 되는 것입니다. 성격이 안 맞는 명령을 수행하려면 연산량이 폭증을 하게 됩니다. 이 폭증하는 연산력을 감당하기 위해 어마무시한 하드웨어 업그레이드가 시작되는 것입니다. 더 많은 메모리와 더 성능좋은 GPU가 필요하게 되는 것입니다.
결국, AI는 정확한 [숫자]로 통제를 하는 것이 아니고 정확한 논리의 [말]로 통제를 해야 효율적이며 효과적입니다. 구체적인 방법에 대해서는 다음에 언급하도록 하겠습니다.
그런데 컴퓨터 엔지니어들은 숫자적 논리에 익숙한 사람들이지 언어적 논리에 익숙한 사람들이 아닙니다.
이것이 컴퓨터 공학자들이 AI를 오인할 수 밖에 없는 진짜 이유입니다.