작가의 글을 더 이상 구독하지 않고,
새 글 알림도 받아볼 수 없습니다.
알고리즘을 만드는 알고리즘 그리고 모델과 기계 학습
내 삶을 차리는 독서의 시작
by
Jan 06. 2025
<문제를 정의하고 계획을 세우는 인공지능>에 이어 <AI 최강의 수업> 2부 <사람보다 똑똑한 인공지능을 위한 기술> 중에서 <스스로 배우는 기계 학습>을 읽고 밑줄 친 내용을 토대로 생각을 담습니다.
알고리즘을 만드는 알고리즘
다음 포기말(문장)[1]을 읽는데 익숙한 어떤 느낌을 다시 떠올렸습니다.
기계 학습이란 소프트웨어 개발자가 아닌 학습 알고리즘이 컴퓨터 프로그램을 만드는 것으로 이해할 수 있다. 소프트웨어 개발자의 업무가 자동화되는 것이다.
그것은 2017년 읽었던 책에서 받은 것인데요. 작년에 '저장의 시대에서 생성의 시대로'라는 문구를 보면서도 받은 느낌입니다. 개념이 아니라 느낌인 이유는 <컴퓨터과학이 여는 세계>라는 책에서 제가 이해한 내용을 하나의 개념이나 단어에 담지 못한 탓입니다.
아무튼 상태 변화에 관계없이 작동하는 식으로 프로그램을 구성할 수 있다면, 마치 수학적 증명처럼 반복해서 활용할 수 있다는 사실을 책에서 배웠습니다. 앞서 인용한 다발말[2]은 '알고리즘을 만드는 알고리즘'이라는 이름을 붙일 수 있는데, 바로 그때 배운 기억을 호출했습니다. 당시는 프로그래밍 기술로 함수형 언어의 등장과 이를 연관시켰는데, 시간이 지나니 GPU 혹은 선형대수 연산 혹은 머신러닝과 연결되는 듯합니다.
알아보기 알고리즘을 구현하다
다음 포기말은 이미지 인식이 너무나 일반화되어 있어서 잘 떠올리지 못한 내용을 다시 생각하게 합니다.
인간의 시각적 인지 작용 메커니즘은 잘 알려지지 않았다. 따라서 개발자는 시각 기능을 알고리즘화 하지 못한다. 그러나 기계 학습 알고리즘을 이용하여 인식 알고리즘을 학습시킬 수 있다.
새삼스럽게 인공지능의 대단함을 깨닫습니다. 그리고, 손때를 묻혔던 그림과 작년에 묻따풀 했던 글 <사람이 눈으로 무엇을 보는 것>을 떠올렸습니다.
보는 즉시 여겨서 혹은 기억이 작동하여 알아보는 우리의 메커니즘에서 아직 인간이 알아채지 못한 내용을 인공지능이 밝히고 있다는 사실이 분명해집니다.
모델과 모델링 그리고 문제 정의, 제1원칙 사고
다음에 밑줄 친 포기말에서는 저에게 다른 맥락에서 친숙한 모델과 모델링이 등장합니다.
모델은 현실 세계의 사물이나 사건의 본질적인 구조를 나타내는 모형이다. 현실 세계의 현상을 추상화하고 단순화하여 모델로 표현한다.
하지만, 인공지능 맥락이라고 해서 특별히 의미가 달라지지는 않습니다.
문제 풀이에 필요한 것만 추상적으로 표현하고, 적절한 수준으로 단순화시키는 것이 필요하다. 단순화를 적게 하면 복잡해서 수학적으로 해결할 수가 없게 되고, 반대로 지나치게 단순화시키면 해결한 문제가 현실과는 동떨어진 것이라서 효용성이 없다. 따라서 가급적 현실을 제대로 표현하면서도 문제 해결이 가능하도록 복잡도를 낮추는 것이 필요하다.
도리어 <내가 풀려는 문제가 무엇인지 분명히 하자>에서 다루었던 '문제 정의'가 모델링과 관련이 깊으며 제1원칙 사고로 알려진 일론 머스크 사고법과도 밀접하게 관계되었음을 깨닫게 됩니다.
출처: https://maily.so/gritbd/posts/x1zglx33rqg모델과 기계 학습과의 관계
하지만, 기계 학습에서 이를 사용하기 위해서는 훈련데이터집합이 필요하다는 차이가 있습니다.
기계 학습이란 훈련데이터집합을 잘 표현하는 모델을 만드는 작업이다. 즉, 모델이 틀을 설정하고 훈련데이터집합을 잘 표현하는 파라미터(매개변수) 값을 구하는 작업이다. 기계 학습에서 특히 관심 있는 것은 입력과 출력 간 함수 관계의 모델이다.
그리고 훈련데이터집합을 이용해서 모델링을 하게 됩니다.
인공 신경망 기법에서는 노드와 연결선으로 구성된 망구조를 모델의 틀로 사용한다. 주어진 망구조에서 훈련데이터집합을 가장 잘 표현하는 파라미터값을 구하는 것이 모델링이다.
벡터(vector)를 연상시키는 탓인지 직접적인 관련성은 없지만 얼마 전 페북에서 본 글이 떠올랐습니다.
삶과 존재의 시공간으로 이뤄진 현상계는 방향을 가진 힘인 vector로 이뤄진다. 생명체의 생로병사가 그러하고, 성주괴공의 세상 질서가 그러하지만 방향을 지닌 존재의 흐름은 결코 멈추지 않기에 비유하자면 오가는 바람과 같고 일렁이는 파도와 같다
주석
[1] <한국말 말차림법>에서 제안한 문장에 대한 토박이 말입니다. 왜 포기말인지는 <언어에 대한 일반이론>에서 일부 답을 얻을 수 있습니다.
[2] <한국말 말차림법>에서 제안한 단락에 대한 토박이 말입니다. 왜 다발말인지는 <언어에 대한 일반이론>에서 일부 답을 얻을 수 있습니다.
AI 최강의 수업 독후감 연재
지난 내 삶을 차리는 독서의 시작 연재
(106회 이후 링크만 표시합니다.)
106. 감정의 민첩성을 얻기 위해 감정에서 한 걸음 비켜나기
107. 생각이 살아서 여행을 멈추지 않도록 돕는 동반자다
108. 감정의 민첩성을 얻어 자기 목적에 맞는 길을 걸어가기
109. 사람보다 똑똑한 인공지능을 위한 기술
110. 인공지능이 불러올 피할 수 없는 질문
111. 어떻게 감정의 덫에 걸리게 되는 걸까
113. 무엇 때문에 소통하고, 일하고, 존재할 것인가?
114. 감정은 이렇게 우리를 낚는다
115. 거짓말이 지배하는 출세를 극복하는 거대한 직면
116. 안물안궁 2024년 안영회 독서 목록
118. 올해 독서는 일정 부분 계획적으로