​AI의 생산성만 취하고 AI Slop을 방치하면...

묻고 따져서 개념을 만들고 실행하는 디지털 전환

by 안영회 습작

메일링으로 받아본 기사 <ArXiv, 코넬 대학교로부터의 독립을 선언>에서 눈에 띄는 표현이 있었습니다. 바로 어제 팟캐스트[1]로 들은 Slop입니다. 그래서 차분히 따져 볼 마음으로 글을 쓰기로 합니다. 그렇게 다시 보니 이번에는 '독립이 지속 가능성 확보에 필수적'이라는 말도 함께 눈에 띕니다.


귀로 먼저 들었던 AI Slop이 글자로, 이미지로 찾아오다

먼저 slop이란 말을 <낱말의 뜻을 깊고 넓게 묻고 따지는 일>을 방법으로 삼아 따져 보겠습니다. 그래서, 위키피디아 페이지부터 찾았습니다. 영문으로 정독하는 대신에 크롬 번역으로 대강 훑어만 보아도 어떤 의미로 쓰이는지 알 수 있습니다.

여기서 인용한 위키피디아의 예시 이미지들을 쭉 훑어보는데 아침에 봤던 영상이 만든 생각이 말을 걸듯이 끼어듭니다. 생각을 의인화하면 이런 식으로 말하는 하는 것이죠.

생산적인 의도로도 Slop이 만들어지지 않나?


디지털 밈이 필연적으로 만들어내는 AI Slop

무슨 말이냐고요? 제가 봤던 영상은 클로드 채널이라고, 요즘 AI 씬에서 가장 핫한 기술인 OpenClaw의 대체제격인 클로드의 새로운 서비스를 소개하는 영상입니다. 예시로 다른 사람이 만든 썸네일을 복-붙해서 내가 쓸 용도로 만드는 작업을 보여줍니다.


너무나도 당연하게 AI Slop이라는 말은 나오지 않습니다. 이 영상을 본 후에 위키피디아 slop 페이지에 등장하는 이미지를 보면서 떠올린 것일 뿐입니다.


제 생각에 Slop이 만들어지는 배경에는 바로 이러한 마법 같은 기술로 빠르게 디지털 결과물을 만들려는 욕망이 자리하고 있습니다. 욕망이라는 단어는 어딘가 적나라한 느낌이 들어서 보통은 '생산성'이라는 말이 자주 쓰입니다. 소개한 영상을 복-붙 장면을 보면 대부분 '오~'하면서 바로 그 '생산성'에 놀랍니다. 나도 한번 해 볼까 하는 마음이 들죠. 심지어 딱히 뭘 하려던 욕망이 없던 사람까지 말이죠. 따라 하게 만드는 모방 본능을 자극합니다. 일종의 디지털 밈(meme)이죠.


AI Slop이 독립과 지속성의 관계를 다시 살피게 하다

생산성만 쫓다가 보이지 않게 쌓이는 위험을 칭하는 말로 '기술부채'가 익숙합니다. 제 직업 탓이죠. 하지만, AI Slop을 듣게 된 팟캐스트[1]는 인류 전체의 보편적인 문제로 AI Slop을 다룬 것이었습니다. 그래서 더 인상 깊게 들었던 것이 오늘 아침에 읽은 기사에서 주목을 하게 작용한 듯합니다. 다시 말해 기사를 열지만 대강 훑어보느라 대부분의 문장을 보지 않는데, 거기서 인용한 단락을 제 시야에 올리게 끌어당긴 것입니다.

그렇게 이끌린 후에는 AI Slop이 논문 저장소 관점에서는 '부실 논문'으로 번역된다는 평소 관심 두지 않던 분야의 사실도 알게 되었습니다. 그러고 나서 다시 이 글을 써야겠다고 마음을 먹은 후에 해당 단락을 보니 '독립이 지속 가능성 확보에 필수적'이라는 말도 보이는 것이죠.


여기서 놀랍게도 Al Slop이나 기술 부채와 해당 문구를 연결할 수 있게 되었습니다.


부실 코드와 부실 논문이 쌓이면 부실이 자란다

개발에 입문한 후부터 대략 20년 정도 세월을 돌아보면 소프트웨어 후발 국가인 우리나라는 미국이나 독일과 같은 선진국의 마케터들이 외치는 생산성이나 표준화를 맹목적인 수준으로 쫓아왔습니다. (이제라도 소버린을 외치니 다행입니다.)


하지만, 응용 프로그램은 한번 만들기만 하고 다른 부분을 돌보지 않으면 돌이킬 수 없는 누적 대미지를 입습니다. 한 가지 전형적인 예가 바로 앞서 말한 '기술 부채'입니다. AI Slop 역시 마찬가지입니다. 작년에 쓴 글을 보면 바이브 코딩을 하면 AI Slop 때문에 버그 수정 시간이 3배나 늘어난다는 주장이 담겨 있습니다.

부실 논문도 마찬가지죠. 부실 논문을 걸러내지 않는다면, 부실 논문을 참조하거나 인용하는 논문들이 양산될 테니까요. 당장에 문제는 생기지 않지만, 언젠가 이런 문제가 누적되면 수습이 불가해집니다.


요즘 인상적으로 읽고 있는 <언러닝>에서는 이러한 Slop 문제가 조직 문화로 쌓이는 것을 다루는데, <리더가 관성에 빠지면 통제 불가능한 간접비용을 낳는다>라고 말합니다.


지속 가능성을 확보하려면 가치와 정체성이 필요하다

이제 글을 마무리해야 할 타이밍입니다. 시작은 AI Slop이라는 표현이 저를 끌어당기는 데에서 시작했습니다. 왜 끌어당긴 것인지 모르는 상태에서 낱말의 뜻을 깊고 넓게 묻고 따지며, 만들어지는 생각을 글로 씁니다. 그러는 가운데 전혀 연결해 본 적이 없던 경험과 주제들 사이의 연관성이 보입니다.


마지막으로 주제와 함께 제목을 정하려는데, 애초에 <내 일상을 차릴 알고리듬> 연재로 분류한 것부터 교정이 필요함을 깨닫습니다. 그랬더니 주제가 뭐길래 <묻고 따져서 개념을 만들고 실행하는 디지털 전환>에 속하느냐고 스스로 묻게 됩니다.


격변의 세월입니다. 기업 활동이나 시스템도 이제는 애자일이 필수가 되었습니다. 방법론 수준에서 흉내 내는 것을 말하지 않습니다.

여기서 2008년 애자일을 적용할 때 찾아본 위키피디아 페이지의 이미지가 떠올랐습니다. 생태계와 조화를 이루고 균형을 맞추고 내적으로는 정렬을 해야 합니다. 제가 정원 관리OKR을 공부한 이유도 결국은 생존을 위해서였음을 다시 확인합니다.


AI의 생산성만 취하고 AI Slop을 방치하면 암묵적 의존성이 만든 복잡함에 먹혀서 통제력을 잃게 되는 수순은 어쩌면 당연한 일 같습니다.


주석

[1] 월말김어준 2월호에서 <우리가 왜 AI 세계 3위인가>라는 코너가 있는데 거기 나오신 이원태 교수님이 AGI 같은 미래의 문제보다 당장 존재하는 AI 문제로 Slop을 꼽았는데, 바로 그 현실적인 관점이 좋다고 생각한 영향이 아닌가 추측합니다.


지난 묻고 따져서 개념을 만들고 실행하는 디지털 전환 연재

(4회 이후 링크만 표시합니다.)

4. 코드 범람의 시대, 데이터 희소의 시대에서 개인의 기회

5. UI 패턴에서 동선 설계로 그리고 메뉴와 내비게이션

6. 우리 업무 프로세스를 위한 프레임워크 정의

7. 빠르게 훑어보고 골자만 추려 쓴 팔란티어 데이터 솔루션

8. 감정을 돌보면 일이 잘 되고, 공감 없는 협업은 없다

9. OTA를 타고 형체도 없이 수입되는 FSD라는 상품

10. 전통 기업의 디지털 전환은 비파괴적 창조가 될 수 있다

11. 기업의 디지털 전환 10년 경험을 꺼내다

12. AI 안경은 스마트폰에 종속된 웨어러블 기기가 될 것

13. 대체 전략을 어디에 써먹고 어떻게 실천할까? II

14. 오너가 실무자가 되어 업무 현장에 나가면 생기는 일

15. 리팩터링은 위험한 일인가? 더 위험한 일은 없는가?

16. 소프트웨어가 종말 하는 것이 아니라 진화하는 것이다

17. 전통적인 소프트웨어 개발방식은 유통기한이 끝나간다

18. 에이전트 우선 기업용 소프트웨어 개발 방식의 등장

19. 앤쓰로픽이 희망하는 개발 방식의 변화 양상

작가의 이전글처음으로 느껴 보는 바이브 그 후에 전략 수립