brunch

매거진 읽고 배우는 즐거움

라이킷 29 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 이정원 Jul 26. 2023

데이터가 진짜 힘이 되게 해 주는 인공지능의 맛을 보다

알짜 기업들이 쓰는 진짜 AI 세미나를 다녀 와서.

나는 데이터의 힘을 믿는 편이다. 대부분 좋은 결정은 좋은 데이터에서 나오고, 확신이 들지 않는다면 그건 아직 충분한 정보를 얻지 못했기 때문이라고 생각한다. 세상은 랜덤처럼 보이지만 실제는 방향성을 가지고 계속 변하고 있고 그 방향을 읽어 내는 것이 중요하다.

문제는 데이터가 부족한 것이 아니라 데이터가 너무 많다는 데 있다. 정리되지 못하고 결과와의 관계가 정립되지 않는 데이터는 노이즈에 가깝다. 많은 정보들이 디지털화되면서 데이터는 쏟아져 나오고, 일상의 활동들로 생성되는 문서는 넘쳐 나는데 정작 필요한 데이터는 찾기는 더 어려워졌다. 개인이 사람이 감당하기엔 너무 많은 정보들을 보면서 나를 대신해서 그 데이터들을 분석하고 의미를 찾아 주는 서비스에 대해 궁금해졌다.

Chat GPT가 세상에 나오고 AI에 대한 관심은 높아졌지만, 사실 몇 번 써보고는 금방 흥미가 떨어졌다. 대화를 하고 자연스러운 문장을 만들어 내는 것은 신기했지만, 2021년 이전 정보만 기반으로 하기에 최신 정보는 제한적이었다. 그리고 참 거짓에 대한 검증을 추가로 해야 하는 것도 불편하니 업무에 활용하기는 부담스러울 수밖에 없었다.

그러던 중에 미국에서 AI 기반으로 ALLGANIZER를 이끌고 있는 고등학교 후배 이창수 대표가 한국에 오고 세미나를 한다는 소식을 페북으로 접했다. 기업 내 문서 데이터 학습한 후에 chat gpt처럼 대화형으로 답해주는 서비스로 미국 일본 한국에서 다양한 B2B 사업을 하고 있는 후배 얼굴도 볼 겸, AI로 어떤 사업들이 시장에서 이루어지고 있는지도 궁금해서 참가 신청을 하고 오늘 다녀왔다.

https://m.onoffmix.com/event/280135

알짜 기업이 쓰는 진짜 AI 세미나

세상의 모든 모임 '온오프믹스'

m.onoffmix.com

강남역에서 이루어진 세미나장은 사람들로 북적북적했다. 올 거 나이즈 외에도 Superb AI와 마키나락스라는 인공지능을 통해 실제 시장에서 다양한 서비스를 제공하고 있는 회사들이 실제 기업들이 어떤 상황에서 AI를 도입하고 활용해 가고 있는지 공유하는 자리였다. AI 도입을 고려하고 있는 실무자들을 대상으로 하는 일종의 Show Case인 셈이다.

너무 기술적이지도 않고 또 그렇다고 너무 홍보적이지도 않아서 좋았다. 현장에서 부딪히는 해결해야 하는 문제들에 대해서 AI가 어떻게 도와줄 수 있고, 또 단순한 모델 구성이 아니라, 데이터 파이프 라인을 만들고 좋은 데이터를 고르고 의미 있는 결과를 도출해 내고자 하는 고민들이 느껴졌다. 각 회사들마다 비전 / 제조 품질 관리 / 대화형 LLM 서비스 등의 강점들을 강조하면서도 B2B 사업을 하는 비슷한 회사로서의 공감대도 함께 볼 수 있었다.

기록 삼아 기억나는 메시지들을 정리하면...

1. 데이터의 수가 많은 것이 반드시 더 좋은 결과를 가져오는 것은 아니다. 마치 학생이 책상에 오래 앉아 있는다고 공부 잘하는 것이 아니라 자기가 약한 부분이 어디인지를 알고 집중적으로 공부하는 것이 더 효율적이 듯이, 오히려 좋은 데이터들을 취사 선택하고 부족한 부분을 보충하는 알고리즘이 중요하다. 요즘 MLOPS (Machine Learning Operations)는 그런 학습할 데이터의 취사 선택도 고민하고 있다.

2. 어떤 문제를 AI도입을 통해 개선하고 싶은지에 대한 목표가 명확해야 한다. 그리고 도깨비방망이처럼 한 번에 뚝딱하고 해결되는 시스템은 없다. 장기적인 관점에서 마일스톤을 정하고, 문제나 목표가 뚜렷한 분야에서 먼저 시작한 후에 영역을 차차 넓혀 가는 것이 중요하다. 한번 학습한 이후에 여러 번 프로세스를 개선하고 반복하는 Iteration을 더 해 갈수록 성능은 더 좋아진다. 반복학습이 중요하다.

3. 보안 문제는 가장 큰 어려움이다. 인공지능 알고리즘은 실시간으로 업데이트되고 있는데 보안 이슈로 클라우드처럼 외부와 연결된 시스템을 구축하지 못하는 경우에는 고객사도 AI회사도 불편함이 있을 수밖에 없다. 제작사에 내부망에 설치하게 되면, AI 회사들이 파견직처럼 계속 매달려 있을 수밖에 없는 상황이 생긴다. 궁극적으로는 클라우드로 가면서도 보안이 가능한 기술들이 개발되어야 하지 않나 싶다.

4. CHAT GPT의 기능에 감탄하는 사람도 있지만, 사실 글을 쓰는 입장에서 신뢰도가 확보되지 않는 것 때문에 LLM (Large Language Model)에 대해 그 효용성에 의문이 있었다. 그러나 올거나이즈처럼 신뢰할 수 있는 특정 대용량 데이터를 기반으로 해서 답을 찾아서 TEXT 형태로 정리해 주는 서비스는 활용 가능성이 높아 보였다. 예로 들어주었던 판례 찾기 / 대응 매뉴얼 정리 / 포맷 일괄 수정 / 규제 대응 방안 등 활용할 수 있는 분야가 넘쳐 날 것 같다.

5. 좋은 AI 회사도 있지만, 그걸 사용하는 고객사와의 궁합도 중요해 보인다. 현장의 문제를 가장 잘 알고 있는 사람과 AI도입을 통해 무엇을 얼마나 개선할지에 대한 비전이 확실한 파트너를 원한다는 3사의 답변이 인상적이었다. 한번 설치하고 끝인 서비스가 아닐 수 있어야 양쪽 모두 WIN-WIN 할 수 있을 것이다.

다양한 활용 사례를 보면서 인공지능으로 나는 무엇을 할 수 있을까 더 실체적으로 고민하게 되었다.

- 최근에 이직이 많은 회사 품질 영역에서 관련 기록들을 데이터 베이스 화해서 학습시키면, 사람들이 떠나도 고객 대응하던 필수 노하우들을 회사 내에 남기고, 문제가 발생한 네트워크에서 전국 어디서든 쉽게 문의하고 답을 받을 수 있지 않을까?

- 매년 바뀌는 자동차 관련 Compliance 규제에 대해서 수천 페이지 지문들 보고 대응책 찾는 일도 AI를 끼고 하면 수월하겠는데... 아니 그걸 위해 우리 회사만 돈을 내고 공부하기보다 차라리 Consulting 해주는 회사에서 활용하면 더 쉽게 운영할 수 있겠는데?

- 변화구에 죽 쒀서 타율이 바닥을 기고 있는 롯데 야구선수들이 헛스윙하는 공의 궤적들을 데이타화해서 어떤 공을 던지는 투수들에게 특히 약한지 분석하고 타선을 짜면 5강에 갈 수 있으려나?

변하는 세상에 내가 반드시 다 전문가일 필요는 없다. 그 기술들로 세상을 이롭게 하는 서비스를 제공하겠다는 사람들이 무엇을 하고 그들과 나는 어디서 만날 수 있을까? 어제 같은 그런 세미나에 자주 찾아와 직접 만나 봐야겠다는 다짐을 했다.