국가가 AI생태계의 주인공이 되려면

[후기] AI전쟁 2.0 하정우, 한상기

모두가 AI를 얘기하는데, 새로운 정부에서 이를 이끌어가고 있는 하정우란 사람이 쓴 책이라 호기심에 시작한 책, 미래의 먹거리라는 AI에서 과연 우리 한국 정부는 어떤 변화와 임팩을 만들어낼 것인지 궁금했는데.

사실 기술적인 부분은 좀 이해하기 어려웠지만, 그럼에도 우리가 무엇을 목표로 해야 하는지, 사기업에서 치열하게 무언가를 만들어본 사람이 공공 영역에서 미래를 위한 무언가를 만들어가고 있을 것 같다는 믿음이 생긴것 같다.

안전성 문제도 흥미롭고,

AI라는 도구를 우리가 어떻게 일상생활과 비즈니스케이스로 녹여내야 하는지를 보는 생각의 과정도 재미있었다. CHAT GPT는 이미 내 일상의 업무에 깊이 들어와있다. 나를 잘 파악해서 답을 준다. 이번 미국 국방부와의 전면전을 통해 Claude에 대한 관심도 생겨서 여기에 나를 학습 시켜봐야겠다.

세상엔 배울게 참 많다.

나의 밑줄

결국 안전성의 문제, 제프리 힌턴도 이런 부분을 가장 우려, 에이전트를 통제하기 어렵고, 특히 문제 해결 과정에서 설정하는 하위 목표가 전체 목표와 일치하지 않게 되는 경우 안전성을 확보하는 것이 매우 어려워질 수 있다는 지적

AI의 진정한 힘은 기술 그 자체보다는 얼마나 빠르게 산업과 일상생활에 녹아들어 실질적인 부가가치를 만들어내는 데 있다고 생각

항상 우리나라의 정책은 남의 기술을 이용해 우리끼리 잘 먹고 잘 살겠다는 데 그쳐 있었습니다. 이제 그런 시대는 지났다고 봅니다. 우리가 G10국가로서 AI생태계나 글로벌 기술과 산업에 어떻게 기여할지 고민하고 실천할 수 있는 자세가 필요합니다. 새 정부가 내놓을 정책에선 'AI에 공헌하는 국가'라는 철학이 담겼으면.

기업의 본질적 비즈니스와 생성형 AI가 충분히 맞닿아 있어야 한다. 그래야 투자가 가능.

AI규제가 단지 위험 방지에만 초점이 맞춰져선 안된다, AI의 혁신적 가능성을 특정 소수만 활용하거나 기술 확산을 지나치게 제한하는 방향이 된다면 그것 역시 또 다른 위협이 될 수 있다. 결국 중요한 것은 위험과 기회 사이의 균형을 어떻게 잡을 것이냐는 점

얼라이먼트 - 생각의 사슬, AI가 특정 문제를 해결할 때 논리적 흐름을 단계별로 표현해주는데, 여기서 중요한 것은 이 논리 흐름이 실제로 모델 내부에서 벌어지는 사고 과정과 일치하는지, 아니면 그냥 겉으로만 보기 좋게 표현된 것인지를 구분하는 것. 결국 우리는 현재 AI 모델이 내부적으로 어떤 방식으로 작동하며 결과를 만들어내는지, 또 그런 내부 동작을 우리가 이해하고 제어할 수 있는지를 하나씩 들여다보기 시작한 단계. 지금 얼라이먼트 연구 흐름은 이런 방식으로 모델의 내적 기제를 깊이 탐구하는 방향으로 진행되고 있음.

얼라이먼트 연구의 중요한 전제= 사회적으로 합의된 가치나 기준이 명확히 존재해야 함.단순한 기술적 문제가 아니라 다양한 배경의 사람들이 모여 '우리가 어떤 가치를 지향할 것인가'를 함께 논의하는 다층적인 문제, 결국 얼라이먼트 연구는 기술적 접근 이전에 사회적 합의가 필수적으로 선행되어야 하는 영역

영화 <Enemy of State>

결국 인공지능 기술력은 컴퓨터 인프라, 인재, 데이터라는 세 가지 요소로 압축됩니다.

지금까지는 항상 뭔가를 시도하면 '규정상 안됩니다' 라는 말이 먼저 나왔습니다. 하지만 이제는 '우리가 혁신을 해야 하니, 규정이 걸림돌이면 적극적으로 바꿉시다'라는 태도가 필요합니다. 중요한 일이 있다면 반드시 일이 되게 만드는 방식을 찾아야 합니다.

딥마인드의 하사비스는 그리스계 아버지와 싱가포르 출신 어머니 사이에서 태어났고 오픈 AI의 전 CTO는 알바니아 출신입니다. 반약 알바니아 출신의 뛰어난 여성 연구자가 한국에 왔다고 생각해봅시다. 과연 미라 무라티만큼 성장하고 성공할 수 있었을까요? 저는 우리가 그런 질문을 진지하게 던져봐야 한다고 생각합니다..단지 제도나 예산 문제를 넘어서 문화와 인식 차원의 개선도 필요합니다.

궁극적 목표가 5년 후의 AGI기술 확보에 맞춰져 있어야 함, 5년 뒤 우리의 AGI를 보유하고, AGI 산업 생태계를 리딩하려면 지금부터 무엇을 해야하는가를 역산해서 생각해야 한다고 주장하는 것.

중요한 것은 그들이 가진 관심과 수요를 우리가 실제적인 기회로 어떻게 연결할 것인가에 대한 전략과 세부적인 설계입니다. AI에 대한 니즈 자체는 분명히 존재하고 있으며, 우리가 그 니즈를 잘 파악해서 구체적인 프로젝트로 연결해준다면 얼마든지 협력의 장을 만들어 낼 수 있습니다.