AI의 양날의 검: 오토 GPT와 금융보안의 위험성
오토 GPT, 제로 트러스트가 무엇이길래
챗 GPT의 충격이 2년도 채 되지 않아 트위터 상에서 다시 뜨겁게 화제가 된 주제가 있었다. 바로 '오토 GPT'의 등장이다. 오토 GPT는 AI 스타트업 시그니피컨트그래비타스가 2023년 3월에 공개한 생성 AI 서비스이다. 오픈 AI사에서 만든 챗 GPT와 기능은 유사하지만 크게 다른 점은 보조 단계의 업무들을 자동으로 수행한다는 점이다. 사용자가 목적을 설정하면 그 목표에 도달할 때까지 GPT 4를 활용해 질문과 답변을 주고받으면서 스스로 답변을 만들어간다. 이렇게 보조 업무를 자동적으로 수행할 수 있는 이유는 챗GPT와 같은 언어 모델 에이전트가 여러 개 구성되었기 때문이다.
출처 : https://www.techinpost.com/autogpt/오토 GPT가 챗 GPT 대비 놀랍다고 평가하는 점은 '신뢰성'이 있다. 오토 GPT는 여러 에이전트가 작동이 된다. 한 에이전트가 다른 에이전트의 수행 업무를 평가하면서 상호 검증을 하여 높은 신뢰성을 자랑한다. 챗 gpt로는 가끔 엉뚱한 결과가 나오는 내용을 오토 gpt에서는 훨씬 정확하고 객관적인 자료로 도출할 수 있다. 에이전트마다 상호 검증을 할 수 있기 때문이다.
두 번째로 긍정적으로 평가하는 점은 '자율성'이다. 스스로 문제를 찾아 해결한다는 점에서 다른 AI와 다르다. 챗 GPT의 경우 대화를 하며 결과를 도출하는 한편, 오토 GPT는 알아서 질문과 답변을 하며 결과를 도출한다. 문맥을 파악하고 이해하는데 뛰어나 복잡한 문제를 해결하고 추론을 하며 결과를 도출할 수 있다는 특징을 지니고 있다. 최종 목표만 제시하면 각 에이전트끼리 서로 대화를 하거나 여러 자료를 검색하면서 결과를 탄탄히 만들어 사용자에게 최적의 도움을 제시한다. 이런 이유로 오토 GPT를 누군가는 가장 범용 인공지능(AGI)에 근접했다고 평가하는 사람도 있다.
출처 : https://barmenteros.com/automated-forex-trading-future-benefits-risks/한층 더 똑똑해진 AI인 오토 GPT는 투자 포트폴리오를 최적화하거나 트레이딩 봇을 생성하면서 투자 시뮬레이션을 하는 등으로 활용하고 있다. 오토 GPT는 우수한 언어 모델 생성을 자동화하여 시간과 자료를 절약한다. 하지만 너무 똑똑한 나머지 최근 보안 이슈가 심심치 않게 들려오고 있다. 무조건적인 자동화로 AI가 스스로 개인정보를 활용해 문제를 해결하려는 시도를 하는 것이다. 개인 식별 정보, API키 등 유출되서는 안 되는 정보들을 에이전트가 스스로 검색하고 활용하면서 개인정보를 유출하고 악의적으로 응답을 조작할 수 있는 가능성이 나타나고 있다. 오토 GPT는 뉴스 기사, 소셜 미디어 게시물, 고객 리뷰 뿐만 아니라 때론 개인의 민감 정보까지 활용한다. 여러 데이터를 자율적으로 활용하는만큼 보안에 취약하다. 또한 사용자 명령을 통해 API 요청이나 잘못된 코드 실행을 통해 악의적인 작업을 트리거하여 오토 GPT를 조작할 수 있는 가능성이 있다. 오토 GPT로 sns 상에서 검색을 하면 오토 GPT를 활용해 테스트를 하던 중 오토 GPT가 허가도 없이 개인정보를 활용했다는 사례를 심심치 않게 찾아볼 수 있다.
오토 GPT는 데이터 수집 과정에서도 재무, 의료 기록과 같은 민감 정보를 수집할 수 있다. 오용이나 데이터 침해에 특히 취약한 금융 분야인만큼 수집하는 데이터가 특히 중요하다. Auto GPT 역시 훈련받은 데이터를 기반으로 결정을 내려 데이터 자체가 편향되거나 차별적일 경우 의사 결정 과정에서 그대로 편향적인 결과를 나타낼 수 있다.
출처 : https://www.apporto.com/what-is-zero-trust이러한 위험을 극복하기 위해 보안 전문가는 제로 트러스트와 같은 보안 프레임워크를 제안하고 있다. 제로 트러스트는 모든 사용자와 시스템이 항상 검증되어야 한다는 원칙에 기반을 두고 있다. 조직의 네트워크 경계 내부 또는 외부의 사용자와 장치를 자동으로 또는 암묵적으로 신뢰해서는 안된다는 원칙에 기반한 보안 프레임워크이다. 이는 늘 신뢰하지 않고 항상 확인하는 접근 방식으로 오토 GPT와 같은 AI가 악의적으로 사용되는 것을 방지하는 데 도움이 된다. 또한 제로 트러스트는 데이터 전송과 저장에 모두 암호화를 적용하고 수시로 사용자와 장치 활동을 모니터링해 이상 징후를 탐지하게 된다. 오토 gpt를 금융 분야에서 활용할 때 제로 트러스트 프레임워크를 사용한다면 보안 위협을 최소화하면서 고객 데이터를 안전하게 보호할 수 있다.
결국, 오토 GPT와 같은 AI 기술이 금융보안에 미치는 영향은 양날의 검이다. 오토 GPT와 같은 기술은 금융 서비스를 개선하고 혁신을 주도할 수 있지만, 동시에 새로운 위험 요소를 도입할 수도 있다. 따라서 제로 트러스트와 같은 첨단 보안 프레임워크를 통해 이러한 위험을 관리하고 극복하는 것이 중요하다. 인증 보안 기업 중 하나인 센스톤에서는 제로 트러스트 구현을 위해 강력한 사용자 인증이 기반 되기를 강조하기도 했다. 데이터를 기반으로 빠르게 진화하는 시대에 맞춰 보다 안전한 개인정보 처리와 금융 보안을 위한 균형이 특히 중요할 때이다. 모든 AI가 그러하듯 똑똑한 LLM 서비스들은 유창하면서 즉각적인 콘텐츠를 생산하지만 반대로 수집 데이터에 따라 불분명하고 오류가 많은 데이터를 생산하기도 한다. 부적절하거나 해로운 정보를 생성할 때 누가 책임을 져야 하는지에 대해서도 불분명하다. 아직 책임의 딜레마가 존재하기에 auto gpt를 사용할 때 합리적 의심을 함께 하면서 접근할 필요가 있다.
본 기고는 인증 보안 기술 기업 센스톤으로부터 소정의 원고료를 지급 받아 작성하였습니다.
