인공지능과 사이버보안
Blue Tech+ Letter #45
Editor’s Note
이 레터는 기술과 시장의 중간쯤에서 이해를 돕기 위해서 매월 2,4주 화요일을 기준으로 발행합니다.
공개된 자료 중에서 주로 IT 기술, 트렌드, 혁신과 관련된 아티클을 중심으로 내용을 구성하고, 공유가 가능한 세미나, 컨퍼런스 등을 가볍게 스케치합니다.
이번에는 인공지능과 보안에 대한 아티클들을 준비했습니다. 내용이 쉽지는 않네요..
인공지능이 다양한 분야에서 활용되고 있는데, 사이버보안에서도 활발하게 적용되고 있습니다.
Article List
AI로 증강된 사이버 보안, Deloitte Review
부족한 사이버 보안 인력을 인지 기술이 어떻게 해결해줄 수 있는지 관점으로 작성된 5page의 pdf 리포트 입니다.
인재 공급이 부족한 상황에서 단순하고 재미없는 작업들을 인공지능에게 시키고, 인간의 독창성과 전문성을 발휘할 수 있는 분야에 집중하자는 내용입니다.
인공지능: 사이버보안 패러다임의 전환, AI Trend Watch - 정보통신정책연구원, 2021.02.15.
세계 각국은 사이버 보안 국가 전략을 수립하고 사이버 공격에 대응하려는 노력을 하고 있습니다.
점점 고도화되는 공격에 대응하기 위한 방법으로 인공지능 기술을 접목하는 사례가 등장하고 있는데
사이버 보안 정책부터 인공지능 보안 시장에 대한 내용까지 12page의 pdf로 정리되어 있습니다.
인공지능기반 보안관제 구축 및 대응 방안, 한국콘텐츠학회논문지, 2021. Vol.21, No.1
http://koreascience.or.kr/article/JAKO202103562805191.pdf
인공지능을 활용한 보안관제에 대한 논문으로 협업에서 최근에 활용되는 용어와 내용을 정리하는데 도움이 될 것 같네요.
대규모의 해킹 공격의 이상 징후를 감시하고 차단하는데 필요한 보안 관제 시스템에 인공지능을 활용하는 내용에 대해서 서술하고 있습니다.
데이터 수집, 분석, 대응, 관리의 단계별로 수행하는데 필요한 정형화, 자동화, 머신러닝, 분석 등의 단계를 정리하고 있습니다.
인공지능 기반의 정보보호 기술 동향, 해리국제협력연구소(HIIC), 2020.12.31.
https://www.hiic.re.kr/vol-12-인공지능ai기반의-정보보호-기술-동향/
논문 형식으로 구성된 인공지능 기반의 공격기술과 설명기술 동향을 기술적으로 정리한 리포트입니다.
공격기술 동향으로는 회피 공격, 중독 공격, 탐색적 공격을 언급했고, 설명기술 동향으로는 모델의 복잡성, 국소적인 해석, 이미지 방식 등을 소개하고 있습니다.
2020년 12월에 KISA Report에도 실렸습니다.
초대형 AI 언어모델 이해 위해 뭉친 세계 과학자, MIT Technology Review Korea, 2021.06.01.
https://www.technologyreview.kr/ai-large-language-models-bigscience-project/
인공지능 시스템에서 사용하는 대형 언어 모델(Large Language Model, LLM)은 구글의 람다(LaMDA), 마이크로소프트가 독점 라이선스를 산 GPT-3, 페이스북의 자체 개발 시스템 등 활발하게 활용되고 있습니다.
하지만 LLM이 학습하는 과정에서 차별적인 사고방식을 가질 수 있다는 개념을 확률론적 앵무새(stochastic parrots)’로 이야기한 논문이 나왔습니다.
학습과정과 실생활에 LLM이 사용될 때 나타나는 문제점을 해결하기 위한 시도로 <빅사이언스 프로젝트>가 등장했는데 다양한 배경을 가진 연구자들이 참여합니다.
감사합니다.
