얼마 전, 회사에서 트렌드 리포트를 작성하였습니다. 그 주제는 ‘생성형 AI’였습니다. 리포트를 작성하면서 생성형 AI의 가능성, 전망에 대해 많은 초점을 두었습니다. 특히, 인간의 고유의 영역이었던 창의성, 새로움을 만드는 능력은 앞으로의 미래 모습을 쉽게 그리기 어려울 만큼 놀라움을 가져다주었습니다. 하지만 리서치를 할수록 새로운 관점이 보이기 시작했습니다.
*출처: '좋아요'는 어떻게 지구를 파괴하는가, 기욤 피트롱 지음, 갈라파고스 발행
‘좋아요’는 어떻게 지구를 파괴하는가에서는 SNS에서 ‘좋아요’를 누르는 행위로 지나치게 많은 에너지가 소비되고 있다고 역설하고 있습니다. 사용자가 스마트폰에서 ‘좋아요’를 누르면 인터넷 공유기->인도 밑에 구리관-> 데이터 센터->해저 케이블을 거쳐 상대방의 휴대폰에 이르기까지 수천 킬로미터의 데이터 이동이 발생하며 이 과정에서 많은 물과 자제, 에너지가 소비된다고 합니다.
‘좋아요’ 한 번에 수많은 에너지가 소비된다면 AI를 학습시키는데 드는 에너지는 얼마일까? 메사추세츠대의 엠마 스트루벨(Emma Strubell) 교수 연구진이 2019년에 발표한 논문에 따르면, 구글의 AI 모델 버트(BERT)를 학습시키는 동안 약 652㎏ 이산화탄소를 발생시켰다고 합니다. 이는 비행기가 뉴욕에서 샌프란시스코를 왕복으로 오가며 뿜는 이산화탄소량과 맘먹는다고 합니다. 그리고 자동차가 폐차될 때까지 발생시키는 이산화탄소 발생량의 5배나 되는 수준이라고 합니다. 문제는 AI 기술이 발전하면서 사용되는 전력은 늘어날 것이라는 것입니다. 논문이 2019년 작성되었고 현재 2023년 오픈 AI의 GPT-4, 구글의 PaLM 2와 같은 새로운 모델들의 한층 높아진 성능과 요구되는 설비를 감안하면 배출되는 이산화탄소는 훨씬 많을 것으로 예상이 됩니다.
마이크로소프트의 생성형 AI ‘빙’에 생성형 AI가 소비하는 전력량에 대해 물었습니다. 그러자 다음과 같은 대답을 받았습니다.
“생성형 AI를 사용하는 데 엄청난 양의 전력이 필요하다는 것은 잘 알려져 있습니다. 미국 데이터 센터 운영업체인 TRG 데이터 센터가 구글의 월평균 검색 쿼리를 기준으로 가장 인기 있는 7가지 AI 프로그램의 전력 사용량을 분석한 결과, 마이크로소프트 빙 검색의 AI가 가장 많은 7,200MWh의 전력을 소비하는 것으로 나타났습니다. 이런 전력 소비를 감당하려면, 석탄화력발전소 2개가 필요할 정도입니다. 연료에 따라 다르지만, 이 정도 규모의 화력발전소는 연간 1,867만~2,208만 톤의 이산화탄소를 배출합니다.”
*출처: 마이크로소프트 빙
빙의 전력 소비량은 미국 데이터 센터 운영업체 TRG 데이터 센터가 계산하였는데 전력 소비량 계산에 사용한 가정은 다음과 같습니다.
마이크로소프 빙은 오픈 AI GPT-4를 사용한다. LLM은 GPT-3와 동일한 아키텍처이지만, 100조 개의 매개변수를 사용해 GPT-3보다 5.8배 더 많다.
GPT-4의 매개변수가 5.8배 더 많으면 계산하는 데 GPT-3보다 5.8배 더 많은 성능이 소요되므로, GPT-3에 필요한 성능에 5.8을 곱했다. 계산은 5.8×3,640페타플롭/일, 즉 총 2만 1,000페타플롭/일이 된다.
오픈AI가 슈퍼컴퓨터에서 0.014페타플롭/s의 동일한 엔비디아 GPU V100을 사용하는 경우, 학습을 완료하는 데 약 150일이 소요된다.
GPT-4의 훈련 시간은 약 5~6개월이 소요된다.
V100 GPU의 전력 소비는 약 250와트로 가정했다.
1만 대의 V100 GPU를 150일 동안 최대 전력으로 실행하면 7,200MWh의 에너지가 소비된다.
전체 소비량은 알 수 없지만 AI 모델 중 가장 많이 활용되는 마이크로소프트 빙이 7,200MWh를 소비하고 여기에 배출되는 이산화탄소의 양이 1,847만 ~ 2,208만 톤이라고 합니다. 올 초에 일본이 탄소 배출 제로(0)를 위해 2030년까지 연간 600만 ~ 1,200만 톤의 탄소를 저장하겠다는 발표를 한 것을 감안해 보면 엄청난 규모라고 생각됩니다.
*출처: 알쓸별잡 유튜브
얼마 전, TV를 보는데 달에 데이터 센터를 지으면 어떻겠냐는 이야기가 나왔습니다. 데이터 센터를 운영하는데 특히, 냉각 시스템에 많은 에너지가 소모된다고 합니다. 그렇기 때문에 냉각 시스템이 따로 필요 없을 달에 데이터 센터를 짓자는 농담 반, 진담 반의 이야기였지만 그 사안만큼은 중대하였습니다.
글로벌 IT기업들은 탄소 배출을 줄이기 위해 탄소중립을 선언하고 이를 위한 투자에 적극적으로 동참하고 있습니다. 마이크로소프트에서는 10억 달러 규모의 기후 혁신 기금(Climate Innovation Fund)을 조성하고 있으며 2030년까지 탄소 네거티브((Carbon Negative)를 실현하겠다고 선언하였습니다. 탄소 네거티브는 탄소 배출 제로보다 한 단계 더 나아간 개념으로 지금까지 배출한 탄소 제거는 물론이고, 대기 중에 있는 더 많은 탄소까지 모두 제거하겠다는 보다 적극적인 의미의 실천이라고 합니다. 구글 또한, 2030년까지 데이터 센터를 100% 무탄소 에너지로 운영하겠다는 목표를 선언했는데 데이터 센터가 위치한 지역의 전력망에서 탄소 없는 전기를 구매해 운영하는 것이 핵심 전략이라고 합니다. 이 밖에도 많은 국내외 IT 기업들이 탄소 배출을 줄이기 위한 기술적 개발과 투자를 아끼지 않고 있습니다.
AI로 인한 환경 문제에 대해 많은 문제 인식이 생겨나고 있지만 아직 법적 규제가 명확하게 정해진 나라는 없습니다. 얼마 전, 유럽 의회 의원들이 환경 지속 가능성 문제를 해결하기 위해 EU AI 법에 추가사항을 요청한 것이 대표적일 뿐 아직 명문화된 사례는 없습니다. 환경에 관심을 두기에 아직 AI 산업이 아직 성장을 도모하면서 일반 대중들에게 다가가고 있는 시기로 관련 이해관계자들의 관심과 노력이 미약하지 않나 싶습니다. 하지만 이번 UX DISCOVERY를 작성하면서 생성형 AI가 새로운 혁신과 가능성을 가져다주면서도 환경 오염과 같은 부정적 영향을 가져올 수 있음을 잊지 않아야겠다고 생각하였습니다. 그래야 보다 균형 있고 지속 가능한 발전이 이루질 것이기 때문입니다.
이 글은 제가 회사에서 발간하는 트렌드 리포트 작성에 참여하며 느낀 바를 바탕으로 작성한 글입니다. 생성형 AI와 관련한 다양한 사례와 UX분석에 관한 트렌드 리포트를 받고자 하시는 분들은 아래 링크를 통해 받으실 수 있습니다.
리포트 구독 신청: https://www.rightbrain.co.kr/RB/subscribe/
참고자료
'좋아요'는 어떻게 지구를 파괴하는가, 기욤 피트롱 지음, 갈라파고스 발행
Strubell, E., Ganesh, A., & McCallum, A. (2019). Energy and policy considerations for deep learning in NLP
"AI가 화력발전소 3개 전력 소비" 고성능일수록 전력 소비도 급증
https://www.itworld.co.kr/news/302269
일본, CCS 기술 지원해 2030년까지 1200만톤 탄소 포집한다
https://www.impacton.net/news/articleView.html?idxno=5799
환경오염 해결사? 주범?…AI의 두 얼굴
https://www.nongmin.com/article/20230430500037
마이크로소프트 탄소 네거티브 선언 2주년… 지속가능성 보고서 발표
https://news.microsoft.com/ko-kr/2022/03/28/sustainability-report-2022/
구글은 어떻게 데이터센터를 100% 무탄소화 시키는가?
https://www.impacton.net/news/articleView.html?idxno=3839
알쓸별잡, 2화, 230810, tVN
기업이나 법률 및 규정이 AI 시스템의 환경 지속 가능성을 우선시합니까? - 경제 개발 협력 기구(OECD). .AI
https://oecd.ai/en/wonk/businesses-regulations-environmental-sustainability