최근 오픈AI에서 인공지능(AI) 안전과 관련된 내부 폭로가 연이어 터져 나와 큰 논란이 되고 있다. 지난 5월 공개된 'GPT-4o'가 내부 안전 프로세스를 무시한 채 서둘러 출시됐다는 주장이 제기된 가운데, 내부 고발을 금지하는 계약을 파기해달라는 요청까지 정부 당국에 접수됐다.
속도에 밀린 안전, 흔들리는 신뢰
워싱턴포스트(WP)는 12일(현지 시간) 익명을 요구한 관계자 3명을 인용해, 오픈AI가 GPT-4o의 출시 일정을 맞추기 위해 내부 안전 테스트 절차를 서둘러 마무리했다고 보도했다. 이에 따르면 오픈AI는 직원들의 반발에도 불구하고 안전 테스트 기간을 단 1주일로 압축했으며, 테스트 중 문제가 생기면 이미 안전하다고 판단된 이전 버전을 출시하는 대체안을 준비했다. 심지어 테스트가 끝나기도 전에 GPT-4o 출시를 자축하는 파티까지 계획한 것으로 알려졌다.
한 오픈AI 관계자는 "테스트를 완료하기에 1주일은 충분하지만, 압박이 있었던 것은 사실"이라며 "이는 가장 좋은 방법이 아닌 것은 맞다"라고 인정했다. 오픈AI는 "회사는 안전 프로세스에서 지름길을 택하지 않았지만, 팀이 스트레스를 받았다는 것을 알고 있다"는 공식 입장을 내놓았다. 또한 "광범위한 내부 및 외부 테스트를 실시했으며, 처음에는 안전 작업을 계속하기 위해 일부 멀티미디어 기능을 보류했다"고 덧붙였다.
반복되는 약속, 실망하는 직원들
오픈AI는 AI 안전에 대해 수차례 약속과 정책을 내놓았다. 지난해 7월 주요 기업 6곳과 자발적인 'AI 안전 서약'을 발표한 데 이어, 올해 2월에는 백악관의 주도로 200개 기업이 참여한 'AI 안전 컨소시엄'에도 가입했다. 또한 지난 5월에는 내부 인원과 이사진 등으로 구성된 '안전 위원회'를 발족해 90일 간의 테스트를 거친 뒤 이사회 승인을 얻어 신제품을 발표할 것이라고 선언했다.
그러나 이러한 거듭된 약속에도 불구하고 실제로는 안전이 뒷전이라는 지적이 이어지고 있다. 얼마 전에는 안전 관련 인원들이 회사에 실망했다며 잇달아 퇴사했다. 6월에는 전현직 직원 9명이 공개서한을 통해 "AI 위험 경고를 막지 말라"고 촉구했다.
비밀 유지 계약과 내부 고발자의 보호
WP는 13일, 오픈AI의 일부 직원이 미국 증권위원회(SEC)에 보낸 문서를 입수해 회사가 직원들에게 내부 비밀을 유출할 경우 불이익을 주는 계약을 맺었다고 전했다. 이달 초 SEC에 보낸 문서에는 오픈AI가 직원들에게 비밀 유지 계약을 강요했으며, 이는 미국 정부의 내부 고발자 보호 방침을 위반하는 것이라며 조사를 요청하는 내용이 담겨 있었다.
이 문제는 지난 5월 내부 안전팀 해체 당시 처음 지적됐다. 당시 샘 알트먼 CEO는 이를 수정하겠다고 밝혔다. 오픈AI는 "이미 비방 금지 조항을 제거하기 위해 퇴사 절차에 중요한 변경을 가했다"고 전했다.
규제의 필요성과 법적 공백
이번 사태는 이타적 사명을 가진 비영리 단체인 오픈AI가 안전보다 이익을 우선시한다는 비판을 받고 있는 가운데 발생했다. 기술 기업의 엄격한 기밀 유지 계약은 오랫동안 근로자와 규제 기관을 괴롭혀 온 문제다.
이러한 문제는 강력한 AI 규제법을 추진 중인 일부 의원들에게 힘을 실어줄 것으로 보인다. 미국에서 AI 회사는 대체로 법적 공백 속에서 운영되고 있으며, 정책 입안자들은 빠르게 움직이는 기술로 인한 잠재적 위협을 설명할 수 있는 고발자의 도움 없이는 효과적으로 새로운 AI 정책을 만들 수 없다고 지적하고 있다.
한편, SEC가 정식 조사에 착수했는지는 알려지지 않았다. 그러나 이 문서를 의회에 공유하는 과정에서 "이런 불법 계약을 해결하기 위해 신속하고 공격적인 조치를 취해야 한다"고 강조한 것으로 전해졌다.
-오픈AI가 내부 안전 프로세스를 무시한 채 서둘러 제품을 출시한 이유는 무엇인가
오픈AI가 내부 안전 프로세스를 무시하고 서둘러 제품을 출시한 이유는 주로 시장 압력과 경쟁 때문이다. 인공지능 기술 분야는 매우 빠르게 발전하고 있으며, 경쟁이 치열하다. 신제품을 빨리 출시함으로써 시장 점유율을 확보하고, 경쟁사보다 앞서 나가기 위해 이러한 결정을 내릴 수 있다. 또한, 투자자와 주주들의 기대에 부응하기 위해 빠른 출시가 필요했을 수도 있다.
- 내부 고발자 보호 방침을 위반한 오픈AI의 비밀 유지 계약은 어떻게 해결될 수 있는가
내부 고발자 보호 방침을 위반한 비밀 유지 계약 문제를 해결하기 위해서는 다음과 같은 조치가 필요합니다:
• 법적 조치: 미국 증권위원회(SEC)나 관련 정부 기관의 조사를 통해 법적 책임을 묻고, 해당 계약의 효력을 무효화할 수 있습니다.
• 내부 정책 변경: 오픈AI는 내부 정책을 수정하여 비밀 유지 계약을 재검토하고, 내부 고발자를 보호하는 조항을 명확히 포함시켜야 합니다.
• 직원 교육: 직원들에게 내부 고발자 보호에 대한 교육을 실시하고, 회사 내에서 안전하게 고발할 수 있는 절차와 시스템을 마련해야 합니다.
-AI 안전 문제에 대한 반복된 약속과 실망이 이어지는 이유는 무엇이며, 이를 해결하기 위해 어떤 조치가 필요한가
AI 안전 문제에 대한 반복된 약속과 실망이 이어지는 이유는 다음과 같습니다:
• 상업적 압력
기업들은 상업적 성공을 위해 빠른 개발과 출시를 추구하면서 안전 문제
를 소홀히 할 수 있습니다.
• 자원 부족
충분한 시간과 자원을 들여 안전 검증을 하기 어려운 상황이 있을 수
있습니다.
• 불충분한 규제
현재 AI 안전에 대한 규제가 부족하여, 기업들이 자발적으로 안전 조치를
취하는 데 한계가 있습니다.
결론적으로 이를 해결하기 위해서는 다음과 같은 조치가 필요합니다
• 강화된 규제: 정부와 규제 기관이 AI 안전에 대한 강력한 법적 규제를 마련하여 기업들이 이를 준수하도록 해야 합니다.
• 투명성 제고: 기업들은 안전 테스트 절차와 결과를 투명하게 공개하여 외부의 검증을 받도록 해야 합니다.
• 독립적 감독: 독립적인 안전 위원회나 기관이 AI 제품의 안전성을 평가하고, 이에 대한 인증을 부여하는 시스템을 도입해야 합니다.
