24년 7월 14일 흠터레스팅 테크 뉴스

OpenAI 직원, AI 안전성 관련 또 다른 내부 고발 외 3건

(1) 오픈에이아이(OpenAI) 직원, 오픈에이아이가 정부 기관과의 소통을 제한하는 불법적인 계약을 직원에게 강요했다고 내부 고발

- 퇴직, 비방 금지, 비공개 계약이 SEC와의 소통을 금지하고, 고발자 인센티브와 보상을 포기하게 하며, 정부 규제 기관과의 소통 시 회사를 통지하도록 요구 ⇒ 이전 NDA가 고용, 퇴직금 및 기타 재정적 대가를 위해 불법적인 계약을 요구했다는 증거 제출

- 미국 의회는 AI의 위협을 모니터링하고 완화하는 것이 의회의 헌법적 책임이며, 고발자가 중요한 역할을 할 것이라고 언급

- 최근에도 불공정한 계약사항으로 논란이 발생하여 샘 알트만이 이에 대해 사과하며 이를 바로잡겠다고 한 적이 있었음

(2) 오픈에이아이 익명의 직원, “회사는 AI를 출시할만큼 충분히 안전한지 확인하지도 않은 채 출시 파티부터 기획하고 있다.”라며 회사의 안전에 대한 경시 우려

- 오픈에이아이는 ‘AI의 안전성’에 대한 논란과 내부 갈등이 격화되었음 → 최근 공동 창립자 일야 수츠케버의 퇴사 후 안전팀 해체, 핵심 연구원 얀 레이케 "AI의 안전성을 심사숙고하는 문화와 과정들이 겉보기에 번지르르한 제품의 외관에 밀려났다"

- GPT-4o 출시 시 안전 검토 기간을 일주일로 축소하여 논란이 있었음 ⇒ "이 방식은 최선이 아니었다"며 재검토 필요성 인정

- 최근 오픈에이아이는미국 국무부 보고서, 로스 알라모스 국립 연구소와의 협력 발표를 하여 논란을 대응하고 있음

- 하지만 여전히 OpenAI의 안전 프로토콜을 더욱 개선해야 할 필요성은 지속적으로 제기되고 있음

(3) AI 에이전트 정의에 대한 다양한 분석과 논란

- AI 에이전트의 기본적인 정의: AI 에이전트는 인간 고객 서비스, 인사 담당자, IT 헬프 데스크 직원이 수행할 수 있는 다양한 작업을 수행하는 AI 기반 소프트웨어

- 하지만 많은 기업/서비스들은 AI 에이전트의 정의와 그 역량의 범위를 축소하거나 특정짓는 등 의미가 희석되는 경우가 많음

- 구글의 정의: 작업 기반 어시스턴트로, 개발자를 위한 코딩 도움, 마케터를 위한 색상 계획, IT 전문가를 위한 로그 데이터 조회 등의 기능

- 아사나(Asana)의 정의: 할당된 작업을 수행하는 추가 직원처럼 행동

- 시에라(Sierra)의 정의: 복잡한 문제 해결을 돕는 고객 경험 도구

- AI 에이전트가 ‘자율적으로 운영되는’ 미래를 향해 나아가고 있으나, 아직 기술적 진보가 필요 ⇒ 여러 시스템을 교차하며 문제를 해결하는 것이 어렵고, 일부 레거시 시스템은 기본적인 API 접근이 부족하여 다양한 작업을 자연스럽게 해결하는 환경 구축이 어려움 + 모델 자체의 성능 수준 미달

(4) 뉴스 미디어 The Atlantic(더 애틀랜틱), 오픈에이아이와 계약한 이유 “AI는 빠르게 발전하고, 우리하게 다가오고 있다. 그 변화가 어떻게 이루어지든, 우리는 그 일부가 되길 원해서다.”

- 최근 OpenAI가 The Atlantic의 방대한 아카이브를 학습 데이터로 사용할 수 있도록 허용하는 계약 체결 ⇒ 2년 동안 OpenAI가 The Atlantic의 데이터를 학습에 사용, OpenAI의 크레딧 제공으로 비즈니스 측면의 도구 개발 지원, OpenAI가 검색 제품을 개발할 때 The Atlantic의 콘텐츠 포함 허용

- The Atlantic은 계약을 통한 직접적인 수익, 트래픽 증대 등의 목적을 갖고 있음

- 하지만  저작권 문제(미디어 콘텐츠의 저작권 문제에 대한 논의)와 AI 기반 검색( AI 검색 제품이 미디어 산업에 미치는 영향과 그 가능성)에 대한 지속적인 탐구와 연구가 필요할 것으로 보임

[뉴스 출처]

- https://techcrunch.com/2024/07/13/whistleblowers-accuse-openai-of-illegally-restrictive-ndas/

- https://www.theverge.com/2024/7/12/24197142/openai-safety-concerns-agi

- https://techcrunch.com/2024/07/13/what-exactly-is-an-ai-agent/

- https://www.theverge.com/2024/7/11/24196396/the-atlantic-openai-licensing-deal-ai-news-journalism-web-future-decoder-podcasts