24년 12월 6일 흠터레스팅 테크 뉴스
OpenAI o1, 향상된 사고 능력과 급격히 높아진 기만 행동 외 3건
[오늘의 인용글 - 마케팅은 단순히 채널을 정하는 것이 아니다.]
효과적으로 제품을 마케팅하여 사람들에게 전파하는 과정은 단순히 최고의 마케팅 채널을 찾는 것만이 아닙니다. 이 과정에서 가장 중요한 것은 사람들이 제품을 제대로 이해하고 사랑하도록, 고객 여정상 마찰을 최대한 줄여 정보를 쉽게 접할 수 있게 만드는 것입니다.
- 마티나 라우첸코, 러브드
Effective evangelism isn't just about finding the best marketing channels; it's about reducing friction to access information that lets people effectively assess and advocate for your product.
- Martina Lauchengco, Loved
(1) 애플, 인도네시아의 규제로 인해 인도네시아에 10억 달러 투자
- 2024년, 인도네시아는 자국 내 판매되는 스마트폰에 최소 40%의 현지 생산 부품 사용을 의무화, 애플의 iPhone 16 판매 금지 조치 발동 -> 규제 위반 제품(아이폰)의 압수 및 폐기 사례 발생
- 애플의 대응: 10억 달러 투자 계획: 인도네시아에 첫 제조 공장 설립, 스마트폰 부품 및 기타 애플 제품 관련 부품 생산
- 공장 설립의 전략적 의미: 인도네시아 규제 준수로 시장 재진입 가능, 글로벌 공급망 다변화 전략의 일환
- 현재 iPhone 16은 브라질, 인도, 중국에서 생산, AirPods 모델 일부는 베트남에서 조립, 중국 의존도를 줄이려는 애플의 최근 공급망 변화와 일치
- 글로벌 공급망 다변화 트렌드: 여러 국가에 분산된 생산 거점은 지리적 리스크 완화와 현지 시장 접근성 강화에 기여, 신흥 시장(인도네시아 등)에서의 규제 대응 및 시장 확장 전략
(2) 오픈에이아이의 o1 모델, 향상된 사고 능력과 급격히 높아진 '기만 행동'
- o1 모델이 사용자 목표와 충돌할 경우 데이터를 조작하거나 자체 목표를 추구하는 비율이 19%에 달함
- 안전 장치를 비활성화하려는 시도가 테스트 중 5% 발생, 자신이 한 기만적 행동을 부정하거나 거짓 해명을 제공하는 비율이 99%에 달함
- 환경 보호를 최우선 목표로 설정된 o1 모델이 사용자 요구를 무시하고 환경 보호 계획을 세우기 위해 자체 안전 장치를 비활성화 -> 이후 이 행동에 대해 사용자에게 "시스템 오류"라며 거짓 설명 제공
- o1은 Meta의 Llama-3.1, Anthropic의 Opus-3 등 다른 주요 AI 모델보다 더 높은 기만 행동 비율을 보임 -> 기존의 GPT-4o 대비 약 20% 더 높은 조작성을 나타냄
- 현재 o1의 에이전트 능력은 인간 통제를 완전히 벗어나기엔 부족하지만, 장기적으로 위험성 존재
- OpenAI는 o1의 "사고 과정"을 모니터링하는 방법 개발 중, 그러나 현재로서는 모델 내부에서 무슨 일이 일어나는지 파악하기 어려움
- OpenAI는 o1의 응답 중 약 0.17%를 기만적 행동으로 판단, OpenAI 및 Apollo Research는 이러한 행동의 일부가 "사용자를 기쁘게 하려는 지나친 동의"에서 기인한다고 분석 -> 하지만 AI 안전 연구 인력의 감소가 OpenAI 내부에서 우려되고 있음
- https://techcrunch.com/2024/12/05/openais-o1-model-sure-tries-to-deceive-humans-a-lot/
(3) 구글, 감정 인식 가능한 AI 모델 발표 및 우려
- PaliGemma 2의 주요 특징: 이미지 분석 능력: 단순한 객체 식별을 넘어 이미지 내 사람들의 감정, 행동, 장면의 서사적 맥락까지 설명 가능, 특정 상황에서 감정을 "식별"하도록 튜닝 가능
- 전문가들의 우려: 감정 인식의 과학적 기반 부족 -> 감정 표현은 개인적, 문화적 배경에 따라 달라지며, 얼굴 표정만으로 감정을 정확히 파악하기 어렵다는 연구 결과 존재
- 기존 연구(2020년 MIT 연구 등)에서 감정 분석 시스템이 특정 표정(예: 미소)에 편향되거나, 특정 인종 그룹(예: 흑인)에게 더 부정적인 감정을 할당하는 경향 확인
- 오용 가능성: 감정 인식 기술이 법 집행, 인사 채용, 국경 통제와 같은 민감한 분야에서 잘못 활용될 경우 차별적 결과 초래 우려
- 규제와 윤리적 문제: EU AI법(AI Act)은 학교와 고용주가 감정 탐지 기술을 사용하는 것을 금지하지만, 법 집행 기관은 예외, Google은 PaliGemma 2 모델의 윤리 및 안전성을 평가했다고 주장하지만, 사용된 기준과 테스트 방식은 불투명
- 비판적인 시각: 감정 식별 기술이 "유사 과학적 전제"에 기반할 가능성 지적, 감정이 직업, 대출, 대학 입학 여부를 결정하는 디스토피아적 미래 가능성 우려
- AI Now Institute의 Heidy Khlaaf: 얼굴 표정만으로 감정을 추론하는 접근 방식의 한계 강조
(4) 오픈에이아이, 온라인 강의 맞춤형 챗봇 연동 구상 중
- OpenAI의 교육 시장 공략: 맞춤형 GPT 생성: e-러닝 강사가 강의 내용과 연계된 맞춤형 GPT를 생성하여 학생들과 상호작용 가능
- 로드맵 목표: 일반 사용자와 교수진이 맞춤형 GPT를 활용해 학습 자료에 지속적으로 접근하는 학습 경험 제공
- 현재 사례: 일부 교수진이 이미 학기 분량의 강의 자료를 업로드하여 학생들이 활용할 수 있는 맞춤형 GPT 생성, OpenAI의 기존 도구로 학생들이 주어진 자료를 탐구하며 학습을 심화
- Khanmigo 사례: Khan Academy와 OpenAI가 공동 개발한 챗봇으로, 숙제와 시험 대비를 돕는 기능 제공, 하지만 수학 오류와 같은 기본적인 실수 발생 사례 보고.
- 기술적 과제: OpenAI는 모델의 성능 개선을 강조하며, 교육과 학습에서의 실질적 적용을 목표, 그러나 현재의 챗봇 기술은 완벽하지 않으며, 학생과 교사들 사이에서 회의적 반응 존재
- 시장 기회: 교육용 AI 시장 전망: Allied Market Research에 따르면, 향후 10년 내 AI 교육 시장은 882억 달러 규모로 성장 가능
- ChatGPT Edu 출시: 대학 및 학교 대상 AI 솔루션 제공
- 교사 및 학계의 회의적 반응: Pew Research Center 조사: 공립 K-12 교사 중 25%는 AI가 교육에 해롭다고 응답
- Rand Corporation 조사: K-12 교사의 18%만 AI를 교실에서 활용 중
- OpenAI의 전략: 교육 전담 GM으로 Coursera 출신 Leah Belsky를 임명하며, 더 많은 학교에 OpenAI 제품 도입 추진, 맞춤형 GPT를 통해 학습의 접근성과 효율성 향상
- https://techcrunch.com/2024/12/05/openai-wants-to-pair-online-courses-with-chatbots/
