25년 1월 31일 흠터레스팅 테크 뉴스
마이크로소프트, 딥시크 조사 착수 외 5건
[오늘의 인용글 - 제품을 보여줄 땐 투머치 토커가 되지 말 것]
기억하세요. 여러분은 몇 주 혹은 몇 달 동안 제품을 들여다봐서 익숙하겠지만, 고객은 제품에 대해 완전히 생소한 상태일 겁니다. 고객에게 제품을 보여줄 때, 고객에게 질문을 던지고 이것저것 알려주고 싶은 충동이 들 수도 있습니다.
제발 그 충동을 참으세요! 참여자가 스스로 상황을 파악하고 제품을 살펴볼 시간을 줘야 합니다. 제품에 좀 더 익숙해진 후에 대화를 나누는 것이 더 효과적이며, 처음부터 질문 공세를 하지 않으면 더 깊이 있는 피드백을 얻을 수 있습니다.
- 로라 클레인, 린 스타트업을 위한 UX
Remember, while you may have been staring at this design for weeks or months, this may be the first time your participant has even heard of your product. When you first share a screen or present a task, you may want to immediately start quizzing the participant about it.
Resist that impulse for a few minutes! Give people a chance to get their bearings and start to notice things on their own. There will be plenty of time to have a conversation with the person after he’s become a little more comfortable with the product, and you’ll get more in-depth comments if you don’t put him on the spot immediately.
- Laura Klein, UX for Lean Startups
(1) 핀테크 스타트업 '쿠션', 2천만 달러 누적 투자 받았음에도 8년 만에 폐업
- Cushion, 2024년 말 폐업 결정: CEO 폴 케세르와니(Paul Kesserwani), 1월 30일 LinkedIn을 통해 공식 발표 -> "여러 핀테크 제품을 출시했지만, 비즈니스를 지속할 만큼의 규모를 확보하지 못했다"고 설명
- 2016년 샌프란시스코에서 설립, "BNPL(선구매 후결제) 분야의 Plaid"를 목표, 사용자의 거래 내역을 분석하고, 은행 수수료 환불을 자동 협상하는 앱 제공 -> 가입자 100만 명 이상, 유료 사용자 20만 명 이상 확보, 10개월 만에 ARR(연간 반복 수익) 300만 달러 도달
- 총 2,160만 달러 투자 유치, 2022년 시리즈 A 투자 유치(1,200만 달러) 당시 기업가치 8,240만 달러(PitchBook 데이터)
- Cushion의 창업 배경: 케세르와니는 트위터 퇴사 후 부모님의 은행 계좌를 관리하면서 불필요한 은행 수수료 문제를 직접 경험 -> 개인적으로 400달러 이상의 불필요한 은행 수수료 납부 경험에서 아이디어를 얻어 창업
- 폐업 이유 및 스타트업 환경: 비즈니스 확장에 실패하며 자체 지속 가능성 확보 어려움, 2025년에도 스타트업 폐업 증가 예상, 최근 핀테크 기업 Bench도 갑작스럽게 폐업 후 인수됨
- Cushion은 유망한 모델과 성과를 냈음에도 규모를 확장하지 못해 폐업 -> 이는 특정 핀테크 분야에서 수익성 및 장기적 지속 가능성이 어렵다는 점을 보여줌
- BNPL 시장이 성숙하면서 경쟁 심화, 규제 강화로 인해 중소 핀테크 기업들의 생존이 더욱 어려워질 가능성 -> 기존 금융사 및 빅테크(예: 애플, 아마존 등)의 BNPL 시장 진출도 부담으로 작용
- Cushion이 2천만 달러 이상 투자받고도 실패한 사례는 VC가 핀테크 스타트업에 대한 투자 기준을 더 엄격하게 조정할 가능성을 시사, 앞으로는 수익성 검증이 명확한 핀테크 스타트업 위주로 투자가 집중될 것
- Cushion이 제공한 수수료 협상 자동화 기능은 사용자 친화적이었으나, 장기적으로 차별화되지 못함 -> 향후 AI 기반의 금융 자동화 및 맞춤형 금융 서비스 분야에서 혁신적인 접근이 필요할 것으로 보임
(2) 구글, 사용자가 요청하면 AI가 대신 업체에 전화를 걸어 정보를 요약해주는 기능 테스트 중
- ‘Ask for Me’ 기능: 구글이 AI를 활용해 사용자를 대신해 지역 비즈니스에 전화를 걸어 가격 및 서비스 정보를 수집하는 기능 테스트 -> 현재 구글 검색 실험 프로그램(Search Labs)에 등록된 사용자만 이용 가능
- 구글에서 "오일 교환(oil change)" 또는 "근처 네일 살롱(nail salons nearby)" 등을 검색 -> "Ask for Me" 옵션과 "Get started" 버튼이 나타남 -> 원하는 서비스(예: 타이어 교체, 네일 아트 등) 및 일정 입력 -> 구글 AI가 직접 업체에 전화를 걸어 정보를 수집하고 사용자에게 요약된 가격 및 가능 여부 제공
- 구글은 AI를 활용해 사용자의 시간을 절약하는 기능을 지속 개발 중
- 2024년에는 "Talk to a Live Rep" 기능을 출시해 -> AI가 고객센터에 대신 전화 걸고 대기, 상담원이 연결되면 사용자에게 알림을 보내는 방식 제공 -> ‘Ask for Me’는 한 단계 더 나아가 직접 업체와 대화하고 정보를 전달하는 역할 수행
- AI 음성 비서 및 자동화 기술 발전: AI가 단순한 음성 비서 역할에서 벗어나 실제 사용자 대신 전화로 정보 수집하는 수준까지 발전 -> 고객 문의 자동화 기술이 소규모 비즈니스에도 확산될 가능성
- 소규모 사업자들의 대응 필요: 기존 고객 응대 방식이 AI와의 대화로 변화할 가능성, 업체들이 AI 기반 응대 시스템 도입을 고려해야 할 수도 있음
- ‘Ask for Me’는 검색 결과에 AI 음성 기능을 결합해 사용자 편의성을 극대화하는 전략 -> 향후 구글의 AI 기반 검색 서비스가 기존 검색 시장을 재편할 가능성 있음
(3) 오픈에이아이, 미국 국립 연구소에 핵 관련 연구 AI 지원으로 핵무기 연구 지원 본격화
- AI 적용 분야: 핵 방어 및 핵무기 보안 연, 핵전쟁 위험 감소 및 핵물질 보호 관련 연구 지원, 연구원들에게 보안 인가(Security Clearance) 제공, 기밀 연구 지원 가능
- OpenAI의 공식 입장: AI가 과학 발전, 국가 안보 강화, 미국 정부 프로젝트 지원에 기여할 것이라고 발표, 블로그를 통해 "AI가 새로운 시대를 열 것"이라고 강조
- AI의 군사 및 국방 연구 활용 확대: OpenAI는 기존에 군사적 용도로 AI를 제공하지 않겠다는 입장이었음 -> 그러나 이번 협력으로 핵무기 연구 및 국가 안보 분야에 AI 적용이 본격화됨, 향후 AI의 국방 및 안보 활용에 대한 논란이 커질 가능성
- 비판적인 시각: AI가 핵무기 관련 연구에 활용되면서 군사적 긴장감이 높아질 우려, "AI의 평화적 사용" 원칙과 충돌 가능성
- 긍정적 시각: AI가 핵전쟁 위험을 줄이는 방향으로 활용될 수 있음, 핵무기 보안 강화를 통해 국제 안보를 개선하는 데 기여할 가능성
- 미국이 AI를 핵 연구 및 국방 분야에 적극 활용한다는 점이 공개됨 -> 중국 및 러시아가 유사한 AI 기술을 군사적으로 개발할 가능성이 높아짐, AI를 활용한 군사 기술 경쟁이 가속화될 가능성
- 마이크로소프트가 OpenAI의 AI 모델을 미국 정부 연구소에 배포하는 주요 파트너 역할 수행, 향후 미국 정부 및 국방 분야에서 AI 활용이 증가할 가능성
(4) 미국 저작권청, AI를 활용한 창작물의 저작권 보호 가능성 열어
- 미국 저작권청(USCO), AI 생성 콘텐츠의 저작권 인정 가능성 발표: AI가 생성한 창작물이라도 인간이 수정하거나 추가 작업을 하면 저작권 보호 가능 -> 하지만 AI가 단독으로 만든 창작물(수정 없음)은 저작권 보호 대상이 아님
- 영화 제작사가 AI를 이용해 배우를 '디에이징(de-aging, 젊게 보이게 하는 기술)' 하거나, 장면에서 특정 객체를 제거하는 경우 저작권 보호 가능
- 단순한 프롬프트 입력(예: "봄날의 꽃 스케치")만으로 생성된 작품은 저작권을 인정받기 어려움
- 향후 추가 논의 예정: AI 시스템이 독립적으로 창의적 표현을 결정할 경우에도 저작권을 인정할지에 대한 논의는 아직 진행 중, 추가 보고서(follow-up report)를 통해 이를 다룰 예정
(5) 딥시크, 사용자 채팅 기록 및 민감 데이터 노출 사고
- DeepSeek의 백엔드 데이터베이스가 인터넷에 무방비로 노출: 해당 데이터베이스에는 사용자 채팅 기록 및 API 키 등 민감한 정보 포함, 비밀번호 보호 없이 누구나 인터넷에서 100만 개 이상의 암호화되지 않은 로그 접근 가능
- 보안 연구 기업 Wiz, 취약점 발견 및 DeepSeek에 보고: 클라우드 보안 기업 Wiz가 해당 취약점을 발견하고 DeepSeek 측에 알림 -> DeepSeek은 이후 즉시 데이터베이스를 오프라인으로 전환해 보안 조치 진행
- 노출된 데이터 내용 및 위험성: 채팅 기록은 중국어로 작성되었으나, 쉽게 번역 가능, 누군가가 Wiz 연구팀 이전에 이 데이터를 발견했는지는 확인되지 않음, 데이터가 얼마 동안 노출되었는지도 불분명
- DeepSeek의 공식 입장 부재: 현재까지 DeepSeek은 이에 대한 공식적인 답변을 내놓지 않음
- AI 챗봇 서비스의 개인정보 보호 문제 재부각: AI 서비스가 성장하면서 사용자 데이터 보안 문제가 점점 더 중요해지는 상황 -> DeepSeek은 최근 인기를 얻고 있지만, 보안 사고가 브랜드 신뢰도에 타격을 줄 가능성
- 데이터 유출 사고의 주 원인: 인간 실수(Misconfiguration) -> 보안 연구자들은 이번 사건이 악의적인 해킹이 아닌, 단순한 설정 오류로 인해 발생했을 가능성이 높다고 분석, 그러나 이런 실수라도 사용자 개인정보 보호 측면에서 중대한 보안 위협이 될 수 있음
- DeepSeek에 대한 국제적 규제 압박 가능성 증가: 미국을 포함한 여러 국가에서 DeepSeek의 데이터 보안 취약점에 대한 조사 가능성 -> 특히 미국 정부가 DeepSeek을 국가 안보 위협으로 보고 있는 상황에서, 이번 사고가 추가적인 규제 조치로 이어질 가능성 있음
- AI 및 챗봇 서비스의 보안 강화 필요성: AI 챗봇을 운영하는 기업들이 데이터 보호 조치를 더욱 강화해야 한다는 경각심 증가 -> 암호화, 접근 제한, 보안 감사를 보다 철저히 해야 하는 필요성 강조
(6) 마이크로소프트, 딥시크가 오픈에이아이를 악용했다며 조사 착수
- 마이크로소프트(Microsoft), DeepSeek의 OpenAI API 사용 관련 조사 진행: 블룸버그 법률 보도에 따르면, DeepSeek이 OpenAI의 API를 활용해 자사 AI 모델(R1 Reasoning Model)을 훈련했을 가능성 제기
- 마이크로소프트 보안 연구원들이 DeepSeek이 2024년 가을, OpenAI API를 대규모로 활용해 데이터를 유출(exfiltrate)했을 수 있다고 분석 -> 마이크로소프트는 OpenAI의 최대 주주로, OpenAI에 해당 의심 활동을 경고
- OpenAI는 사용자들에게 다음과 같은 규제를 명시: API 출력물(Output)을 새로운 AI 모델 훈련에 사용 금지, 자동화된 방식으로 데이터 수집(스크래핑) 및 프로그램적 추출 금지 -> DeepSeek이 AI 모델 개발에 필요한 데이터를 API로 추출하는 방식(디스틸레이션, Distillation)을 사용했을 가능성
- 디스틸레이션: 기존 모델(교사 모델)로부터 지식을 추출해 새로운 모델(학생 모델)을 훈련하는 기술
- DeepSeek이 OpenAI의 API 호출 속도 제한(rate limit)을 우회해 대량의 데이터를 수집했을 가능성 제기 -> 이는 OpenAI의 API 사용 규칙을 위반하는 행위로, 법적 분쟁 가능성 증가
- AI API 사용 규제 강화 가능성: OpenAI와 같은 AI 기업들이 API 이용 약관을 더욱 엄격하게 강화하거나 사용 추적 기술 고도화할 가능성 -> AI 모델 훈련 과정에서 데이터 출처 및 사용 방식의 투명성 요구 증가
- https://techcrunch.com/2025/01/29/microsoft-probing-whether-deepseek-improperly-used-openais-api/
