AI기술과 사람 간의 신뢰형성
인공지능 기술로부터 개인정보 보호, 규제
ChatGPT의 출시 후, 최근에 중국의 스타트업 딥시크(DeepSeek)는 'DeepSeek-R1'모델을 발표하며 큰 화제를 모으고 있는데요. 변화 속에서도 인공지능 기술과 사람 간의 신뢰 형성 문제, 그리고 개인정보 보호에 대한 새로운 고민이 담긴 주제를 HRI International Symposium에서 'The situated nature of trust.'주제로 발표했습니다.
AI 기술의 발전과 함께, 인공지능과 인간이 어떻게 신뢰를 구축할 수 있을지에 대해 살펴보겠습니다.
인공지능 기술과 사람 간의 신뢰 형성
"We may even find out that involving the people and understanding them better this can help to compensate and address some of the limits of the technology."
"사람을 더 잘 이해하고 참여하면 기술의 한계를 보완하고 해결할 수 있다는 것을 발견할 수 있습니다."
"The nature of the AI knowledge is intrinsically probabilistic while human knowledge is causal in nature."
"AI는 확률적이며, 사람은 인과적입니다."
기술이 신뢰를 얻기 위해서는 사람의 가치, 기술에 대한 우려를 반영하고, 기술적 한계를 보완할 수 있도록 사용자 경험을 개선하는 것이 중요합니다. 사람은 복잡하고 모호한 상황에서 직감과 인과적 사고, 과거의 경험을 통해 전체 맥락을 고려한 판단을 내립니다.
딥시크(DeepSeek) 사용 규제, 인공지능 데이터 개인정보 보호
개인정보 보호는 신뢰를 형성하는 데 중요한 요소입니다. 사용자가 기술이 자신의 데이터를 어떻게 처리하는지에 대해 불안감을 느끼면, 장기적으로 신뢰를 잃게 됩니다. 사용자가 자신의 데이터가 안전하게 관리되고 있다고 믿을 수 있도록 기술적 투명성과 신뢰성이 보장되어야 합니다.
최근 중국의 스타트업이 개발한 딥시크 AI 모델이 사용자의 장비 정보, 키보드 입력 패턴, IP 주소 등을 수집한다는 우려가 제기되고 있습니다. 중국 내 보안 서버로 전송될 가능성에 개인정보 보호 문제가 커지고 있습니다. 딥시크의 개인정보 보호 문제로 인해 사용을 금지하거나 규제하는 조치를 취하고 있습니다. 반면에 AI산업 발전을 기대하면서 적극적으로 수용하는 국가로 나뉘고 있습니다.
참고한 컨텐츠
The situated nature of trust. Antonietta Grasso, NAVER LABS Europe
https://www.youtube.com/watch?v=MxBW4FXswUY&list=PLLvvX1KD0HnJn27hSk1lO3KGHz6uZqjlu&index=11
