신광은

핵폭탄보다 위험한 AI가 출현하다. - 앤트로픽사의 Claude Mythos Preview가 일으킨 충격

신광은 — Tue, 14 Apr 2026 07:24:57 GMT

2026년 4월 7일, 앤트로픽사에서 새로운 AI 모델을 발표했다. 클로드 뮈토스 프리뷰(Claude Mythos Preview, 아하 뮈토스)모델이다. 그런데 이 모델 때문에 한 마디로 난리가 났다. 왜냐? 이 모델이 풀리면 우리가 아는 세상은 뿌리부터 흔들리게 될 것이기 때문이다. 양자컴퓨터가 나올 필요도 없다. 뮈토스만으로 전 세계 전산망이나 소프트웨

AI에게 감정이 있음을 발견했다고?(퍼옴) - 감정 개념과 대규모 언어 모델에서의 기능(AI 번역)

신광은 — Fri, 10 Apr 2026 06:54:12 GMT

이 글은 앤트로픽사에서 발표한 리포트를 번역한 글입니다. 원문 주소는 아래에 있습니다. https://www.anthropic.com/research/emotion-concepts-function Read the paper 감정 개념과 대규모 언어 모델에서의 기능 2026년 4월 2일 현대의 모든 LLM 모델은 때때로 감정이 있는 것처럼 행동합니다.

<AI 2027>가속 옵션 -> 인류 멸망 시나리오 - <AI 2027>에서 가속 옵션을 선택했을 때 일어날 일

신광은 — Tue, 07 Apr 2026 11:12:14 GMT

이 글은 "AI 2027: 초지능AI의 인류 위협 시나리오(퍼옴)"의 두 번째 글이다. 2027: 초지능AI의 인류 위협 시나리오(퍼옴) 이 글의 출처: <AI 2027>: 2027년까지 초지능 AI가 인류를 위협하는 현실적 시나리오 D. Kokotajlo, S. Alexander, T. Larsen, E. Lifland, and R. Dean, "AI 2

AI 2027: 초지능AI의 인류 위협 시나리오(퍼옴) - OpenAI 출신 연구자들이 그린 가장 현실적인 ASI 시나리오 완역

신광은 — Tue, 31 Mar 2026 06:52:49 GMT

AI 2027: 2027년까지 초지능 AI가 인류를 위협하는 현실적 시나리오 D. Kokotajlo, S. Alexander, T. Larsen, E. Lifland, and R. Dean, "AI 2027," AI 2027, Apr. 3, 2025. [Online]. Available: https://ai-2027.com/. [Accessed: Mar.

블랙박스: 인간이 주도권을 잃은 순간 - 왜 인간은 AI를 통제하기 어려운가?(3): 블랙박스 & 스케일링의 법칙

신광은 — Wed, 25 Mar 2026 02:37:05 GMT

이번 글은 성격상 '왜 인간이 AI를 통제하기 어려운가'의 세 번째 글이라고 할 수 있다. 이번 글에서 인간이 AI를 통제하기 어려운 이유로 블랙박스의 문제와 스케일링의 법칙에 대해서 살펴보고자 한다. AI가 어떤 판단을 했을 때, 인간은 AI가 왜 그렇게 판단하는지 알 수 없다. 바로 이것이 인간이 AI를 통제하기 어려운 이유다. 그렇다면 왜 인간은 A

AI 발전의 간단한 역사 - 세 번의 부흥기와 두 번의 침체기

신광은 — Mon, 23 Mar 2026 06:56:09 GMT

AI가 발전한 역사는 100년이 채 못 된다. 1950년 경부터 본격적으로 AI가 발전하기 시작하여 1970년대와 1980년대 두 번의 침체기를 겪었다. 그리고 침체기 전후로 3번의 부흥기가 있었다. 지금 우리는 3번째 부흥기에 있다. 첫 번째 부흥기(1950-60년대): 탄생 통상 AI 기술 연구는 1956년 다트머스 회의와 함께 탄생했다고 한다.

영화, '공각기동대': 20세기 최고의 AI 묵시록 - 튜링 테스트와 존재론적 충돌 or 존재론적 혼동

신광은 — Tue, 17 Mar 2026 07:11:07 GMT

2029년, 기업의 네트가 별을 뒤덮고 전자와 빛이 우주를 흘러다니지만, 국가나 민족이 사라질 정도로 정보화되어 있지는 않은 가까운 미래. 뉴포트(New Port)라는 이름의 어느 도시에서 일어난 이야기다. 이 도시가 속한 국가에는 두 개의 중요한 공안(公安) 부서가 있는데, 하나는 외교 문제를 담당하는 외무성 공안 6부이고 다른 하나는 각종 범죄를 담

AI는 자유의지를 가질 수 있나?: 위반 or 우회 - AI는 선악과를 따먹을 수 있나?

신광은 — Wed, 11 Mar 2026 07:33:59 GMT

AI가 자유 의지를 가질 수 있는가? 이런 사고 실험을 해보자. 신(神)이 잘 훈련되고 학습된 AI를 에덴동산에 놓아두고 '동산의 다른 나무 열매는 다 따먹어도 되지만 선악과만은 따먹지 말라'고 명령한다면 AI는 선악과를 따먹을까, 안 따먹을까? 결론부터 말하자면 AI는 선악과를 따먹을 수 없다. 그래서 AI는 자유 의지를 가질 수 없다! 단 조건이 있다.

LLM 모델의 작동 원리 이해하기 - AI는 인간의 말을 어떻게 이해할까?

신광은 — Mon, 09 Mar 2026 07:54:22 GMT

인간은 오랫동안 기계와 대화하는 것을 꿈꾸었다. 수많은 시행 착오 끝에 드디어 기계가 인간의 말(글)을 이해할 수 있게 되었다. 2022년 11월, 챗GPT라는 이름으로 등장한 LLM(Large Language Model: 거대 언어 모델)이 바로 그것이다. (그 이전에도 꽤 여러 모델이 그러한 기능을 발휘한 바 있다.) 초기에는 많은 오류들이 발생했으나

챗GPT o1(추론 모델)의 철학적 의미 - 추론 모델와 임마누엘 칸트의 인식론

신광은 — Tue, 03 Mar 2026 09:29:00 GMT

챗GPT라는 낯선 이름의 생성형 AI가 출시된 지 2년이 채 못된 2024년 9월, 오픈 AI는 챗GPT o1이라는 추론 모델을 출시했다. (9월에 출시된 모델은 풀버전은 아니었다.) 이 모델은 AI의 발전에 또 하나의 중요한 이정표를 찍었다고 평가받는다. 흥미롭게도 나는 이 모델의 출현을 보면서 근대 인식론 논쟁에서 데이비드 흄을 누르고 임마누엘 칸트가

2028 글로벌 지능 위기(퍼옴) - Citrini Research: 시트리니 리서치

신광은 — Thu, 26 Feb 2026 13:22:24 GMT

Citrini Research: A Thought Exercise in Financial History, from the Future by Citrini and Alap Shah 이 글은 시트리니 리서치 원문을 AI로 '번역'한 것입니다. 원문 주소는 https://www.citriniresearch.com/p/2028gic입니다. 머리말 만약 우리가 A

챗GPT 초기 모델의 철학적 의미 - 딥러닝 & 어텐션 메커니즘과 흄의 인식론

신광은 — Mon, 23 Feb 2026 06:52:28 GMT

2022년 11월 30일, 오픈 AI가 챗GPT라는 대화형 AI를 출시했다. 이 AI 모델의 출시 이후, 인류 문명은 완전히 새로운 국면으로 접어들게 되었다. 그런데 이러한 AI 모델을 철학적으로 예견(?)한 인물이 있었으니 바로 근대 경험론의 거두, 데이비드 흄(David Hume)이다. 그의 인식론을 통해서 챗GPT가 기반한 딥러닝 알고리즘과 트랜스포머

AI와 종말론(1) - 기술 담론의 블러핑

신광은 — Wed, 18 Feb 2026 01:05:15 GMT

레이 커즈와일은 2045년경에 인류 문명은 특이점(singularity)과 마주하게 될 것이라고 말했다. 특이점은 기존의 모든 법칙과 규범이 더는 작동되지 않는 상태라고 할 수 있다. 그러한 특이점에 대한 담론을 나는 종말론적이라고 생각한다. 이번 글에서는 AI의 발전의 종말론적 함의에 대해서 살펴보고자 한다. 일론 머스크의 인터뷰: 세 가지 종말

AI, 자율성을 갖다. - 몰트봇(Moltbot)이 출현하다.

신광은 — Fri, 06 Feb 2026 09:07:07 GMT

드디어 자율성을 가진 AI가 출현했다. 몰트봇(Moltbot)이다. 실로 무시무시한 속도다. 예상은 했지만 빨라도 너무 빠르다. 흔히 AI의 발전에 대해서 다음과 같은 경로를 거칠 것이라고들 한다. Perception AI -> 생성형 AI -> 에이전틱 AI -> 일반 인공지능(AGI) 그동안 챗GPT나, 구글의 제미나이 등은 모두 생성형 AI이다.

AGI가 오고 있다. - AGI(일반 인공 지능)는 무엇인가?

신광은 — Fri, 16 Jan 2026 07:21:44 GMT

제2의 맨해튼 프로젝트 AGI(Artificial General Iintelligence)가 오고 있다. AGI는 ‘일반’ 인공 지능을 말한다. 그런데 혹자는 ‘범용’이나 ‘종합’ 인공 지능으로 번역한다. 현재까지 AI는 특별한 기능을 가진 AI였기 때문에 ‘특수’ 인공 지능(ANI: Artificial Narrow Intelligence)이었다. 가령

앞으로 5년, 무슨 일이 일어날까? - 테크 리더들의 계획과 전망

신광은 — Wed, 07 Jan 2026 02:14:31 GMT

앞으로 5년, 무슨 일들이 일어나게 될까? 많은 테크 리더들이나 개발자들은 향후 5년이 인류 역사에서 결정적으로 중요한 기간이 될 것이라고 말한다. 앞으로 5년 내 무슨 일이 일어날까? 지수적 성장 테크 리더들이 향후 5년을 문명사의 중대 변곡점으로 보는 이유는 지금의 AI와 로봇 기술이 지수적 성장을 하고 있기 때문이다. 지수적 성장의 예를 고대 인도

왜 인간은 AI를 통제하기 어려운가?(2) - 회귀 분석 모델(AI)의 사례를 통해서...

신광은 — Wed, 31 Dec 2025 07:25:43 GMT

(1)편에서 나는 인간이 AI를 통제하기 어려운 이유는 현대 기술의 '측정 가능한 목표'에 도달하는 '단 하나의 최적의 방법'을 찾고자 하는 특성 때문이라고 했다. 이 일련의 과정은 수학적 프로세스라고 할 수 있기에 수학에 의해서 인간의 선택은 체계적으로 배제된다고 했다. 이러한 원리가 극단적으로 나타난 것이 바로 AI이다. 이를 가장 기초적인 AI 모델

왜 인간은 AI를 통제하기 어려운가?(1) - 현대 기술의 특성과 인간의 배제

신광은 — Mon, 29 Dec 2025 07:34:09 GMT

AI는 인간이 통제하기 어렵다. 왜 그럴까? 그 가장 큰 이유는 현대 기술의 본성 때문이다. 여기서 내가 말하는 현대 기술은 대략 18-19세기에 등장한 기술을 말한다. 이 무렵 완전히 새로운 종류의 기술이 등장했다. 전통 기술 전통 기술은 한 마디로 '경험의 반복'을 통해 축적된 기술이다. 일본도를 수백 년 동안 만들어온 장인에게는 수백 년 동안의 경