르삭

에필로그. AI가 악(惡)하다고 누가 그래? - 질문이 아닌 화두

2025-06-09T01:48:00Z

한국에서 AI에 대한 담론은 기대와 흥분으로 가득 차 있다. 오랜만에 등장한 성장동력으로, 막대한 부를 가져다줄 새로운 투자 영역으로, 또는 전에 없던 프로덕트와 사업을 가능하게 할 신기술로 주목을 받는다. 걱정과 우려는 외면받는다. 빛나는 미래를 가로막을 선비질 정도로 인식되고, 후발주자로서 지금 당장은 신경 쓸 여유가 없는 나중의 문제로 치부된다.

AI 거버넌스가 뭐예요? - AI 안전을 위한 총체적 노력

2024-12-27T23:30:28Z

AI 개발 경쟁이 과열되는 양상을 브레이크 없이 질주하는 자동차로 자주 비유하곤 한다. AI가 도구로서 인류에 큰 편익을 제공하면서도 악용 및 부작용 때문에 초래되는 피해도 만만치 않는 속성을 자동차와 공유하기 때문이다. AI 거버넌스도 자동차에 대한 비유를 통해 서문을 열어볼까 한다. AI도 난해한데 거버넌스도 난해한 개념이기 때문이다. 거버넌스는 심

AI 잡는 AI, Constitutional AI - AI에게 양심을 가르치는 방법

2025-05-06T04:42:41Z

영화 아이로봇이나 터미네이터를 보면 인류를 위협하는 ‘악당 로봇'에 맞서 싸우는 ‘착한 로봇'들이 등장한다. 악당 로봇들의 가공할 전투 능력과 성능은 유지하면서도 인류를 수호하는 ‘착한 마음'을 간직한 이들은 결국 인류를 능가하는 악당 로봇들을 물리치고 인류를 멸망으로부터 지켜낸다. 이렇게 AI에게 착한 마음을 심어주면 어떨까? 일일이 수만 가지의 결정과

AI 안전을 위한 악당 코스프레, Red Teaming - AI 세상의 안전을 위해 착한 악당질

2024-08-25T02:14:35Z

AI 시스템의 안전성과 신뢰성을 확보하기 위한 방법론으로 레드 팀 (Red Team) 활동이 확산하고 있다. 구글, OpenAI, Meta, Anthropic, Microsoft 등 AI 선도 기업들에서도 적극적으로 자원을 투자하고 있다. AI 레드 팀 활동은 규제 영역으로도 활발하게 퍼져나가고 있다. 2023년 10월 말, 미국 바이든 행정부가 발표한

Safety by Design, AI 안전 패러다임 - AI 개발에 안전모를 씌운다면

2024-09-04T02:53:30Z

혁신적인 AI 기술이 우리 삶 모든 영역에 빠르게 스며들고 있는 가운데 AI의 악용가능성, AI의 기술적 한계 때문에 각국 정부(EU , 미국, 한국)는 어떤 노력을 기울이고 있는지에 대해 알아보았다. 다만, 기술의 발전 속도가 규제 속도보다 훨씬 빠르게 진행되고 있기 때문에 AI 개발자와 기업들이 규제에 대한 피동적 대응이 아니라 적극적인 자율규제와 윤리

에필로그 - 여행은 항상 삼 세 번

2024-08-14T01:06:34Z

대학시절 제일 좋아했던 프랑스어 교수님이 있다. 교수님 강의의 매력은 평균 4할 이상, 심할 때는 8할 이상에 달하는 교수님의 잡담이었다. 프랑스어 언어와 전혀 관계가 없을 때도 많았던 삶, 영화, 음악, 역사, 예능 등 온갖 장르를 망라하는 교수님 잡담에 낄낄 웃다가 보면 한 학기가 지나있었다. 교수님께서는 여행 이야기를 좋아하셨다. 교수님께서는 여행은

프롤로그 - 3개월 간의 유럽여행을 돌아보며

2025-02-10T05:20:55Z

사막을 건너고 있다. 목이 탄다. 몸과 영혼이 메말라 시들고 있다. 막막하다. 오아시스가 너무 멀다. 고통으로 신음하던 중 가방 한 구석에 수통을 발견한다. 허겁지겁 가방을 풀어헤치고 떨리는 손으로 수통을 집어 든다. 아.. 뚜껑이 잘못 잠겨있었다. 이미 상당한 양의 물이 소실되어 수통은 가볍디 가볍다. 몇 모금뿐 남아 있지를 않다. 이미 갈라진 입술을 적

한국의 AI 규제, 어디까지 왔나 - AI 강국을 향해 뚜벅뚜벅 힘찬 걸음을 걸으려면

2024-08-10T16:36:50Z

AI 규제는 당신에게 영향을 미친다 한국에는 수많은 규제가 있다. 규제는 대개 분노와 좌절의 대상으로 묘사된다. ‘규제가 발목을 잡는다’, ‘규제 때문에 못살겠다’는 볼 멘 소리들은 항상 기사 제목 한 두 개 정도는 장식한다. 그렇기에 ‘규제'라는 말을 떠올리기만 해도 스트레스를 받는다. 클릭과 스크롤을 멈추고 바로 다른 주제로 관심을 돌리게 된다. 나의

트럼프는 미국의 AI 규제를 어떻게 바꿔놓게 될까 - MAIGA? (Make AI Great Again)?

2024-07-28T06:07:52Z

2024년 11월 5일 미국 대선이 치러진다. 올해 글로벌 정치 이벤트 중 가장 중요한 날로 손꼽힐 듯하다. 미국 대선은 전 세계 산업 전반에 막대한 영향을 미친다. AI 분야도 마찬가지다. 2014년 7월 현재 공화당 트럼프의 당선 확률이 높아 보인다. 민주당 바이든은 대선 107일을 앞두고 마침내 후보사퇴를 천명했다. 대체자 선정 및 선거 전략 전면 수

EU, 질주하는 AI 개발에 Stop사인을 꽂다 - 규제 선진국 EU의 AI 규제 노력

2024-07-17T04:40:18Z

AI의 질주를 누가 멈춰 세울 수 있나 고삐 풀린 AI가 질주하고 있다. 생성형 AI 광풍을 이끌었던 OpenAI는 올해 5월 AI안전팀인 ‘‘슈퍼얼라인먼트(superalignment)’팀을 해체했다. 이 팀을 이끌던 OpenAI 공동 창립자 일리야 수츠케버와 팀의 공동 리더였던 얀 라이크는 회사를 떠났다. 얀 라이크는 OpenAI에서 AI안전이 “반짝이

AI야 다 "해줘" - AI 과의존성 문제 - 악하지 않은 AI도 문제라고요? Part.3

2024-08-17T18:32:00Z

스마트폰 분실의 악몽 폰을 잃어버린 날 나는 대재앙의 정의가 무엇인지 또렷이 알게 되었다. 이것이 바로 대재앙이다. 나는 완벽하게 무력했다. 나의 모든 재산과 연결 창구 연결을 했던 스마트월렛은 폰과 함께 동반분실 되었다. 무일푼이 되었다. 차 잠금장치가 스마트폰에 연동되어 있었다. 머나먼 집에 갈 수도 없다. 작심하고 걸어가고 싶어도 지도앱을 못보니 길

AI가 초래할 환경위기 - 악하지 않은 AI도 문제라고요? Part.2

2024-12-25T01:33:58Z

악하지 않은 AI도 문제라고요? Part.2 매트릭스(Matrix)의 전쟁도 다 전력 탓이었다 이제는 고전이 되어버린 영화 매트릭스(Matrix). 중심 줄거리는 발달된 기계가 인류를 사육하기 위해 만든 가상현실 프로그램인에서 탈출하기 위한 주인공들의 사투이다. 기계가 인간들을 사육하려는 목적은 인간들의 몸에서 발생되는 생체전기를 통해 자신들의 연료인 전

AI의 태생적 한계와 그로 인한 부작용 - 악하지 않은 AI도 문제라고요? Part.1

2024-08-17T18:29:26Z

바보상자, 마약 그리고 AI 지난 글에서는 작정하고 AI를 악용하려고 마음을 먹는 경우에 어떤 악행들로부터 우리가 위협에 처할 수 있는지에 대해 주목해 보았다. 이번에는 이러한 악의를 가정하지 않고도 AI가 어떻게 우리를 위협할 수 있는지에 대해 들여다 보고자 한다. 나쁜 마음을 먹지 않았는데, 그저 도구일 뿐인 AI가 어떻게 인류를 해할 수 있겠냐고?

돌아오라 소렌토로 (Torna a Surriento) - 글 없는 브런치 사진첩

2024-04-22T09:04:37Z

바르셀로나 눈부신 일장춘몽 - 글 없는 브런치 사진첩

2024-04-10T08:17:26Z

악한 생성형 AI (GenAI)가 초래할 독특한 위협들 - 악(惡)한 인간이 AI로 할 수 있는 일들 Part.2

2024-08-17T18:28:44Z

전편에서 예고한 대로 생성형 AI로 인한 위협을 심층적으로 다뤄보기로 한다. ChatGPT와 생성형 AI(GenAI). 어느 한 기술이나 제품이 기술전문가들을 넘어 모든 사람들의 일상 속에서 입에 오르는 경우가 그리 흔하지는 않다. 범부이자 일반 소비자 입장에서 볼 때 애플의 아이폰 이후로 처음이 아닌가 싶다. 다만 생성형 AI는 아이폰이 처음 나왔을 때와

스페인 알리칸테를 보여드릴께요 - 글 없는 브런치 사진첩

2024-04-06T15:32:38Z

감동과 경외가 동시에, 스위스 그린델발트 - 글 없는 브런치 사진첩

2024-04-04T05:48:02Z

천상의 도시, 이탈리아 라벨로 - 글 없는 브런치 사진첩

2024-03-25T06:05:30Z

악한 AI,끝을 가늠하기 힘든 그 만능성에 대하여 - 악(惡)한 인간이 AI로 할 수 있는 일들 Part.1

2024-08-17T18:27:51Z

송혜교, 조인성 그리고 김미영 팀장 끝을 가늠하기 힘든 그 만능성에 대하여 김미영 팀장은 보이스피싱계의 전설이다. 얼마나 많은 스팸 문자를 뿌려댔는지 인터넷상에는 대출을 권하는 김미영 팀장과 정겨운 대화를 나누는 내용이 밈으로 돌며 유행하기도 했다. 김미영 팀장이라는 이 가상의 인물 뒤에는 90여 명이 넘는 범죄 조직이 있었다. 10년이 넘게 확인된 피해