Extreme Code

Stable Diffusion과 생성모델의 혁신 - 인공지능의 불씨를 다시 한번 타오르게 해 줄까?

Extreme Code — Sun, 09 Oct 2022 11:22:13 GMT

최근 이미지 생성모델에 대한 관심이 뜨겁습니다. 이미지 생성모델은 text를 넣으면 image를 만들어주는 모델인데, 최근에 큰 발전을 했고 무엇보다고 Stable Diffusion이 누구나 이를 사용할 수 있도록 하며 여러가지 서비스도 쏟아져 나오고 있습니다. 이미 국내에도 이를 다룬 뉴스도 많고, 이미지 생성모델 관련하여 정리해놓은 글도 많이 있긴 하지

VSCode server와 개발환경의 미래 - 앞으로 개발환경은 어떻게 바뀌게 될까?

Extreme Code — Mon, 03 Oct 2022 07:50:20 GMT

저는 랩탑을 이용하여 개발하는 것 보다 클라우드 서비스 등을 통한 서버를 활용해서 개발하는 것을 좀 더 선호합니다. 왜냐면 더 높은 사양의 하드웨어를 활용할 수 있고 다양한 네트워킹 설정을 할 수 있기 때문입니다. 특히나 머신러닝, 그 중에서도 딥러닝과 관련된 작업을 하려면 많은 데이터와 GPU가 필요한데 이런 경우 거의 반드시 서버가 필요합니다. 그래서

개발자의 인성이 중요할까? - 개발자의 인성은 팀의 생산성에 영향을 얼마나 미칠까

Extreme Code — Thu, 26 Aug 2021 09:08:24 GMT

예전에 지인과 개발자의 인성이 얼마나 중요한 요소일지에 관해서 이야기를 나눈 적이 있었다. 나는 예전에는 개발자의 인성은 크게 중요치 않고 실력이 가장 중요하다고 생각했던 적도 있었고, 실제로 그러한 생각을 가지고 있는 사람들이 꽤 있다. 하지만, 프로젝트를 이끌어나가고 팀을 운영하는 경험이 쌓이고 다양한 의견을 접하다 보니 개발자의 인성은 꽤 중요한 요소

데이터를 해석할 때 주의할 점 - 데이터 마이닝이나 AI/ML 알고리즘을 활용할 때 기억해야 할 점

Extreme Code — Sat, 07 Aug 2021 10:25:41 GMT

통계, 데이터 마이닝, 머신러닝 등의 분야에서는 데이터를 분석하고 해석하는 능력이 굉장히 중요합니다. 그리고 잘 훈련된 분석가/개발자라면 웬만한 알고리즘들을 적재적소에 활용할 수 있고 해석할 수 있을 것입니다. 그런데 일반적으로 경험이 적은 분석가라면 데이터가 말해주는 결과를 그대로 믿는 경우가 많습니다. 배운 대로 하는 것이죠. 하지만 데이터가 말해 주는

Baidu의 ERNIE 3.0 - SOTA를 달성한 Baidu의 NLU 모델

Extreme Code — Mon, 26 Jul 2021 02:23:03 GMT

중국어 언어 모델 중 가장 성능이 좋은 것은 뭘까요? 기업마다 자체적으로 개발하여 공개되지 않는 경우도 있겠지만 일반적으로 Baidu가 중국어 NLP쪽에서는 가장 좋은 점수를 내는 경우가 많습니다. Baidu의 딥러닝 프레임워크인 PaddlePaddle 기반으로 ERNIE라는 NLU 모델을 계속해서 공개 해 왔었는데요, 최근에 ERNIE 3.0 모델을 공개

FAIR의 BlenderBot 2.0 - 진정 스마트한 챗봇의 시대가 열리는가?

Extreme Code — Sun, 25 Jul 2021 07:54:33 GMT

Facebook AI Research에서 최근에 BlenderBot 2.0을 공개하였습니다. 한 가지 연구결과는 아니고 그동안 FAIR에서 진행하던 대화 시스템, 챗봇 등에 관한 연구들을 조합하여 만든 시스템이라고 볼 수 있습니다. FAIR의 대화 시스템 연구 프레임워크인 ParlAI 기반으로 공개 해 놓았습니다. 아직 테스트를 진행해 보지는 않았지만 공개

Airbnb의 Server-Driven UI - Airbnb의 더 빠른 웹/앱서비스 개선을 위한 방법

Extreme Code — Sat, 17 Jul 2021 16:31:45 GMT

예전에 Airbnb 블로그에 올라온 Server-Driven UI 라는 글을 읽게 되었는데, 꽤 많은 고민이 들어가 있고 흥미로워서 간단하게 소개해볼까 합니다. 원문이 자세하게 설명하고 있으므로 관심있으시면 한번 읽어 보시는 걸 추천드립니다. Server-Driven UI (SDUI) 는 말 그대로 화면에 보여지는 UI 렌더링을 클라이언트가 아닌 서버위주로

Github Copilot에 관한 생각 - 프로그래밍의 신세계가 열리는 걸까?

Extreme Code — Thu, 08 Jul 2021 01:47:10 GMT

며칠 전에 Github에서 Copilot 이라는 놀라운 서비스를 공개했습니다. 아직은 waiting list에 등록하면 소수 인원만 사용 가능한 것으로 보이는데, alpha 버전을 몇 주간 사용한 사람들의 경험담 뿐 아니라 이를 분석한 글들도 꽤 많이 올라오고 있습니다. 저도 이에 관한 생각을 한번 써 보도록 하겠습니다. Copilot이 무엇인가? 사

StyleCLIP에 대한 소개 - 빠르게 발전하고 있는 AI 기반 편집기술

Extreme Code — Mon, 05 Jul 2021 01:32:23 GMT

Disclaimer 해당 글에 있는 썸네일과 이미지들은 절대로 정치적 의도나 비하하려는 목적이 없습니다. 단지 저작권 문제가 없는 대통령 이미지를 사용했을 뿐이며 문제가 된다면 삭제하도록 하겠습니다. 몇 개월 전에 StyleCLIP이라는 연구를 본 적이 있습니다. GAN이후로, 특히나 StyleGAN 이후로 딥러닝을 활용해 고화질 이미지를 생성하는 연구

Snapchat의 QUIC 적용 - Snap에서 공유한 QUIC 프로토콜 적용 경험

Extreme Code — Mon, 28 Jun 2021 13:55:20 GMT

프로그래밍을 공부한다면 거의 필수적으로 배우는 내용이 있습니다. 네트워킹, 그 중에서도 OSI 7 layer와 같은 개념들이죠. 웹 개발 등에 필수적인 HTTP 와 같은 프로토콜도 배우는데, 일반적으로는 HTTP는 TCP 위에서 동작한다고 배울 것입니다. 아 물론 이건 HTTP/2까지는 맞는 이야기입니다. 근데 HTTP 3.0 은 UDP에서 동작한다는 걸

Rust in the Android - Android의 핵심 코드는 이제 Rust도 사용합니다.

Extreme Code — Sun, 27 Jun 2021 09:18:08 GMT

몇 개월 전에 구글에서 Rust를 사용하여 Android 개발을 하고 있다는 내용의 글을 올렸습니다. 이 사실 자체는 그리 중요하지 않을 수도 있습니다만, 구글의 개발 철학도 살짝 엿볼 수 있고 왜 Rust를 써야 되는지도 잘 설명된 거 같아서 해당 글을 한번 소개해볼까 합니다. 안드로이드가 겪는 문제점 다들 Android Application 은 Ja

TensorFlow.js의 2021년 - 앞으로 TF.js는 어떻게 될까?

Extreme Code — Sat, 26 Jun 2021 08:36:44 GMT

메이저한 프로그래밍 언어들의 경우 (C/C++, Java, Python 등) 대부분 행렬 연산, 수학 계산 등을 위한 라이브러리가 존재합니다. 이미지 프로세싱 등을 하게 된다면 이는 매우 중요하기 때문에, 역사가 오래된 라이브러리가 많고 hardware dependent 한 것들도 많습니다. Python을 예로 들면 numpy가 가장 많이 사용되고, 이미지

웹 서비스가 사용자를 판별하는 법 - Device fingerprinting

Extreme Code — Wed, 23 Jun 2021 15:30:29 GMT

몇개월 전에 Hacker News 에서 전세계 Top website가 fingerprinting을 하는지를 조사한 자료가 올라와서 보게 되었습니다. 흥미로운 점은 Google, Youtube, Amazon, Yahoo, Facebook, Reddit 등과 같은 가장 인기있는 웹사이트들이 WebGL fingerprinting을 하고 있다는 점이었습니다. 사실

빠른 속도의 Sparse Neural Network - 딥러닝 모델 속도를 개선할 수 있는 Google AI의 기술

Extreme Code — Tue, 22 Jun 2021 15:43:17 GMT

머신러닝, 특히 딥러닝의 단점 중 하나는 속도입니다. 기존의 많은 머신러닝에 알고리즘에 비해서 모델 규모가 크다 보니 속도가 굉장히 느립니다. 이를 보완하기 위해 GPU를 사용하기도 하지만, GPU는 매우 비싼 장비이므로 학습을 제외하곤 쉽게 쓰기 힘듭니다. 특히나 모바일에서 딥러닝 모델을 돌릴 때는 더 문제가 되죠. 이를 개선하기 위해서 모델 경량화,

서비스에 대한 악의적 사용을 고민해야 하는 이유 - 개발자가 악의적인 사용자에 대한 고려를 해야 하는 이유

Extreme Code — Mon, 21 Jun 2021 16:12:52 GMT

기존에 이미 존재하는 것과 비슷한 서비스를 개발하지 않고 뭔가 새로운 것을 만든다면 꽤 많은 고민이 필요합니다. 의도한 대로 사용하지 않는 사용자가 꽤 많기 때문인데요, 그 때문에 스타트업 제 1법칙이 "사용자가 원하는 것을 만들어라" 일 것입니다. 물론 이건 말이 쉽지 실제로 달성하기는 어려운 문제이죠.. 그런 것과는 별개로 악의적 사용자에 대한 고려

개발자 채용, 어떻게 할 것인가? - 개발자 채용에 관한 생각

Extreme Code — Sun, 20 Jun 2021 14:53:15 GMT

예전에 개발자 취업에 관한 글을 몇개 작성했습니다. (참고1, 참고2, 참고3) 주로 신입 개발자로 취업할 때 어떤 것들을 염두에 두고 준비하면 좋을 지에 관한 글이었는데요, 이번에는 취업하는 개발자 입장이 아닌, 채용하는 입장에서 개발자 채용을 어떻게 하면 좋을지에 관해 글을 써보려고 합니다. 채용하는 회사 입장에서 쓰는 글이긴 하지만 취업자 입장에서도

AI 업계와 ML커뮤니티의 문제점 - 아직은 현실성이 떨어지는 AI/ML 커뮤니티의 문제점

Extreme Code — Sat, 19 Jun 2021 15:47:47 GMT

예전에 쓴 글에서 AI가 많은 인기를 얻고 있지만, 기대에 못 미치는 결과를 내는 경우도 많다는 이야기를 했었습니다. 물론 AI기술은 아직 시작 단계일 뿐이기 때문에 그런 면도 있지요. 최근에 AI 업계를 떠난 이유에 관한 글을 읽어 봤는데 동감가는 내용이 많았습니다. 그리고 예전에 Reddit에 올라온 글 중에 AI업계의 문제점을 지적하는 글이 있었는데

Self-Supervised Learning 에 관하여 - Computer Vision 분야도 SSL이 대세가 될것인가?

Extreme Code — Fri, 18 Jun 2021 16:12:55 GMT

Facebook AI Research의 아이콘이자 딥러닝 구루 중 한명인 Yann Lecun이 몇 개월 전에 FAIR 블로그에 글을 작성했습니다. Computer Vision 분야에서의 Self-supervised learning 에 관한 글이고, 최근 어떤 부분에 관심을 갖고 연구하고 있는지를 알 수가 있습니다. 새로 진행된 연구를 소개하는 그런 글이라

Geoffrey Hinton의 GLOM - 딥러닝의 아버지 힌튼이 제안한 새로운 연구

Extreme Code — Thu, 17 Jun 2021 14:24:43 GMT

인공지능은 몇 년 사이에 어떤 기업이든 투자해야 하는, 반드시 해야 되는 기술이 되어 버린 느낌입니다. 그리고 대부분의 연구자에게 이런 인공지능 붐의 핵심 기술이라고 할 만한 딥러닝의 아버지를 한명 꼽아보라고 한다면, 아마도 Geoffrey Hinton 교수를 꼽을 것 같습니다. 그만큼 딥러닝을 오랫동안 연구 해 왔고, 가장 공로가 크다고 볼 수 있는 연구

Causal Learning과 관련된 연구 - AI가 추론을 할 수 있을까?

Extreme Code — Wed, 16 Jun 2021 15:36:10 GMT

딥러닝 분야 대가 중 한명인 Yoshua Bengio는 요즘 어떠한 연구를 주로 하고 있을까요? 최근에는 Causal Learning 에 관심이 많은 것 같습니다. 작년에 진행한 talk 과 논문을 바탕으로 한번 살펴봅시다. Introduction to Causal Inference 라는 작년에 공개된 강의가 있는데, 여기서 talk 을 하기도 했고, 그