딥러닝 관련 내외부 세미나를 공유하고자 합니다.

  • [2nd DLCAT] 이제 하이퍼파라미터 튜닝은 케라스 튜너에게 맡기세요 - 김태영


    딥러닝에 입문하여 어느정도 모델을 구성할 수 있다면, 그 다음 고민은 어떻게 이 모델을 튜닝해서 성능을 높일까입니다. 이 과정을 하이퍼파라미터 튜닝이라고 하는데, 모델을 구성하는 여러 요소 중에 최적의 요소 값을 찾아내는 과정을 말합니다. 케라스 모델을 쉽게 튜닝하는 프레임워크를 구글에서 개발했다고 하니 살펴보도록 하겠습니다.


  • [2nd DLCAT] 인공지능, 머신러닝, 딥러닝, 자연어처리, 강화학습 관련 도서


    함께하는 딥러닝 컨퍼런스를 더욱더 즐겁게 만들 도서 사은경품 행사도 진행합니다. 한빛미디어, 길벗, 디지털북스, 위키북스에서 후원해주셨습니다. 경품을 도서별로 설문지를 작성하여 5시 추첨하겠습니다.


  • [2nd DLCAT] 설명가능한 강화학습(Explainable Reinforcement Learning) - 차금강


    현재 DeepMind, OpenAI가 선두가 되어 많은 강화학습 문제들이 해결되고 있습니다. 하지만 내부 모델이 왜 특정 상태에서 해당 행동을 하는지는 인공신경망 특성상 알기 어렵습니다. DeepMind에서는 이러한 문제를 자연어 문제에서 흔히 사용하는 self-attention 모델을 이용하여 설명하는 인공신경망을 발표하였습니다. 이는 추후 설명가능한 진정한 의미의 AI가 될 수 있는 가능성을 내포하고 있습니다. 이에 대해서 구현하고 설명하는 내용을 발표할 것 입니다.


  • [2nd DLCAT] (실습)강화학습 해부학 교실: Rainbow, 이론부터 구현까지 - 김경환,박진우


    Atari 환경에서 아주 좋은 성능을 보여주는 강화학습 알고리즘인 Rainbow를 공부해 봅니다. Rainbow를 구성하는 DQN, PER, Double-Q, Dueling Network, NoisyNet, C51, N-Step TD의 이론적 배경을 함께 살펴보고, Rainbow의 파이토치 구현을 line-by-line으로 뜯어봅시다. (노하우 대방출)


  • [2nd DLCAT] AI 거버넌스 구성/ AI 적용 가속화 방안/ 한계 및 목표치 설정 - 대전AI거버넌스


    대전 산업 AI 생태계 활성화 및 거버넌스 구성 방안


  • [2nd DLCAT] Structuring your first NLP project - 김보섭


    NLP 논문을 구현할 때, 항상 수반하는 전처리(Vocabulary, Tokenizer, Embedding 등)들을 반영하는 project template (project structure)을 구성하고, 구현 시 modulization을 어떻게 효율적으로 해야하는 가에 관하여 소개합니다. 소개한 project template을 토대로 PyTorch로 구현한 “Convolutional Neural Networks for Sentence Classification”을 네이버 영화평점 데이터에 적용해봅니다. (논문의 상세한 내용에 대해서는 소개하지 않습니다. 발표자료를 참고해주세요)


  • [2nd DLCAT] Deeplema, 딥러닝 서비스상용화의 딜레마 - 송규예


    즈니스 관점에서의 딥러닝에 대한 톡입니다. 실제 비즈니스 상에서 기술에 대한 오해나 상용화에 대해 접근방법이 아쉬운적이 많았고 여기에 대한 의견을 나누고자 합니다.


  • [2nd DLCAT] 딥러닝 모델 엑기스 추출(Knowlege Distillation) - 김유민


    여러 딥러닝 모델 압축 방법들 중 Knowledge Distillation분야의 연구 흐름을 관련 논문 리뷰를 통해 소개해드리려고 합니다.


  • [2nd DLCAT] (이론)딥러닝으로 오디오 만나보기 - 남기현


    지금까지 해왔던 연구와는 완전히 달랐던 음원 분야를 연구하게 되어 이를 위해 공부했던 필수 지식들을 이번 시간에 여러분들과 공유하고자 합니다. 이 발표는 audio 분야는 처음인데 아무것도 아는 것이 없어 혼란스러운 분들과 딥러닝을 통한 audio 연구는 어떤 것이 있고 어떻게 하면 되는지 궁금하신 분들을 위한 발표입니다. 최대한 비전문가도 이해할 수 있도록 자료를 구성했으니 audio 분야에 도전하고자 하시는 분에게 도움이 되었으면 합니다.


  • [2nd DLCAT] 실습)MS Azure ML Service와 함께하는 AutoML 사용하기 - 전미정


    대전 산업 AI 생태계 활성화 및 거버넌스 구성 방안


  • [2nd DLCAT] I'm Kaggler - Why need kaggle? - 이유한


    전세계 데이터를 사랑하는 사람들에게 데이터를 제공하고, 함께 즐길 수 있도록 해주는 캐글을 소개하려고 합니다. 작년 1st DL cat 에서 캐글 발표 이후 지난 1년간의 캐글 경험 및 후기를 들려드릴 것입니다. 제 발표를 들으시면, 왜 캐글이 ML, DL, DS 를 위한Project-based learnin(PBL) 을 할 수 있는 최적의 플랫폼인지 알게 되실 겁니다.


  • [2nd DLCAT] 나도 너도 모르는 Graph Neural Network의 힘 - 김준태


    “나도 너도 모르는 GNN의 힘” 발표는 Graph Neural Network 공부를 시작한 지 1주일 된 초보자가 초보자에게 Graph Neural Network의 기본적인 개념을 알려주는 발표이니 부담감 없이 들으시면 됩니다. 발표는 2019 ICLR에서 발표한 “How Powerful are Graph Neural Networks?”를 기반으로 진행됩니다.


  • [2nd DLCAT] (실습)한페이지 논문잡기:찾고+읽고+쓰고+정리하기 - 홍원의


    연구란 무엇이고 어떤 절차로 수행하는지, 매일같이 쏟아지는 머신러닝 분야의 논문을 어떻게 읽고 정리하며 공부할지 함께 고민하는 시간을 마련했습니다. 국내 및 해외 연구실 생활에 대한 주관적인 경험도 공유합니다. 대학원 초년생이나 진학 예정자를 비롯해 연구에 대해 궁금한 분을 대상으로 발표합니다.


  • [2nd DLCAT] 강화학습 환경 제작, Unity ML-agents와 함께하세요 - 민규식


    강화학습에서는 강화학습 알고리즘 자체도 중요하지만 강화학습 알고리즘을 테스트 하기 위한 환경을 구성하는 것도 매우 중요합니다. 지난 2017년 9월에 공개된 Unity ML-agents는 강화학습 알고리즘을 테스트 할 게임 및 시뮬레이션 환경을 비교적 간단하게 구현할 수 있도록 도와주는 고마운 툴입니다. 본 발표에서는 Unity ML-agents에 대한 소개 및 사용법에 대한 설명을 진행할 예정입니다. 또한 Unity ML-agents를 통해 구현한 강화학습 환경들의 예시를 소개하려 합니다.


  • [2nd DLCAT] 빽 투 더 Representation Learning: Visual Self-supervision을 중심으로 - 서정훈


    00년 후반에 제안된 RBM/DBN의 중요성이 줄어든 이후 사전학습(Pre-training)을 위한 표현 학습(Representation Learning)은 꽤 오랜 시간 동안 사장된 개념이었습니다. 하지만 최근 페이스북, OpenAI, 딥마인드 등의 연구 그룹을 중심으로 표현학습을 다루는 연구가 다시금 쏟아져나오고 있습니다. Visual Self-supervision을 중심으로, 본 발표에서는 다음과 같은 내용을 다루고자 합니다.

    • 왜 표현 학습이 다시 연구의 화두로 대두되었지
    • 다시 부활한 표현 학습, 연구자들은 어떻게 접근하고 있는지
    • 중요 표현 학습 연구들에 관한 초스피드 간단 리뷰

  • [2nd DLCAT] (실습)유니티 기반 드론 강화학습 - 이현호


    항공우주분야에 강화학습을 적용하기 위해 만든 시뮬레이션 환경들을 소개하고자 합니다. 특히 드론 환경에 대해서 자세히 살펴보고 실습을 통해 직접 드론을 제작해보는 시간도 가져보겠습니다. 추가적으로 딥러닝, 강화학습 그리고 Unity ML-Agetns에 대해 간략하게 살펴보도록하겠습니다. 원활한 실습을 위해 참고자료의 Unity ML-Agents Tutorial을 한 번 진행해보시는것을 권장드립니다.


  • [2nd DLCAT] 설명가능한 AI for AI 윤리 - 안종훈


    AI윤리관련 안전과 프라이버시 문제로 최근 부각되기 시작한 ‘설명가능한 AI(XAI)’를 인공지능 윤리와 연결시켜 발표합니다. 특히, 딥러닝에서 AI의 윤리적 의식과 도덕성 구현방법 에 관한 내용과 심을 가지고 있습니다. 개괄적인 주요 발표내용은 다음과 같습니다.


  • [2nd DLCAT] 케라스 in 텐서플로우2.0 - 박해선


    텐서플로 2.0에서 변화된 내용을 소개하고 텐서플로 2.0에서 케라스가 어떤 역할을 담당하게 되었는지 소개합니다. 기본적인 케라스 사용법외에 텐서플로에서 케라스를 이용한 사용자 정의 모델을 어떻게 구현하는지도 알아보겠습니다.


  • [2nd DLCAT] (실습)파이토치로 갈아타기 - 신경인


    딥러닝으로 빠른 시간에 성과를 내려면 어느 프레임워크를 이용해야 할까요? 딥러닝을 하기 위한 도구를 제공하는 프레임워크는 정말 다양합니다 - Caffe(2), CNTK, Keras, PyTorch, TensorFlow, Theano 등. 각자가 더 많이 쓰이는 딥러닝 분야도 다르고 장단점도 다릅니다. 그럼에도 불구하고 저는 주변 사람들에게 얘기합니다. 적어도 처음 시작했던 저에게 가장 쉽고 직관적으로 다가왔던 프레임워크는 PyTorch였다고 말이죠. Keras를 이용해 코드를 짜다보면 TensorFlow에 대한 이해가 필요한 경우가 종종 있었습니다. 그렇다고 TensorFlow를 하려니 배워야 할 게 너무 많았죠. 그렇다면 PyTorch는? Python 클래스에 대한 기본적인 이해면 충분합니다. 그렇기 때문에 직관적이고 빠르게 적응할 수 있다는 큰 장점이 있습니다. 얼른 자신의 분야에 딥러닝을 적용하고 성과를 내고 싶으신가요? PyTorch로 오세요. 이번 발표에서는 오시는 분들의 선호에 따라 간단한 분류 모델 혹은 GAN(Generative Adversarial Networks) PyTorch 코드를 짜면서 실습을 진행할 예정입니다. 제 발표를 들으면 유익하실 분들과 그렇지 않을 분들을 아래에 정리해놓았습니다.


  • 2nd 함께하는 딥러닝 컨퍼런스(2nd DLCAT)


    딥러닝을 시작하는 이유는 달라도 딥러닝을 계속 하는 이유 중 하나는 바로 ‘함께하는 즐거움’이지 않을까합니다. 작년 6월 말 대전에서 “1st 함께하는 딥러닝 컨퍼런스”에 400명 넘게 모여 즐겁게 인공지능 및 딥러닝 관한 다양한 주제로 톡을 나누었습니다. 그간 매일 논문만 읽어도 못 따라갈 만큼 새로운 연구가 쏟아지고 있고, 그 활용 사례 및 관심 또한 각 분야에 퍼져가고 있습니다. 대전은 전국 각지에서 오시기에 접근성이 용이하고, 정부출연연구원 및 정부청사, 우수한 대학교, 대기업의 기술 연구소, 최첨단 기술 중심의 벤처회사들이 밀집된 지역인 만큼 지식공유의 즐거움을 나누고자 합니다.


  • NASA FDL 2019 부트캠프 초청발표


    NASA FDL 2019 부트캠프에 초청받아 6월말 NVIDIA 본사에서 발표하게 되었습니다. NASA FDL 프로그램은 우주생물학, 행성과학, 천문학, 뇌물리학, 컴퓨터과학 등 과학분야에 대한 전문지식을 갖춘 세계 각국의 모범적인 학자와 연구자를 대상으로 설립되었고, 이 프로그램의 목표는 우주 과학에 인공지능 기술을 적용하기 위한 학문 간 팀 환경에서 협력할 수 있는 기회를 제공할 뿐만 아니라, 현재와 미래의 중대한 과제들을 해결하기 위해 연구의 경계를 넘나드는 것입니다.


  • 신진 여성인재와 함께하는 케라스


    한국정보통신학회 여성 ICT 위원회가 주최하는 신진 여성인재 발굴 및 교육 사업의 일환으로 파이썬 딥러닝 케라스 워크샵을 하게 되었습니다.


  • 케라스 창시자에게 배우는 딥러닝 - 도서


    작년에 케라스를 만든 프랑소와 숄레님이 ‘Deep Learning with Python’이란 책을 집필하였고 한 문장 한 문장 통찰력이 담겨 있어 상당히 감동 받았던 기억이 납니다. 그 책이 이번에 번역되어서 ‘케라스 창시자에게 배우는 딥러닝’이란 이름으로 출간되었습니다. 번역은 IT 및 머신러닝 분야에 전문 번역가이신 박해선님께서 해주셨습니다. 사실 이 책은 제가 번역을 하고 싶어서 숄레님께 연락을 드려봤을 정도로 의미가 있는 책이라 번역 후기를 부탁하여 들어봤습니다. 출판사는 IT 전문서를 발간하는 길벗입니다.


  • 오후 내내 간보는 날(GAN)


    레고사람 비유를 시작으로 GAN 개념과 기초적인 GAN 모델을 알아봅니다. 그 다음 의료영상 합성 분야의 흥미로운 논문을 간략히 설명드립니다. 마지막에는 vid2vid논문을 리뷰합니다. vid2vid는 2018.08 최근에 발표된 만큼 다양한 GAN 논문들의 개념이 적용되어 복잡하고 설명이 친절한 논문도 아니라서 단번에 이해가 쉽지 않습니다. 그럼에도 불구하고 GAN을 잘 모르는 분들도 충분히 이해할 수 있게 최대한 기본 개념을 챙기려고 노력했습니다.


  • 니NN어데까지해봤노? GNN함가자


    인공지능 구현에 기반이 되는 신경망 기술은 산업과 학계를 불문하고 엄청난 관심을 받고 있으며, 이미지 인식/기계번역/자율주행과 같은 응용으로 이어지고 있습니다. 하지만 많은 연구들이 이미지, 자연어를 대상으로 이루어지고 있으며, 이 연구들에 사용되는 신경망은 합성곱 신경망(Convolutional Neural Network; CNN), 재귀 신경망(Recurrent Neural Network; RNN) 등이 사용되고 있습니다. 하지만 위 데이터와 같은 정규적 데이터들이 아닌 비정규적 데이터들이 존재하고 또 다루어져야할 필요성이 있습니다. 이번 세미나에서는 KAIST 화학과 석박사통합과정인 류성옥님을 모시고, 이런 그래프로 표현되는 비정규적 데이터들(예) 네트워크, 분자, 물리 시스템)을 다루는데 가장 적합한 그래프 신경망에 대해 다루고자 합니다. 류성옥님은 양자역학을 연구하다가, AI가 세상을 바꿀 기술이라 생각되어 딥러닝을 공부하는 대학원생입니다. AI를 활용하여 Smart Drug Discovery를 연구 중에 있습니다. 1st DLCAT에서도 발표하셨습니다~


  • 1st 함께하는 딥러닝 컨퍼런스


    이제 딥러닝 기술은 무서운 속도로 각 분야에 퍼져가고 있습니다. 그에 따라 활용 사례도 늘어나고 있고, 실전 적용에 막히는 여러가지 문제도 해결하고자 많은 연구가 활발히 이루어지고 있습니다. 딥러닝을 공부하시는 분이라면 딥러닝 코어 및 알고리즘은 물론 타 분야의 활용사례, 최근에 유행하고 있는 GAN과 강화학습까지 관심을 가지고 계실겁니다. 다양한 주제로 즐겁게 소통하고자 첫번째 ‘함께하는 딥러닝 컨퍼런스’를 대전에서 개최합니다. 대전은 정부출연연구원 및 정부청사, 우수한 대학교, 최첨단 기술 중심의 벤처회사들이 밀집된 지역인 만큼 다른 지역과는 또 다른 느낌의 소통이 이뤄질 것 같아 기대되네요~


  • [ISS 세미나] 세종국책연구단지에 딥러닝 모델 심기


    이번 ISS에서는 “(주)인스페이스”와 “국토연구원 국토정보연구본부 국토정보분석센터” 공동 주최로 “세종국책연구단지에 딥러닝 모델 심기”란 주제를 가지고 세미나를 개최하고자 합니다. 딥러닝 기본 개념을 익히고 딥러닝 기반 모델을 쉽게 만들어볼 수 있는 ‘케라스’라는 딥러닝 라이브러리에 대해서 알아봅니다. 케라스 코드를 ‘블록’ 개념과 매칭하여 직관적으로 모델을 이해할 수 있는 방법에 대해 연습한 후 다양한 기초 문제를 살펴봅니다. 자율주행 분야에 딥러닝 모델이 어떻게 적용되는 지 알아보고, 다양한 분야에서 문제를 해결하는 데 있어 도움이 되는 캐글에 대해서도 알아봅니다.


  • [대딥사] 첫 밋업


    “대전에서, 딥러닝을 사랑하는 사람들의 모임”인 대딥사 밋업을 했습니다. 짧은 시간이었지만 이 모임이 만들어진 것이 당연한 듯 자기 소개에서 홀로 공부하는 외로움과 가까운 이들과 소통하고자 하는 간절함이 묻어났습니다. 이 모임하려고 서울에서 오신 분, 고객처와 접대를 뒤로하고 오신 분, 해외출장에서 막 귀국해서 아직 여독이 안 풀리신 분, 바쁜 학업이나 본업을 잠시 뒤로하고 모였습니다. 일단 만났으니, 이제 스터디도 시작하고 재미난 것을 계획해봐야 겠죠? 대전에 계신다고요? 조인조인, 대전에 안 사신다구요? 상관없습니다. 행사만 대전에서 할 뿐입니다.


  • [ISS 세미나] 김태영님, 블록과 함께하는 파이썬 딥러닝 케라스


    이번 ISS에서는 “블록과 함께하는 파이썬 딥러닝 케라스”란 주제로 발표합니다. 딥러닝 기본 개념을 익히고 딥러닝 기반 모델을 쉽게 만들어볼 수 있는 ‘케라스’라는 딥러닝 라이브러리에 대해서 알아봅니다. 케라스 코드를 ‘블록’ 개념과 매칭하여 직관적으로 모델을 이해할 수 있는 방법에 대해 연습한 후 다양한 기초 문제를 살펴봅니다. 생성모델과 딥강화학습에 대해서도 어떤 것인지 대충 알아보겠습니다. 그리고 분야별 라이트닝 톡을 40분간 진행할 예정입니다. 많은 관심 부탁드리겠습니다.


  • [한국 커뮤니티 데이] 김태영님, 전미정님, 모두의 손에 딥러닝 툴을...


    이번 제7회 KCD행사에서 케라스 코리아(Keras Korea)는 ‘모두의 손에 딥러닝 툴을…‘이라는 주제로 케라스 코리아의 운영진인 김태영님과 전미정님이 함께 발표를 진행하였습니다.


  • [세미나] 김태영님, 딥러닝 소개 (제7회 태양/우주환경을 연구하는 젊은 과학자 워크숍)


    제7회 태양/우주환경을 연구하는 젊은 과학자 워크숍(http://sun2us.net/)은 태양 및 우주환경을 연구하는 젊은 과학자들이 연구 역량 강화 및 연구 교류를 목적으로 자발적으로 준비하고 참여하는 행사입니다. 이 행사의 둘째날 딥러닝 소개 세미나 내용을 공유하고자 합니다.


  • [ISS 세미나] 이웅원님, 가깝고도 먼 딥강화학습(DeepRL)


    ‘딥러닝’은 익숙하시죠? 이제 ‘딥러닝+강화학습’인 딥강화학습에 대해서 알아볼 시간입니다. 이번 ISS에서는 ‘파이썬과 케라스로 배우는 강화학습’ 저자이신 이웅원님(DCULab 리더, 제이마플 선임연구원, RLCode 리더)을 모시고 ‘가깝고도 먼 딥강화학습(DeepRL)’이란 주제로 세미나를 진행하고자 합니다. 강화학습은 오래 전부터 연구되던 분야이나 딥러닝 기술과 접목되면서 많은 발전을 이루고 있습니다. 한국을 떠들석하게 했던 알파고의 핵심 기술이기도 하구요. 강화학습과 딥러닝이 합쳐진 이 기술을 ‘Deep Reinforcement Learning (DeepRL)’이라고 불립니다.


  • [ISS 세미나] 최성준님, 딥러닝 최신동향


    딥러닝 기술은 하루가 멀다하고 발전하고 있습니다. 이번 ISS에서는 Google Developer Expert이시고 서울대학교 사이버물리시스템 연구실 박사과정에 계신 최성준님이 ‘딥러닝 최신 동향’이란 주제로 발표하셨습니다. 열정적으로 강의해주신 최성준님께 감사드리고, 장시간 동안 끝까지 관심있게 들어주시고 좋은 질문 많이해주신 참석자분들에게 감사드립니다.


  • [ISS 세미나] 이지민님, 의료영상 세그멘테이션


    이번 ISS에서는 SNU TF 이지민님(서울대학교 방사선의학물리연구실)을 모시고, ‘의료영상에서의 세그멘테이션”이란 주제로 세미나를 진행하였습니다. 딥러닝 모델이 분류나 객체검출 문제를 많이 다루긴 하지만 영상처리의 꽃은 역시 세그멘테이션 같습니다. 세그멘테이션에 대한 기본 개념부터 최근 연구되고 있는 딥러닝 모델을 소개합니다.


  • [ISS 세미나] 김태영님, 블록과 함께하는 딥러닝 실습, 케라스 이야기


    이번 ISS에서는 블록과 함께하는 딥러닝 실습, “케라스 이야기”란 주제로 제가 발표하였습니다. 1)다양한 분야의 전문가분들과 함께 2)대전에서 3)자기 노트북가지고 실습까지 해보는 의미있는 자리였던 것 같습니다. 100명 넘는 인원에서의 실습은 쉽지 않은 선택이었지만 사전에 모두 설치를 해주신 참석하신 분들과 자발적으로 나선 (주)인스페이스 스태프분들 덕분에 무사히 마쳤습니다. 어떤분들이 참석하셨는 지, 어떤 연구에 딥러닝에 접목하려고 하시는 지, 세미나에 대해 이모저모에 대해 알아보겠습니다.