class: title-slide, left, bottom # 20분만에 끝내는 딥러닝 ---- ## **딥러닝 핵심 개념** ### 이광춘 / 한국 R 사용자회 ### 2022-07-01 --- class: inverse, middle name: automation # 발표 개요 ---- .pull-left[ 최근 각광받고 있는 **.warmyellow[딥러닝(Deep Learning)]** 은 학문적으로 의미가 있을 뿐만 아니라 기술의 급격한 발전과 디지털 전환에 중요한 역할을 하고 있기 때문에 **컴퓨팅 사고력(Computational Thinking)**의 중요한 축인 **.warmyellow[자동화(automation)]**을 떼고 생각할 수는 없다. 이에, 자동화, 인공지능, 딥러닝을 이해하고 구현하는데 핵심적인 사항을 다뤄본다. ] .pull-right[ .left[ 1\. [자동화](#automation) 2\. [인공지능](#ai) 3\. **[.warmyellow[딥러닝]](#deep-learning)** ] ] <!--end of right-column--> <!-------------------------- 1. 자동화 -----------------------------------------> --- name: automation-tax # 세무사 업무 변천과정 <br> <br> <br> .center[ ![세무 업무 변천사](fig/tax-preparation.png) ] .footnote[ [이광춘 (2019-12-04), "자동화(Automation) - ~~로봇~~ 자동화가 빼앗는 일자리 그리고 나", 분당 서현 청소년 수련관 ](https://statkclee.github.io/ds-authoring/ds-bundang-2019.html) ] --- name: automation-productivity-gap # 생산성과 임금 격차 <br>
.footnote[ [Economic Policy Institute, "The Productivity - Pay Gap", July 2019](https://www.epi.org/productivity-pay-gap/) ] --- name: automation-sourcing-strategy # 소싱전략의 변화 <br> <br> .center[ ![소싱 전략의 변화](fig/the-end-of-outsourcing.png) ] .footnote[ 자료출처: Kinetics consulting services / Automation Anywhere ] --- name: automation-apollo # 아폴로 우주선 <br> .center[ ![아폴로 계획에 대한 역할 구분](fig/man-machine-role-allocation.png) ] .footnote[ [Mary (Missy) Cummings (2014), "Man versus Machine or Man + Machine?", Duke University and MIT](https://hal.pratt.duke.edu/sites/hal.pratt.duke.edu/files/u10/IS-29-05-Expert%20Opinion[1]_0.pdf) ] --- name: automation-role-allocation # 인간과 기계 업무분장 <br> .center[ <img src="fig/role-allocation-skill-rules-experties.gif" width = "77%" /> ] .footnote[ [Mary (Missy) Cummings (2017), "Informing Autonomous System Design Through the Lens of Skill-, Rule-, and Knowledge-Based Behaviors", Duke University](https://hal.pratt.duke.edu/sites/hal.pratt.duke.edu/files/u10/IS-29-05-Expert%20Opinion[1]_0.pdf) ] --- name: automation-jobs # Human Supervisory Control <br> <br> .center[ ![human-supervisory-control](fig/human-supervisory-control.png) ] .footnote[ [Mary (Missy) Cummings (2017), "Informing Autonomous System Design Through the Lens of Skill-, Rule-, and Knowledge-Based Behaviors", Duke University](https://hal.pratt.duke.edu/sites/hal.pratt.duke.edu/files/u10/IS-29-05-Expert%20Opinion[1]_0.pdf) ] <!-------------------------- 2. 인공지능 -----------------------------------------> --- class: inverse, middle name: ai # 발표 개요 ---- .pull-left[ 최근 각광받고 있는 **.warmyellow[딥러닝(Deep Learning)]** 은 학문적으로 의미가 있을 뿐만 아니라 기술의 급격한 발전과 디지털 전환에 중요한 역할을 하고 있기 때문에 **컴퓨팅 사고력(Computational Thinking)**의 중요한 축인 **.warmyellow[자동화(automation)]**을 떼고 생각할 수는 없다. 이에, 자동화, 인공지능, 딥러닝을 이해하고 구현하는데 핵심적인 사항을 다뤄본다. ] .pull-right[ .left[ 1\. [자동화](#automation) 2\. **[.warmyellow[인공지능]](#ai)** 3\. [딥러닝](#deep-learning) ] ] <!--end of right-column--> --- name: automation-paradox # 모라벡의 역설(Moravec’s paradox) <br> .center[ <img src="fig/moravec-paradox.png" width = "87%" /> ] .footnote[ 미국 카네기 멜론 대학 (CMU) 로봇 공학자 한스 모라벡(Hans Moravec)이 1970년대에 ‘it is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility’라는 표현으로 컴퓨터와 인간의 능력 차이를 역설적으로 표현하였다. ] --- name: automation-comparison # 중국어 방 (Chinese room) <br> <br> .pull-left[ ![중국어 방 주장을 모사한 도해](fig/chinese-room-argument.jpg) ] .pull-right[ | 인공지능 | 컴퓨터 | 인간 | |:---------:|:-----------------:|:---------------------:| | 중국어 방 | 하드웨어 | 인간의 외형적인 몸체 | | 영어만 할 줄 아는 사람| 소프트웨어| 인간의 지능 | | 중국어로 된 질문 | 입력(Input) | 인간이 외부에서 접할 수 있는 자극 | | 중국어로 된 답변 | 출력(Output) | 인간이 외부에서 접한 자극에 대한 반응 | | 질문&대답 목록 | 데이터베이스(Database) | 습득된 기억 | ] .footnote[ [중국어 방 역설 (Chinese room argument) - 대체 누가 중국어를 이해하고 있는가?](http://ko.experiments.wikidok.net/wp-d/592f718da44f1a4153e80611/View) ] --- name: dl-timeline # 기계학습 분류 <br> <br> .center[ <img src="fig/machine-learning-classification.png" alt="기계학습 분류" width="100%" /> ] --- name: dl-timeline # 신경망 모형 여정 <br> <br> .center[ <img src="fig/dl-timeline.png" alt="timeline" width="100%" /> ] .footnote[ Liangqu Long, Xiangming Zeng (2022), "Beginning Deep Learning with TensorFlow: Work with Keras, MNIST Data Sets, and Advanced Neural Networks", Apress ] --- name: dl-applicatin # 딥러닝 활용사례 .panelset[ .panel[.panel-name[이미지 데이터] .center[ <img src="fig/dl-image.png" alt="이미지 데이터" width="100%" /> ] ] .panel[.panel-name[텍스트 데이터] .center[ <img src="fig/dl-text.png" alt="텍스트 데이터" width="100%" /> ] ] .panel[.panel-name[정형 데이터] .center[ <img src="fig/dl-csv.png" alt="정형데이터" width="100%" /> ] ] .panel[.panel-name[...] ] ] --- name: human-performance # 딥러닝 알고리즘 성능 - 이미지 <br> <br> <img src="index_files/figure-html/unnamed-chunk-5-1.png" style="display: block; margin: auto;" /> .footnote[ [Image Classification on ImageNet](https://paperswithcode.com/sota/image-classification-on-imagenet) ] --- name: human-performance-nlp # 딥러닝 알고리즘 성능 - 텍스트 <br> <br> <img src="index_files/figure-html/unnamed-chunk-6-1.png" style="display: block; margin: auto;" /> .footnote[ [SQuAD2.0 - The Stanford Question Answering Dataset](https://rajpurkar.github.io/SQuAD-explorer/) ] <!-------------------------- 3. 딥러닝 -----------------------------------------> --- class: inverse, middle name: deep-learning # 발표 개요 ---- .pull-left[ 최근 각광받고 있는 **.warmyellow[딥러닝(Deep Learning)]** 은 학문적으로 의미가 있을 뿐만 아니라 기술의 급격한 발전과 디지털 전환에 중요한 역할을 하고 있기 때문에 **컴퓨팅 사고력(Computational Thinking)**의 중요한 축인 **.warmyellow[자동화(automation)]**을 떼고 생각할 수는 없다. 이에, 자동화, 인공지능, 딥러닝을 이해하고 구현하는데 핵심적인 사항을 다뤄본다. ] .pull-right[ .left[ 1\. [자동화](#automation) 2\. [인공지능](#ai) 3\. **[.warmyellow[딥러닝]](#deep-learning)** ] ] <!--end of right-column--> --- name: deep-learning-vs-software # 소프트웨어 2.0 vs. 딥러닝 모형 <br> <br> .center[ ![](fig/software-versions.png) ] .footnote[ Domingos, Pedro. The master algorithm: How the quest for the ultimate learning machine will remake our world. Basic Books, 2015. ] --- name: hidden-technical-debt # 기계학습(딥러닝) 기여분 <br> <br> .center[ ![](fig/hidden-technical-debt.png) ] .footnote[ Sculley, David, et al. "Hidden technical debt in machine learning systems." Advances in neural information processing systems 28 (2015). ] --- name: deep-learning-end2end # 딥러닝 모형 개발 범위 <br> .center[ <img src = "fig/end2end-deep-learning.png" width = "87%"> ] .footnote[ Eli Stevens, Luca Antiga, and Thomas Viehmann (2020), "Deep Learning with PyTorch", Manning. ] --- name: nlp-transformers # Attention & Transformers <br> <br> .center[ <img src = "fig/transformers-attention.png" width = "100%"> ] .footnote[ [Lilian Weng (June 24, 2018), "Attention? Attention!"](https://lilianweng.github.io/posts/2018-06-24-attention/) ] --- name: nlp-bert-gpt # Attention & Transformers → GPT, BERT <br> .center[ <img src = "fig/transformers-gpt-bert.png" width = "100%"> ] .footnote[ [ratsgo's NLPBOOK](https://ratsgo.github.io/nlpbook/docs/language_model/) ] --- name: nlp-big-picture # 인공지능 엔진 개발 <br> .center[ <img src = "fig/big-picture.png" width = "100%"> ] <!-------------------------- N. 마무리 -----------------------------------------> --- name: asia-goodbye class: middle, inverse .pull-left[ # **경청해 주셔서 <br>감사합니다.** <br/> ## 한국 R 사용자회 ] .pull-right[ .right[ <img style="border-radius: 100%;" src="fig/korea_R_logo.png" width="300px"/> ] ]