코린이의 공부일기

ML Engineer 란 ? Machine learning의 기술을 이해하고 , 연구하고 Product 을 만드는 Engineer이다. Deep learning의 급부상으로 Product에 Deep learning을 적용하고자 하는 수요가 발생했다. 폭발적인 발전속도로 인해 Researcher와 Enginner의 경계가 모호하다 (연구와 동시에 Product을 개발) 그렇다면 Full stack ML Enginner 란 ? Deep learning research 을 이해하고 ML Product로 만들 수 있는 Enginner이다. + Apple Job Description '코딩을 잘하고, 창의적이고, 다양한 조직의 사람과 협업할 수 있고, 새로운 기술을 배우는 것을 즐기는 개발자' Full stack..

AI 란 ? 사람의 지능을 컴퓨터 시스템으로 구현하는 것 그 지능은 어디까지 일까? 기억과 이해 및 사고능력, 인지능력 등 넓은영역을 다룸. 그렇다면 computer vision과 사람의 시각은 어떤 연관성이 있을까? *사람이 사용하는 오감 중 시각에 가장 많이 의존함. 1. 사람의 관점 2. 컴퓨터 관점 1. Computer Graphics (Rendering) 도출된 정보를 통해서 2D이미지를 Drawing하는 것 2. Computer Vision(Inverse rendering) 1번과 반대로 어떠한 이미지의 정보를 컴퓨터가 읽을 수 있는 정보로 가져오는 것 Computer vision으로 어떻게 사람의 시각 인지능력을 구현할까 ? 기본적인 single layer neural network 의 예시..

드디어 Team competition이 종료 : -) 모두 수고 많았습니다 (◍•ᴗ•◍)❤ - Level 1 대회 주제 - Image Classification - 대회 개요 - COVID-19의 확산으로 우리나라는 물론 전 세계 사람들은 경제적, 생산적인 활동에 많은 제약을 가지게 되었습니다. 우리나라는 COVID-19 확산 방지를 위해 사회적 거리 두기를 단계적으로 시행하는 등의 많은 노력을 하고 있습니다. 과거 높은 사망률을 가진 사스(SARS)나 에볼라(Ebola)와는 달리 COVID-19의 치사율은 오히려 비교적 낮은 편에 속합니다. 그럼에도 불구하고, 이렇게 오랜 기간 동안 우리를 괴롭히고 있는 근본적인 이유는 바로 COVID-19의 강력한 전염력 때문입니다. 감염자의 입, 호흡기로부터 나오는..

이전에 모델링하는 법을 배웠다면 이번엔 만들어진 모델들을 비교해보며 각각의 특징들을 보고 나은 점을 조합하여 더 나은 모델을 만들 수 있지 않을까? Ensemble * 사실 Ensemble은 현업에서는 많이 쓰이지 않는다. -> 그렇지만 성능이 좋아야하는 도메인에서는 꼭 해볼 필요가 있다.!(ex> Kaggle) - Ensamble을 예로들자면 오케라에서 음은 같지만 음색이 다른 소리를 모아 화음을 만드는 것 과 같이 Ensemble은 싱글모델보다 더 나은 성능을 위해 여러 모델을 겹친다. 일반적으로 Ensemble은 여러 모델을 합쳐 Overfitting의 경향성이 생길 확률이 높다. -Boosting 알고리즘은 High Bias에서 많이 쓰이며가중치를 활용해 약 분류기를 -> 강 분류기로 만들어주는 ..

Training and Inference (1) -Loss,Optimizer, Metric 이전 까지 모델을 구성했다면 이번 포스팅은 훈련 Task을 진행해보자 ! Trainging Process의 종류 1. Loss -내가 예측한 output값과 target 값 간의 차이를 Cost 함수라고 부르며 줄이도록 목표를 가지고 Backward을 거치며 Cost함수의 Parameter값들을 최적화된 값으로 업데이트한다. -> 최적화 값을 찾는데에 Loss는 중요한 역할을 가진다. - Loss도 사실은 nn.Module Family이다. Loss함수 자체도 Module처럼 Family로 활동할 수 있다. 그래서 Loss도 Forward함수를 가지고 있다. -loss.backward() loss= criterti..

이전 포스팅까지 Dataset에 대한 포스팅이었다 이제는 데이터가 거칠만한 모델링을 만들어보자! 일반적으로 모델은 정보의 표현을 말한다 그렇지만 그 대상이 사람이거나 시스템이거나 여러가지가 있다. 우리가 말하고자 하는 말하는 모델은 딥러닝 모델이다 즉 , 최적화된 파라미터 를 가지고 있는 성능이 좋은 모델을 만들고자 하는 것이 목표이다 - Design Model with Pytorch 그렇다면 파이토치가 뭘까? =Low Level, Pytonic,Flexibility 라고 할 수 있다 응용력이 뛰어나고 초보자 들에게도 쉽게 배울 수 있는 라이브러리이다. -nn.Module nn.Module 안에는 사진과 같이 conv1,conv2을 가지고 있다. 그 말은 즉슨 Module안에는 여러 모듈들이 가지고 있는..

Dataset Data Processing 내가 원하는 데이터의 형태로 가져오는 것 =문제를 풀기 위해 데이터의 형태를 파악하고 전처리 작업하는 것 Pre-processing (전처리 작업) 사실 제일 어렵고 오래걸리는 것 .... -> 현업에서는 데이터자체에 노이즈가 많고 이상치 값들이 많다. 전처리 작업을 잘한다 = 데이터 성능이 좋다 라고 생각해도 될 정도라고 한다! 1. Bounding box 2. Resize -> 빠르게 학습을하고 결과를 보기 위해서 size을 모델에 맞춰 효율적으로 크기 조절을 하는 것이 좋다. 그렇다면 이미지데이터에서 전처리방식은 어떤 것이 있을까? 어떠한 특수한 도메인에서 특수한 전처리가 중요할 때가 많다 예를들어서 이러한 medical 이미지 데이터에서는 어두워서 잘 보..

2021-08-23 P stage start! * 이전 약 3주 간 진행한 U stage에서 경험한 이론을 바탕으로 실제 데이터와 코드베이스를 통한 이해 * Competition형태의 실습을 통해 점진적인 모델 성능 향상을 경험 * 머신러닝 파이프라인의 한 부분을 경험 P_stage 는이 세가지의 목적을 가지고 시행하는 과정이다. 이 포스팅을 읽기전 이 생각을 갖고 읽어보자! "주어진 데이터를 이용해 원하는 결과를 만들기 위한 가장 좋은 방법이란 뭘까?" 예를 들어, - 댓글 데이터를 이용한 악성 댓글 분류 - 폐 CT 사진을 이용한 폐 질병 예측 등 .. 데이터들을 가지고 원하는 결과 값을 도출하고 싶다면, Competition을 진행해보며 Task을 이해하고 경험하는 것이 중요하다. Competiti..