[Boost Camp] WEEK2 Day1. Deep Learning Basic

Artificial Inteligence(인공지능)

- 사람의 지능을 모방한 것

 

Merchine Learning(머신러닝)

-데이터를 통해 학습

 

Deep Learning Point

1. 데이터 : 이미지분류 -이미지 데이터 필요

자연어분류 - 말뭉치의 데이터 필요

2.모델 : 데이터를 바탕으로 학습시키고자하는 모델이 필요

input : Image -> output : Label 

3. Loss Function : 모델 학습에 필요한 손실함수, 

학습의 목적: Loss function을 최소화하는 것이 목적

4. Algorithm: Loss function의 극소점을 가기위한 알고리즘

 

1. Data

풀고자하는 문제에 따라 데이터가 달라진다

-Classification : 이미지 분류

-Semantic Segmentation : 이미지의 픽셀별로 분류

-Detection : 물체에 대한 바운딩 찾기

-Pose Estimation : 동작에 대한 스켈레톤 정보를 찾기

-Visual Q&A : 이미지가 주어지고 질문이 주어졌을 때, 질문에 대한 답을 주는 것

 

2.Model

어떠한 데이터가 주어졌을 때 우리가 알고싶은 정보로 바꿔주는 것

모델의 성질에 따라서 결과 값이 달라짐

 

3.Loss Function

각각의 Task마다 Loss function이 달라진다.

 

4.(Optimization) Algorithm

데이터와 모델을 지정하고 Regularization performace을 좋게하는 방향으로 알고리즘을 지정

 

Neural network

선형 -> 비선형이 반복적으로 일어나는 연산으로 우리가 목표하는 결과를 얻는 함수에 근사하는 것

Loss function에 역전파를 이용해 W,b의 최적값을 찾는다.

= 손실함수를 최소화시킨다.

 

 

네트워크 쌓기

네트워크를 여러겹 쌓으며 선형 -> 비선형의 구조로 쌓는다

비선형의 구조 -activation function(활성함수)

활성화 함수를 레이어마다 쌓는 이유는? vanishing gradient, exploding gradient을 막을 수 있다.

 

Activation Function

-대체적으로 Relu을 사용