인공지능

경사 하강 알고리즘이란 경사 하강 알고리즘은 비용 함수 J 를 최소화 하는 θ를 구하는 알고리즘입니다. 과정은 아래와 같습니다 θ에 대해 임의의 초기값을 설정합니다. J 가 최소가 될때 가지 θ 갱신을 반복하며 최솟값에 도달했을 때 해당하는 θ 값을 찾습니다. 갱신 직전 값과 갱신 값이 같을 때 종료됩니다. 미분을 하는 이유 미분 값은 특정 지점에서의 기울기를 의미합니다. Global minima 지점이 있을 때 특정 θ 값에서 기울기가 양수이면 기울기의 반대 방향으로 θ 값을 변형시키면 최소값 지점으로 이동시킬 수 있습니다. Learning Rate (학습 속도) Learning Rate 가 지나치게 작을 때와 클 때를 비교해보겠습니다. https://www.jeremyjordan.me/nn-learn..

Accuracy 정확도는 말 그대로 얼마나 정확하냐를 측정하는 지표, 예를들어 개와 고양이를 분류하는 모델에서 전체 (개 5장, 고양이 5장) 10장중 9장을 올바르게 분류하고 1장을 다르게 분류했다면 해당 모델의 정확도는 90%가 됨. 이를 보다 정확하게 표현하면 아래와 같음 correct predictions / total predictions 하지만 정확도는 데이터가 불균형할때는 좋지않은 방법임 (개 99마리, 고양이 1마리) 인 경우 정확도가 99퍼센트여도 고양이가 틀려버리면 해당 모델은 좋은 성능의 모델이 아니기 때문에 Solving imbalanced data through metrics 데이터 불균형 문제를 해결하는 하나의 방법 = F1 Score 사용 예측 오류 개수만 관련되는 것이 아닌 ..

4강 목차 Backpropagation cost function 의 값이 최소가 되도록하는 W 와 b를 찾을 수 있도록하는 알고리즘 예시 1 $$ q = x+y,\frac{\partial q}{\partial x} = 1,\frac{\partial q}{\partial y} = 1 $$ $$ f = qz,\frac{\partial f}{\partial q} = z,\frac{\partial f}{\partial z} = q $$ $$ \frac{\partial f}{\partial x} = ?, \frac{\partial f}{\partial y} = ?, \frac{\partial f}{\partial z} = ? $$ 풀이 1 Gradient flow Paterns in backword flow Ad..

기존의 이미지 분류 프로세스 Image → Classify → Result (물체의 종류) 한계점 카메라 각도의 변환 조명 문제 배경과 물체가 제대로 구분되지 않는 경우 폐색: 물체가 다른 사물에 제대로 가려져서 보이지 않는 경우 CNN 이전의 이미지 분류 방법 Image → Find Edge → Find Corner → Result Data driven approach 데이터 수집 수집한 데이터를 위한 분류기 개발 테스트 셋에서의 검증 Distance metric to compare images L1 Distance 좌표계에 따라서 거리 값이 달라질 수 있음 각각의 벡터가 특징을 가지고 있을 때 사용 L2 Distance 특정 벡터가 일반적이고 요소들간의 실질적인 의미를 살 모를 때 사용 Setting..