🎯 딥러닝의 학습이란 한마디로 "틀린 정도(오차)를 점점 줄여나가는 것"입니다. 마치 다트를 던지고, 과녁에서 얼마나 빗나갔는지 보고, 다음번엔 더 정확히 던지려고 자세를 조금씩 고치는 것과 비슷해요.
1) 손실함수 - 얼마나 틀렸는지 점수 매기기
AI가 예측한 값과 진짜 정답이 얼마나 다른지를 숫자로 계산해주는 것이 손실함수입니다. 이 숫자(오차)가 작을수록 잘 맞힌 것이고, 딥러닝의 목표는 이 오차를 최대한 줄이는 것입니다.
2) 학습 과정 - 세 걸음을 반복해요
① 순전파 예측값 계산하기
→
② 오차 계산 얼마나 틀렸는지 확인
→
③ 최적화 가중치 살짝 고치기
이 세 걸음을 계속 반복하면서 오차가 점점 작아지도록 만드는 것이 바로 딥러닝의 학습입니다. 예를 들어 예측값이 60인데 실젯값이 80이라면 오차는 20이에요. 학습을 통해 가중치를 조금 바꿨더니 예측값이 75가 됐다면, 오차가 20 → 5로 줄었으니 "학습이 잘 되고 있다"고 볼 수 있어요.
3) 최적화 - 눈 감고 산 내려가기
🏔️ 최적화는 마치 안개 낀 산에서 가장 낮은 골짜기(오차가 가장 작은 지점)를 찾아 조금씩 내려가는 것과 같습니다. 한 걸음의 보폭을 학습률이라고 부르는데, 보폭이 너무 작으면 내려가는 데 시간이 오래 걸리고, 너무 크면 골짜기를 휙 지나쳐 버릴 수도 있어요. 그래서 적당한 보폭을 정하는 게 중요합니다.
4) 배치 사이즈와 에포크 - 문제집 나눠 풀기
학습에 사용할 데이터가 아주 많으면 한 번에 다 넣기 어려워서, 문제집을 나눠서 푸는 것처럼 데이터를 조금씩 나눠 넣습니다.
📦 배치 사이즈
한 번에 푸는 문제 묶음의 크기예요. (전체 문제집을 몇 페이지씩 나눠 풀지)
🔁 에포크
전체 문제집을 처음부터 끝까지 몇 번 다 풀었는지를 나타내는 횟수예요.
5) 오버피팅 - 족보만 달달 외우면 생기는 일
📚 오버피팅은 시험 족보(기출문제)만 완벽하게 통째로 외워서, 정작 살짝 바뀐 응용문제가 나오면 틀려버리는 상황과 비슷합니다. AI가 배운 데이터에만 너무 딱 맞춰져서, 한 번도 보지 못한 새로운 데이터는 오히려 잘 못 맞히는 문제예요.
오버피팅을 막는 방법에는 이런 것들이 있어요.
아래 번호를 하나씩 눌러서 확인해 보세요.
⏹️ 조기종료
한 번도 안 본 문제(검증 데이터)의 점수가 더 이상 좋아지지 않는 시점에 공부를 멈추는 방법이에요.
🎲 드롭아웃
공부할 때 일부러 몇몇 뉴런을 잠깐 쉬게(비활성화) 해서, 특정 부분에만 너무 의존하지 않도록 하는 방법이에요.
배운 내용 확인하기
Q3-2. 시험 기출문제만 완벽히 외워서 새로운 응용문제를 틀리는 것과 비슷한 딥러닝 문제는 무엇일까요?