🚪 활성함수는 퍼셉트론의 "문지기"입니다. 계산한 값을 보고 다음 뉴런에게 얼마나 전달할지, 아니면 전달하지 않을지를 결정합니다.
🌊 시그모이드
값을 0~1 사이의 부드러운 값으로 바꿔줘요. 0.5보다 크면 "그렇다", 작으면 "아니다"로 봐요.
📈 렐루
양수는 그대로 통과, 음수는 0으로 막아버리는 간단한 문지기예요. 오늘날 은닉층에서 가장 많이 쓰여요.
문제 유형에 따라 정해진 출력층 활성함수
은닉층에서는 활성함수를 비교적 자유롭게 고를 수 있지만, 출력층에서는 문제 유형에 따라 정해진 활성함수를 사용합니다.
아래 번호를 하나씩 눌러서 확인해 보세요.
이진분류 → 시그모이드
둘 중 하나를 고르는 문제(예: 합격/불합격)는 출력값을 0~1 사이로 바꿔주는 시그모이드를 사용해요. 0.5 이상이면 1, 미만이면 0으로 판단해요.
다중분류 → 소프트맥스
3개 이상 중 하나를 고르는 문제(예: 강아지/토끼/고양이)는 소프트맥스를 사용해요. 각 종류일 확률을 다 더하면 1이 되도록 계산해줘요. (예: 강아지 70%, 토끼 20%, 고양이 10%)
회귀 → 사용 안 함
숫자를 그대로 맞히는 회귀 문제는 보통 출력층에 활성함수를 쓰지 않아요. (예측값이 항상 양수라면 렐루를 쓰기도 해요.)
배운 내용 확인하기
Q3-3. 강아지/토끼/고양이 중 하나를 맞히는 다중분류 문제의 출력층에는 어떤 활성함수를 사용할까요?