활성화함수란 인공 신경망에서 입력을 변환하는 함수이며 ReLU,시그모이드함수,tanh 함수 등이 대표적인 활성함수이다. 인공 신경망은 뉴런을 본따서 만든 기계학습 알고리즘입니다. 뉴런의 이미지를 살펴 보면 다음과 같습니다. 이러한 뉴런을 본따 만든 인공신경망은 입력값과 가중치 값을 이용하여 출력 여부를 나타냅니다. 위의 이미지는 3개의 입력 데이터를 이용해 2개의 출력 데이터를 만드는 인공신경망의 그림입니다. 이때 hidden을 살펴 보면 3개의 데이터를 입력으로 받아 2개를 출력 하는 뉴런과 같은 신경망이며 각각의 유닛을 살펴 보면 다음과 같은 형태로 나타낼 수 있습니다. 이때 각각의 출력 y1,y2 에 대해 출력신호 y=0,1 로 표현을 할 수 가 있습니다. 어떤 입력값 x1,x2,x3 에 대해 어떤..