[인공지능수학] 미분

미분의 기초

미분이란 "순간의 변화율"을 구하는 것 입니다.

여기서 변화율이 무엇인지 살펴 봅니다.

원당이가 집에서 8시에 출발해서 2km 떨어진 회사까지 걸어가서 도착하니 10시가 되었다. 그렇다면 속도는 거리/시간 이므로 1km/h 가 된다.

이때 위치의 변화 = 변화후의 위치 - 변화 전의 위치가 되고 시간의 변화 = 변화후의 시간 - 변화전의 시간 이 되며 속도는 위치의변화/시간의변화 로 정의 할 수 있습니다.

하지만 이것은 평균속도이며 원당이가 회사까지 걸어가는 동안 횡단보도에서 대기할때도 있고 오르막길에서 천천히 걷는 경우도 있고 내리막길에서 빨리 걸어 가는 경우도 있을것입니다.

즉 위의 속도는 평균 변화율이며 평균변화율은 위치의변화/시간의 변화 =  Δy/Δx = f(b)-f(a)/b-a 와 같이 나타낼 수 있고 그래프는 이런 느낌이 되겠네요.

여기서 9시 45분경의 속도를 구하는 것을 순간변화율이라고 합니다.

순간변화율 x=a 한 점에서 f'(a) 는 다음과 같이 구할 수 있습니다.

 

여기서 y = xⁿ 을 미분하는 것을 살펴 보겠습니다.

미분하는 의미는 xⁿ 의 변화를 x의 변화로 나누는 의미이므로 x가 x+h 로 변화 했을때 xⁿ 의 평균변화율을 구하는 것입니다.

xⁿ의 평균변화율 = ((x+h)ⁿ-xⁿ)/((x+h)-x)

위와 같이 표현이 가능하고 이것을 전개해서 정리하면

xⁿ의 평균변화율 = nx^n-1 + h가 곱해진식 

이 되며 h가 곱해진 식은 0 에 가까워 지므로

xⁿ 을 x로 미분해서 얻은 도함수는 nx^n-1 이 됩니다.

 

상미분과 편미분

미분공식

• y=x^r 일 때 dy/dx = rx^r-1
• d{f(x)+g(x)}/dx = df(x)/dx + dg(x)/dx
• d{kf(x)}/dx=k*df(x)/dx

이러한 미분은 변수가 하나만 있는 함수, 즉 변수가 x하나만 있는 함수의 미분을 상미분이라고 합니다.

그렇다면 z = f(x,y) = 3x² + 2xy + 2y² 와 같이 두개 이상 있는 함수는 어떻게 해야 할까요?

Δz = f(x+Δx , y+Δy) - f(x,y)

= 3(x+Δx)² + 2(x+Δx)(y+Δy) +2(y+Δy)² - (3x² + 2xy + 2y²) 

이렇게 한 후에 Δx,Δy -> 0 과 같이 극한값을 구하면 함수 f(x,y)의 미분을 구할 수 있습니다.

이러한 미분을 전미분이라고 합니다.

이때 x,y 가 동시에 이동하면 처리가 복잡하므로 하나를 고정 하고 하나를 움직이는 경우를 생각해 봅니다.

y를 상수라고 생각하고 Δx->0 으로 생각할 수 있는데 이런 접근 방식을 x에 대한 편미분 이라고 합니다.

또는 x를 상수라고 생각하고 Δy->0 으로 생각할 수 있는데 이때는 y에 대한 편미분이라고 합니다.

 

인공지능에서의 활용

• 인공지능분야에서는 함수의 값이 어느지점에서 최소가 되는지를 알아내는 것이 중요합니다.
• 예를 들어 손실함수는 정답과 예측값 사이의 오차를 표현하는 수인데 인공지능 분야에서는 이 함수의 값을 최소로 만들기 위해 다양한 기법을 사용합니다.
• 손실함수를 미분하면 어떤 특정지점에서 어느정도의 기울기가 나오는지를 알 수 있습니다.
• 신경망에서는 학습한 결과로 도출된 답이 정답 데이터에 가까워질 수 있도록 가중치를 조정하는 과정을 반복하며 이렇게 학습결과와 실제정답의 오차값을 가중치로 편미분 한 다음 그 값을 가중치의 조정량으로 사용합니다.

 

[참고]

인공지능을 위한 수학

 

[인천 서구 원당컴퓨터학원]

 

[IT 관련 뉴스]

코딩 대학 필수과목으로~ - https://news.sbs.co.kr/news/endPage.do?news_id=N1006637411 

코딩, 대학 필수 과목으로…'네카라쿠배' 취업 위한 건가요?

서울대.카이스트 총장 AI교육 강화 안하면 낙오 - https://www.chosun.com/national/education/2021/07/19/E43VMVUEORH6XETKY6GJX7FVKA/

서울대·카이스트 총장 “한국, AI교육 강화 안하면 낙오”

삼성전자 모든직군 신입사원에 코딩교육-융복함 인재 육성나서 - https://bizn.donga.com/home/3/all/20220128/111500801/2?ref=main&fbclid=IwAR1AceBzKQEuvPR7gS9ko8T6msvKLv_QlufWLMZvoDjSKFVN4uVAapO_ywI 

삼성전자, 모든 직군 신입사원에 코딩 교육… 융·복합 인재 육성 나서

AI시대 이끌 미래교육 대전환 필요하다. - https://www.sciencetimes.co.kr/news/ai-%EC%8B%9C%EB%8C%80-%EC%9D%B4%EB%81%8C-%EB%AF%B8%EB%9E%98%EA%B5%90%EC%9C%A1-%EB%8C%80%EC%A0%84%ED%99%98-%ED%95%84%EC%9A%94%ED%95%98%EB%8B%A4/

“AI 시대 이끌 미래교육, 대전환 필요하다” – Sciencetimes