1. 수열이란
수열은 수를 나열한 것을 의미한다.
즉 1,2,3,4... 와 같이 수를 나열하고 첫번째항은 1항,두번째 항은 2항,.... n번째 항은 n항이라고 한다.
바로 위의 수열에서 1항은 1,2항은 2 의 값을 갖는다.
신경망의 수열은 유한개 항 수를 갖는 수열이다.
이렇게 유한개 항 수를 갖는 수열을 유한수열이라고 하며 마지막 항은 말항(final term) 또는 끝항 이라고 한다.
만약 1,4,7,10 과 같은 수열이 있다면 말항은 10이다.
2. 수열의 일반항
일반항이란 수열에서 n번째 항을 의미한다.
n은 자연수로 수열의 모든 항을 n에 대한 식으로 나타낸 것이다.
따라서 일반항은 n에 대한 함수의 성격을 가진다.
예를 들어 2,4,6,8... 과 같은 수열의 n번째 항은 2*n의 값을 갖는다.
따라서 일반항은 2*n 이다.
홀수열 1,3,5,7,9... 와 같은 수열의 일반항은 어떻게 될까?
n번째 값은 2*n-1 의 값을 찾을 수 있다.
신경망에서 유닛의 가중 입력과 출력은 수열로 간주한다.
몇번째 층의 몇번째 수는 몇개 와 같이 순서로 값이 결정되기 때문이다.
따라서 다음처럼 수열과 비슷한 기호로 값을 표현한다.
$$a_j^l (l층의 j번째 유닛의 출력값) $$
3. 수열과 점화식
수열에는 일반항 외에도 중요한 표현법이 있다.
이웃에 있는 항의 관계로 표현하는 수열의 귀납적 정의이다.
일반적으로 1항 a1과 인접한 2개의 항 an,an+1 의 관계식으로 수열 {an} 을 표현한다.
이 관계식을 점화식이라고 한다.
예를 들어 1항이 a1=1이고 관계식이 an+1=an+2로 주어졌다면 다음과 같은 수열이 된다.
a1 = 1
a2 = a1 + 2 = 3
a3 = a2 + 2 = 5
...
여기서 사용한 관계식이 점화식이다.
이러한 수열의 항에서 규칙을 찾아 1항과 점화식을 표현하는 귀납적 정의도 있다.
예를 들어 1,2,3,4,5,.... 와 같은 수열이 있다면 초항 a1=1 이고 점화식은 an+1= an+1이 된다.
4. 연립 점화식
연립점화식이란 2개 이상의 점화식을 묶어 놓은 것을 말한다.
예를 들어 다음 두 점화식으로 주어진 수열의 3항까지의 값을 찾아 보자.
1항은 a1=b1=1이고 점화식은 다음과 같다.
$$ \begin{cases}a_{n+1} = a_n+2b_n+2\\b_{n+1} =2a_n+3b_n+1\end{cases} $$
이때 다음처럼 수열의 값 an,bn을 차례로 계산할 수 있다.
$$ \begin{cases}a_2 = a_1+2b_1+2=1+2*1+2=5\\b_2 =2a_1+3b_1+1=2*1+3*1+1=6\end{cases} $$
$$ \begin{cases}a_3 = a_2+2b_2+2=5+2*6+2=19\\b_3 =2a_2+3b_2+1=2*5+3*6+1=29\end{cases} $$
이처럼 여러 수열이 몇가지 관계식으로 연결 된 것을 연립 점화식이라고 한다.
신경망에서는 모든 유닛의 입력과 출력이 연립점화식으로 연결되어 있다고 생각하면 된다.
출처)
한빛미디어 - 처음 배우는 딥러닝 수학
'강의자료 > 인공지능수학' 카테고리의 다른 글
[인공지능수학]1차 함수로 이해하는 선형 회귀 (7) | 2023.06.16 |
---|---|
[기초수학]신경망에서 많이 사용하는 시그마 (10) | 2023.05.26 |
[기초수학] 지수함수 (15) | 2023.03.21 |
[기초수학] 제곱근 (19) | 2023.03.10 |
[인공지능수학] 신뢰구간(Confidence Interval) (17) | 2023.02.24 |