2장 신경망을 위한 수학 기초(1~3절) - 처음 배우는 딥러닝 수학

 

교재링크(광고 아님): https://www.hanbit.co.kr/store/books/look.php?p_code=B6703128448

 

2-1 신경망의 필수 함수

2-2 신경망의 이해를 돕는 수열과 점화식

2-3 신경망에서 많이 사용하는 시그마 기호

 

이 섹션들은 '인공지능을 위한 수학' 교재에서 공부한 내용들과 중복된 부분은 내부 링크로 대체하고, 중복되지 않은 부분만 특별히 기록한다.

 

2-1 신경망의 필수 함수

1차 함수, 2차 함수

1장 기초 수학(1~3절) - 기본편 - 인공지능을 위한 수학

 

지수함수와 시그모이드 함수

1장 기초 수학(4~7절) - 기본편 - 인공지능을 위한 수학

1장 기초 수학(8~10절) - 기본편 - 인공지능을 위한 수학

 

확률 밀도 함수(probability density function)

연속확률분포(continuous probability distribution)를 함수로 표현한 것. 이산확률분포(discrete probability distribution)에 대해서는 확률질량함수(probability mass function)가 대응된다. 관련한 간단한 설명은 아래 포스트 참조.

4장 확률과 통계(2절:확률변수와 확률분포) - 기본편 - 인공지능을 위한 수학

 

정규 분포(normal distribution)

아래의 확률밀도함수가 나타내는 분포를 뜻한다. 연속확률분포 중 가장 유명하다.

$$f(x) = \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$$

분포도는 너무 유명해서 첨부 생략. μ(뮤)와 σ(시그마)는 사용하기 전에 미리 정하는 상수이다. μ는 기댓값(expected value)이고, σ는 표준편차(standard deviation)인데, 뮤는 0, 시그마는 1인 경우가 전형적이다(표준정규분포). 그래프로 본다면 뮤는 y축의 높이가 되겠고, 시그마는 x축의 길이가 되겠다.

 

 

2-2 신경망의 이해를 돕는 수열과 점화식

수열(sequence)

1장 기초 수학(11~12절) - 기본편 - 인공지능을 위한 수학

 

점화식(recurrence relation)

수열을 재귀적(recursive)으로 표현한 식. 별도 포스트에 좀 더 자세한 내용을 담아 보았다.

일반항과 점화식. 그리고 NP문제

 

연립 점화식(system of recurrence relations)

두개 이상의 점화식이 서로 의존관계에 있는 경우를 뜻한다. 연립방정식의 변수를 점화식 수열로 놓은 모양이다. 참고로 해당 용어에 대해 한글로는 구글링에 사실상 실패했고, 영어로도 많은 자료가 보이지는 않는데, 신경망에서는 매우 중요한 개념인 것으로 보아 상용되는 용어는 달리 존재할 것 같다.

 

 

2-3 신경망에서 많이 사용하는 시그마 기호

시그마 기호는 수열의 합을 나타내는 기호이다. 특별한 공부가 필요할까 싶어 생략하기로.