1장 기초 수학(8~10절) - 기본편 - 인공지능을 위한 수학

 

교재링크(광고 아님): freelec.co.kr/book/인공지능을-위한-수학/

 

1-8 시그모이드 함수

시그모이드 함수(sigmoid function) : 아래 수식으로 표현되는 함수. 인공지능 분야에서 활성화 함수로 많이 쓰임

$$ \varsigma_{a}(x) = \frac{1}{1 + e^{-ax}} $$

표준 시그모이드 함수(standard sigmoid function) : 위 수식에서 a가 1인 수식. 아래와 같이 표현

$$ \varsigma(x) = \frac{1}{1 + e^{-x}} $$

활성화 함수(activation function) : 인공지능 모델의 표현력을 높여주는 함수. 데이터 경계를 강조하여 눈에 띄게 만들어준다고 함.

ReLU(Rectified Linear Unit) : 딥러닝 분야 중 DNN과 CNN에서 많이 쓰이는 활성화 함수

tanh(hyperbolic tangent) : 그래프로 그리면 곡선이 두개 나오는(쌍곡선) 함수 중 하나. 시그모이드 함수와 그래프가 유사하다. 딥러닝 분야 중 LSTM에서 많이 쓰인단다.

 

 

1-9 삼각함수

삼각법(trigonometry) : 삼각형의 각 요소들을 활용한 수학의 한 분야

삼각함수(trigonometric function) : 각도를 인자로 가지는 함수. 대표적으로 sin, cos, tan

단위원(unit circle) : 반지름이 1인 원

원주율(Pi) : 매우 간단히 정의하면 단위원의 둘레. 계산 방법은 매우 복잡하다. 특별한 영어 명칭은 없고 기호 π(Pi, 파이)로 그대로 부름.

도수법(degree) : 일명 각도법. 삼각함수의 인자를 360˚로 표현하는 방법

호도법(radian) : 삼각함수의 인자를 원주율의 비율로 표현하는 방법. 예를 들어 180도는 1π, 360도는 2π.

1라디안(1rad) : 원의 반지름과 같은 길이의 호(곡선 부분)의 각도. 어떤 크기의 원이라도 이 값은 동일하다.

치역(range) : 어떤 함수가 출력할 수 있는 값의 범위 또는 집합. 예를 들어 sin 함수는 -1 ≤ sinθ ≤ 1 인 실수값만 출력할 수 있다. 출력 값이 연속적이어야 할 필요는 없기 때문에 집합도 가능하다.

주기함수(periodic function) : 일정한 거리마다 같은 출력값을 가지는 함수. 그 거리(distance)가 바로 주기(period)다.

우함수(even function) : f(-x) = f(x) 인 함수. 즉, y 축을 중심으로 대칭을 이루는 함수. 대표적인 함수는 cos 함수.

기함수(odd function) : f(-x) = -f(x) 인 함수. 즉, 사선으로 대칭을 이루는 함수. 대표적인 함수는 sin 함수. cos 함수와의 위상차 90도로 인해 완전히 다른 함수가 되었다.

푸리에 변환(fourier transform) : 임의의 파형을 삼각함수의 덧셈으로 표현하는 변환법. 인공지능/음성/영상 분야 등 IT 분야 곳곳에 널리 쓰인다.

 

 

1-10 절댓값과 유클리드 거리

절댓값(absolute value) : 다양한 정의가 가능하겠으나, 거리 개념으로 설명하면 0과의 거리를 의미함. 거리는 음수가 없음. 수식 표현은 |-3|, |s| 같이 양 쪽에 막대기로 감싸줌. 입출력이 있기 때문에 함수 표현이 된다.

유클리드 거리(Euclidean distance) : 두 점의 직선 거리. 피타고라스 정리를 통해 거리를 구함. 기호 표현은 ||A||, ||A-B|| 이며, 이 기호는 norm이라고 부른다(이 역시 함수).

k-NN(k-Nearest Neighbors) 알고리듬 : 유클리드 거리를 이용해서 데이터를 분류하는 방법. 인공지능 분야에서 쓰임. 대표적인 지도학습법.

지도학습(supervised learning) : 정답 예제가 미리 준비되어 있어 훈련 데이터들을 이에 맞게 학습시키는 방법