Mathematics2021. 2. 26. 19:12

 

아래 사이트에 선형 회귀를 C++로 직접 구현한 소스 코드를 업로드하였고, 마지막 커밋을 기준으로 실습은 마무리 되었다.

  • Changes
    • 21.02.25 - 아래에 대한 홀드아웃법(holdout method)을 통한 교차검증 코드가 올라가 있다.
    • 21.02.21 - 릿지회귀(ridge regression) 및 보스턴 주택가격 데이터세트(Boston Housing Dataset) 풀이를 올렸다.
    • 21.02.15 - 연립방정식(linear system) 및 최소제곱법(least squares method)에 대한 코드가 올라가 있다.

 

github.com/jman-9/linear-regression-practice

 

jman-9/linear-regression-practice

Practice of Linear Regression. Contribute to jman-9/linear-regression-practice development by creating an account on GitHub.

github.com

 

 

구현을 위해 영문 위키 및 '인공지능을 위한 수학' 교재 5장을 참고하였다.

 

System of linear equations - Wikipedia

From Wikipedia, the free encyclopedia Jump to navigation Jump to search Collection of linear equations involving the same set of variables A linear system in three variables determines a collection of planes. The intersection point is the solution. In math

en.wikipedia.org

 

Least squares - Wikipedia

From Wikipedia, the free encyclopedia Jump to navigation Jump to search Approximation method in statistics The result of fitting a set of data points with a quadratic function Conic fitting a set of points using least-squares approximation The method of le

en.wikipedia.org

 

Overfitting - Wikipedia

From Wikipedia, the free encyclopedia Jump to navigation Jump to search Analysis that corresponds too closely to a particular set of data and may fail to fit additional data Figure 1.  The green line represents an overfitted model and the black line repre

en.wikipedia.org

 

Regularization (mathematics) - Wikipedia

From Wikipedia, the free encyclopedia Jump to navigation Jump to search This article only describes one highly specialized aspect of its associated subject. Please help improve this article by adding more general information. The talk page may contain sugg

en.wikipedia.org

 

5장 선형회귀(3절:선형회귀 모델) - 응용편 - 인공지능을 위한 수학

교재링크(광고 아님): freelec.co.kr/book/인공지능을-위한-수학/ 선형회귀모델(linear regression model) 선형회귀분석을 위해 사용하는 수식. 모델=수식 이라고 생각해도 당장의 큰 문제는 없다. 독립변수(

swjman.tistory.com

 

5장 선형회귀(4절:최소제곱법으로 파라미터 도출하기) - 응용편 - 인공지능을 위한 수학

교재링크(광고 아님): freelec.co.kr/book/인공지능을-위한-수학/ ※ 교재의 내용에서 좀 더 보강이 필요하여 잔차(residual)와 최소절대편차(least absolute deviation) 등을 추가함. 잔차(residual) 관측값(obs..

swjman.tistory.com

 

최소제곱법(least squares method)이 편미분을 하고 편도함수의 출력을 0으로 놓는 이유

교재 '인공지능을 위한 수학' 응용편의 최소제곱법에 대한 내용을 공부했었다. 아래는 이를 정리한 포스트다. 5장 선형회귀(4절:최소제곱법으로 파라미터 도출하기) - 응용편 - 인공지능을 위한

swjman.tistory.com

 

5장 선형회귀(5절:정규화로 과학습 줄이기) - 응용편 - 인공지능을 위한 수학

여기까지 공부를 (제대로)했다면 선형회귀를 직접 코딩으로 만들 수 있게 된다. 그래서, 아래의 포스트에 실습 자료를 올려 두었으니, 참고가 되시면 좋겠다. 선형 회귀(Linear Regression) 실습 - C++

swjman.tistory.com

 

5장 선형회귀(6절:완성된 모델 평가하기) - 응용편 - 인공지능을 위한 수학

이번 절도 모델 평가 관련 실습 코드를 작성하였으니, 참고하시기 바란다. 선형 회귀(Linear Regression) 실습 - C++ 소스 코드 아래 사이트에 선형 회귀를 C++로 직접 구현한 소스 코드를 업로드하고 있

swjman.tistory.com

 

Posted by JMAN