Microsoft MVP성태의 닷넷 이야기
Math: 57. C# - 해석학적 방법을 이용한 최소 자승법 [링크 복사], [링크+제목 복사]
조회: 1689
글쓴 사람
홈페이지
첨부 파일

C# - 해석학적 방법을 이용한 최소 자승법

다음의 글에 보면,

최소자승법 이해와 다양한 활용예 (Least Square Method)
; https://darkpgmr.tistory.com/56

최소 자승법(최소 제곱법)의 풀이로 대수적 방법과 해석학적 방법이 있다고 하는데요. 대수적 방법은 지난번에 설명했으니, 이번엔 해석학적 방법을 알아보겠습니다. (보다 더 자세한 설명은 "기초 수학으로 이해하는 머신러닝 알고리즘" 책을 참고하시고 여기서는 간략하게 넘어가겠습니다.)

그러니까, 결국 중요한 것은 데이터를 근사하는 방정식의,

fθ(x) = θ0 + θ1x

매개변수 값(θ0, θ1)을 정하는 것입니다. 이를 위해 데이터와의 오차를 계산하는 목적함수에 대해,



각각의 매개변수(θ0, θ1)로 편미분한 도함수를 다음과 같이 정리할 수 있습니다.




도함수가 정해졌으니, 이제 목적함수의 최솟값을 구하기 위해 경사하강법을 사용할 수 있고,

C# - 그래프 그리기로 알아보는 경사 하강법의 최소/최댓값 구하기
; https://www.sysnet.pe.kr/2/0/11923

따라서 도함수의 부호에 따라 매개변수를 근사하는 식은 다음과 같이 정리가 됩니다.




끝났군요. ^^ 이제 위의 동작을 코드로 잘 옮겨주면 연산이 진행될수록 θ0, θ1 값들은 근사한 1차 방정식의 모습을 갖추게 될 것입니다.




말이 좀 어려운데, 사실 코드로 보면 그다지 어렵지 않습니다. ^^

using MathNet.Numerics.Random;
using Microsoft.ML;
using Microsoft.ML.Data;
using PLplot;
using System;
using System.Collections.Generic;
using System.Linq;
using Microsoft.ML.Data;

class Program
{
    static void Main(string[] args)
    {
        MLContext ctx = new MLContext();

        IDataView data = ctx.Data.LoadFromTextFile<ClickData>("click.csv", separatorChar: ',', hasHeader: true);

        // 표준화
        var xyList = ctx.Data.CreateEnumerable<ClickData>(data, false).NormalizeZscore();

        // 매개변수 초기화
        double theta0 = SystemRandomSource.Default.NextDouble();
        double theta1 = SystemRandomSource.Default.NextDouble();

        // 예측 함수
        Func<double, double> f = (x) => theta0 + theta1 * x;

        // 목적 함수
        Func<double, double, double> errorFunc = (x, y) => Math.Pow((y - f(x)), 2);
        Func<IEnumerable<ClickData>, double> E = (list) => 0.5 * list.ForEach((e) => errorFunc(e.X, e.Y)).Sum();

        // 학습률
        double ETA = 1e-03;

        // 오차의 차분
        double diff = 1.0;

        // 갱신 횟수
        int count = 0;

        // 오차의 차분이 0.01 이하가 될 때까지 매개변수 갱신을 반복
        double error = E(xyList);

        while (diff > 1e-02)
        {
            // 갱신 결과를 임시 변수에 저장
            double tmp_theta0 = theta0 - ETA * xyList.ForEach((e) => f(e.X) - e.Y).Sum();
            double tmp_theta1 = theta1 - ETA * xyList.ForEach((e) => (f(e.X) - e.Y) * e.X).Sum();

            // 매개변수 갱신
            theta0 = tmp_theta0;
            theta1 = tmp_theta1;

            // 이전 회의 오차와의 차분을 계산
            double currentError = E(xyList);
            diff = error - currentError;
            error = currentError;

            // 로그 출력
            count++;
            Console.WriteLine($"{count,4:#} 회째: theta0 = {theta0,8:#.0000}, theta1 = {theta1,8:#.0000}, 차분 = {diff,8:#.0000}");
        }

        // 그래프 출력
        double[] xData = xyList.Select((elem) => elem.X).ToArray();
        double[] yData = xyList.Select((elem) => elem.Y).ToArray();
        DrawPlotChart(xData, yData, f);
    }
}

/* 출력 결과
   1 회째: theta0 =   9.3955, theta1 =   2.6899, 차분 = 76048.3710
   2 회째: theta0 =  17.7905, theta1 =   4.5057, 차분 = 73036.8555
   3 회째: theta0 =  26.0177, theta1 =   6.2851, 차분 = 70144.5960
...[생략]...
 384 회째: theta0 = 428.9669, theta1 =  93.4392, 차분 =    .0145
 385 회째: theta0 = 428.9706, theta1 =  93.4400, 차분 =    .0139
 386 회째: theta0 = 428.9742, theta1 =  93.4407, 차분 =    .0133
 387 회째: theta0 = 428.9777, theta1 =  93.4415, 차분 =    .0128
 388 회째: theta0 = 428.9812, theta1 =  93.4422, 차분 =    .0123
 389 회째: theta0 = 428.9845, theta1 =  93.4430, 차분 =    .0118
 390 회째: theta0 = 428.9878, theta1 =  93.4437, 차분 =    .0113
 391 회째: theta0 = 428.9911, theta1 =  93.4444, 차분 =    .0109
 392 회째: theta0 = 428.9943, theta1 =  93.4451, 차분 =    .0105
 393 회째: theta0 = 428.9974, theta1 =  93.4458, 차분 =    .0101
 394 회째: theta0 = 429.0004, theta1 =  93.4464, 차분 =    .0097
*/

출력된 그래프를 보면 잘 근사한 것을 확인할 수 있습니다.

lsm_gradient_descent_1.png

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




그러니까 위의 소스 코드는 "기초 수학으로 이해하는 머신러닝 알고리즘" 책의 파이썬 코드를,

math-for-ml / regression1_linear.py 
; https://github.com/wikibook/math-for-ml/blob/master/regression1_linear.py

C# 버전으로 변경했다고 보면 되겠습니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 5/31/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 



2019-06-11 12시04분
다음의 글에 그래프가 수렴하는 애니메이션을 확인할 수 있습니다. ^^

C# - 최소 자승법의 1차, 2차 수렴 그래프 변화 확인
; http://www.sysnet.pe.kr/2/0/11936
정성태

1  2  3  4  5  6  7  [8]  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12048정성태11/12/2019698Windows: 163. GUID 이름의 볼륨에 해당하는 파티션을 찾는 방법
12047정성태11/12/20191117Windows: 163. 안전하게 eject시킨 USB 장치를 물리적인 재연결 없이 다시 인식시키는 방법
12046정성태11/9/2019621오류 유형: 577. windbg - The call to LoadLibrary(...\sos.dll) failed, Win32 error 0n193
12045정성태10/27/2019517오류 유형: 576. mstest.exe 실행 시 "Visual Studio Enterprise is required to execute the test." 오류 - 두 번째 이야기
12044정성태10/27/2019626오류 유형: 575. mstest.exe - System.Resources.MissingSatelliteAssemblyException: The satellite assembly named "Microsoft.VisualStudio.ProductKeyDialog.resources.dll, ..."
12043정성태10/27/2019630오류 유형: 574. Windows 10 설치 시 오류 - 0xC1900101 - 0x4001E
12042정성태10/26/2019585오류 유형: 573. OneDrive 하위에 위치한 Documents, Desktop 폴더에 대한 권한 변경 시 "Unable to display current owner"
12041정성태10/23/2019471오류 유형: 572. mstest.exe - The load test results database could not be opened.
12040정성태10/23/2019805오류 유형: 571. Unhandled Exception: System.Net.Mail.SmtpException: Transaction failed. The server response was: 5.2.0 STOREDRV.Submission.Exception:SendAsDeniedException.MapiExceptionSendAsDenied
12039정성태10/22/2019618스크립트: 16. cmd.exe의 for 문에서는 ERRORLEVEL이 설정되지 않는 문제
12038정성태10/17/2019483오류 유형: 570. SQL Server 2019 RC1 - SQL Client Connectivity SDK 설치 오류
12037정성태10/15/2019778.NET Framework: 867. C# - Encoding.Default 값을 바꿀 수 있을까요?파일 다운로드1
12036정성태10/21/20191327.NET Framework: 866. C# - 고성능이 필요한 환경에서 GC가 발생하지 않는 네이티브 힙 사용파일 다운로드1
12035정성태10/13/2019644개발 환경 구성: 461. C# 8.0의 #nulable 관련 특성을 .NET Framework 프로젝트에서 사용하는 방법파일 다운로드1
12034정성태1/31/2020901개발 환경 구성: 460. .NET Core 환경에서 (프로젝트가 아닌) C# 코드 파일을 입력으로 컴파일하는 방법 [1]
12033정성태10/11/20191267개발 환경 구성: 459. .NET Framework 프로젝트에서 C# 8.0 컴파일러를 사용하는 방법
12032정성태11/25/2019797.NET Framework: 865. .NET Core 2.2/3.0 웹 프로젝트를 IIS에서 호스팅(Inproc, out-of-proc)하는 방법 - AspNetCoreModuleV2 소개
12031정성태10/7/2019512오류 유형: 569. Azure Site Extension 업그레이드 시 "System.IO.IOException: There is not enough space on the disk" 예외 발생
12030정성태11/12/20192131.NET Framework: 864. .NET Conf 2019 Korea - "닷넷 17년의 변화 정리 및 닷넷 코어 3.0" 발표 자료 [1]파일 다운로드1
12029정성태9/27/2019607제니퍼 .NET: 29. Jennifersoft provides a trial promotion on its APM solution such as JENNIFER, PHP, and .NET in 2019 and shares the examples of their application.
12028정성태9/26/2019731.NET Framework: 863. C# - Thread.Suspend 호출 시 응용 프로그램 hang 현상을 해결하기 위한 시도파일 다운로드1
12027정성태9/26/2019451오류 유형: 568. Consider app.config remapping of assembly "..." from Version "..." [...] to Version "..." [...] to solve conflict and get rid of warning.
12026정성태9/26/2019630.NET Framework: 862. C# - Active Directory의 LDAP 경로 및 정보 조회
12025정성태9/25/2019729제니퍼 .NET: 28. APM 솔루션 제니퍼, PHP, .NET 무료 사용 프로모션 2019 및 적용 사례 (8)
12024정성태9/20/2019820.NET Framework: 861. HttpClient와 HttpClientHandler의 관계
12023정성태9/19/2019755.NET Framework: 860. ServicePointManager.DefaultConnectionLimit와 HttpClient의 관계파일 다운로드1
1  2  3  4  5  6  7  [8]  9  10  11  12  13  14  15  ...