Microsoft MVP성태의 닷넷 이야기
Math: 58. C# - 최소 자승법의 1차, 2차 수렴 그래프 변화 확인 [링크 복사], [링크+제목 복사]
조회: 1226
글쓴 사람
홈페이지
첨부 파일

C# - 최소 자승법의 1차, 2차 수렴 그래프 변화 확인

지난 글에서 최소 자승법(최소 제곱법)을 다뤘고,

C# - 해석학적 방법을 이용한 최소 자승법
; https://www.sysnet.pe.kr/2/0/11924

PLplot을 윈도우 화면으로 출력하는 방법도 배웠으니,

C# - PLplot 출력을 파일이 아닌 Window 화면으로 변경
; https://www.sysnet.pe.kr/2/0/11935

이제 ^^ 최소 자승법이 theta 값을 수정하면서 그래프가 점점 근사해가는 모습을 눈으로 확인할 수 있습니다. ^^

따라서 지난 2개의 글에 실린 예제 코드를 합치면,

private void GraphLSM()
{
    MLContext ctx = new MLContext();

    IDataView data = ctx.Data.LoadFromTextFile<ClickData>("click.csv", separatorChar: ',', hasHeader: true);

    // 표준화
    var xyList = ctx.Data.CreateEnumerable<ClickData>(data, false).NormalizeZscore();

    // 매개변수 초기화
    double theta0 = SystemRandomSource.Default.NextDouble();
    double theta1 = SystemRandomSource.Default.NextDouble();

    // 예측 함수
    Func<double, double> f = (x) => theta0 + theta1 * x;

    // 목적 함수
    Func<double, double, double> errorFunc = (x, y) => Math.Pow((y - f(x)), 2);
    Func<IEnumerable<ClickData>, double> E = (list) => 0.5 * list.ForEach((e) => errorFunc(e.X, e.Y)).Sum();

    // 학습률
    double ETA = 1e-03;

    // 오차의 차분
    double diff = 1.0;

    // 갱신 횟수
    int count = 0;

    // 오차의 차분이 0.01 이하가 될 때까지 매개변수 갱신을 반복
    double error = E(xyList);

    // 그래프를 그리기 위한 데이터 준비
    double[] xData = xyList.Select((elem) => elem.X).ToArray();
    double[] yData = xyList.Select((elem) => elem.Y).ToArray();

    double xMin = xData.Min();
    double xMax = xData.Max();
    double yMin = yData.Min();
    double yMax = yData.Max();
    double[] ptX = Utils.RangeInclusive(xMin, xMax, 0.01).ToArray();
    double[] ptY = ptY = new double[ptX.Length];

    string title = $"{count:#}th: t0 = {theta0:#.00}, t1 = {theta1:#.00}, diff = {diff:#.00}";
    this.DoubleBuffered = true;
    this.BackgroundImage = DrawPlotChart(xMin - 0.1, xMax + 0.1, yMin - 0.1, yMax + 0.1, title, DrawPlot);

    while (diff > 1e-02)
    {
        Thread.Sleep(100);
        // 갱신 결과를 임시 변수에 저장
        double tmp_theta0 = theta0 - ETA * xyList.ForEach((e) => f(e.X) - e.Y).Sum();
        double tmp_theta1 = theta1 - ETA * xyList.ForEach((e) => (f(e.X) - e.Y) * e.X).Sum();

        // 매개변수 갱신
        theta0 = tmp_theta0;
        theta1 = tmp_theta1;

        // 이전 회의 오차와의 차분을 계산
        double currentError = E(xyList);
        diff = error - currentError;
        error = currentError;

        count++;
        title = $"{count:#}th: t0 = {theta0:#.00}, t1 = {theta1:#.00}, diff = {diff:#.00}";
        this.BackgroundImage = DrawPlotChart(xMin - 0.1, xMax + 0.1, yMin - 0.1, yMax + 0.1, title, DrawPlot);
    }

    void DrawPlot(PLStream pl, string text)
    {
        pl.lab("x", "y", text);
        pl.col0(PLplot.Color.Blue);

        for (int i = 0; i < xData.Length; i++)
        {
            pl.poin(xData[i], yData[i], Symbol.Bullet);
        }

        pl.lsty(LineStyle.ShortDashesShortGaps);

        {
            for (int i = 0; i < ptX.Length; i++)
            {
                ptY[i] = f(ptX[i]);
            }

            pl.line(ptX, ptY);
        }
    }
}

실행 시 다음과 같은 애니메이션을 볼 수 있습니다.

lsm_plot_ing_1.gif

해본 김에, 2차 함수 그래프로 근사하는 장면도 볼 수 있고.

lsm_plot_ing_2.gif

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 6/11/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12255정성태7/6/202021.NET Framework: 923. C# - ETW(Event Tracing for Windows)를 이용한 Finalizer 실행 감시파일 다운로드1
12254정성태7/2/202029오류 유형: 626. git - REMOTE HOST IDENTIFICATION HAS CHANGED!
12253정성태7/2/202068.NET Framework: 922. C# - .NET ThreadPool의 Local/Global Queue파일 다운로드1
12252정성태7/2/202060.NET Framework: 921. C# - I/O 스레드를 사용한 비동기 소켓 서버/클라이언트파일 다운로드2
12251정성태7/1/202089.NET Framework: 920. C# - 파일의 비동기 처리 유무에 따른 스레드 상황파일 다운로드2
12250정성태7/1/2020284.NET Framework: 919. C# - 닷넷에서의 진정한 비동기 호출을 가능케 하는 I/O 스레드 사용법 [1]파일 다운로드1
12249정성태6/29/202029오류 유형: 625. Microsoft SQL Server 2019 RC1 Setup - 설치 제거 시 Warning 26003 오류 발생
12248정성태6/29/202025오류 유형: 624. SQL 서버 오류 - service-specific error code 17051
12247정성태6/29/2020110.NET Framework: 918. C# - 불린 형 상수를 반환값으로 포함하는 3항 연산자 사용 시 단축 표현 권장(IDE0075) [2]파일 다운로드1
12246정성태6/29/202056.NET Framework: 917. C# - USB 관련 ETW(Event Tracing for Windows)를 이용한 키보드 입력을 감지하는 방법
12245정성태6/25/2020198.NET Framework: 916. C# - Task.Yield 사용법 (2) [2]파일 다운로드1
12244정성태6/29/202077.NET Framework: 915. ETW(Event Tracing for Windows)를 이용한 닷넷 프로그램의 내부 이벤트 활용파일 다운로드1
12243정성태6/23/202057VS.NET IDE: 147. Visual C++ 프로젝트 - .NET Core EXE를 "Debugger Type"으로 지원하는 기능 추가
12242정성태6/24/202033오류 유형: 623. AADSTS90072 - User account '...' from identity provider 'live.com' does not exist in tenant 'Microsoft Services'
12241정성태6/26/2020105.NET Framework: 914. C# - Task.Yield 사용법파일 다운로드1
12240정성태6/23/202076오류 유형: 622. 소켓 바인딩 시 "System.Net.Sockets.SocketException: An attempt was made to access a socket in a way forbidden by its access permissions" 오류 발생
12239정성태6/21/202057Linux: 30. (윈도우라면 DLL에 속하는) .so 파일이 텍스트로 구성된 사례
12238정성태6/21/202088.NET Framework: 913. C# - SharpDX + DXGI를 이용한 윈도우 화면 캡처 라이브러리
12237정성태6/20/2020103.NET Framework: 912. 리눅스 환경의 .NET Core에서 "test".IndexOf("\0")가 0을 반환
12236정성태6/19/202063오류 유형: 621. .NET Standard 대상으로 빌드 시 dynamic 예약어에서 컴파일 오류 - error CS0656: Missing compiler required member 'Microsoft.CSharp.RuntimeBinder.CSharpArgumentInfo.Create'
12235정성태6/19/202043오류 유형: 620. Windows 10 - Inaccessible boot device 블루 스크린
12234정성태6/19/202043개발 환경 구성: 494. NuGet - nuspec의 패키지 스키마 버전(네임스페이스) 업데이트 방법
12233정성태6/19/202036오류 유형: 619. SQL 서버 - The transaction log for database '...' is full due to 'LOG_BACKUP'. - 두 번째 이야기
12232정성태6/19/202030오류 유형: 618. SharePoint - StoreBusyRetryLater 오류
12231정성태6/15/2020111.NET Framework: 911. Console/Service Application을 위한 SynchronizationContext - AsyncContext
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...