Microsoft MVP성태의 닷넷 이야기
글쓴 사람
홈페이지
첨부 파일

C# - 그래프 그리기로 알아보는 경사 하강법의 최소/최대 값 구하기

예전에 미분을 이용한,

그래프 그리기로 알아보는 뉴턴-랩슨(Newton-Raphson's method)법과 제곱근 구하기 - C#
; https://www.sysnet.pe.kr/2/0/10911

방정식의 근사해를 알아본 적이 있는데요. 도함수의 다음과 같은 특성을 이용하면,

f' < 0: 최솟값은 우측에.
f' = 0: 최솟값
f' > 0: 최솟값은 좌측에.

최솟값을 (그 반대로는 최댓값을) 근사할 수 있습니다. 예를 들어, f(x) = x^2 - 2x + 1이라는 방정식이 있다면,

gradient_descent_1.png

이것의 도함수는 f'(x) = 2x - 2가 되고, (무작위로 선정한) x = 10으로 시작하는 경우 최솟값을 다음과 같이 이동하면서 근사할 수 있습니다.

f'(10) = 18 > 0: 최솟값은 좌측에 있으므로 다음번 x는 좀 더 작게 시도.
f'( 9) = 16 > 0:  "
f'( 8) = 14 > 0:  "
...            :  "
f'( 1) =  0 = 0:  최솟값

물론 위의 경우에는 1씩 줄여나가다 운이 좋아 정확히 최솟값 위치에 왔지만 단순하지 않은 상황에서는 근삿값에 대한 범위를 마련하고 그것을 만족하는 수준이거나, 아니면 근삿값으로 진행하는 과정 중에 원하는 수준만큼의 변화가 없다면 중단하는 식으로 작성하면 됩니다.

코드로 만들어 보면,

using MathNet.Numerics.Random;
using PLplot;
using System;
using System.Linq;

namespace ConsoleApp2
{
    class Program
    {
        static void Main(string[] args)
        {
            Func<double, double> f = (x) => (x - 1) * (x - 1);
            Func<double, double> df = (x) => 2 * x - 2;

            // 그래프 출력
            DrawPlotChart(-14, 14, -10, 120, f, df);
        }

        private static void DrawPlotChart(double xMin, double xMax, double yMin, double yMax, 
            Func<double, double> orgDrawFunc, Func<double, double> dfDrawFunc)
        {
            string chartFileName = "click.svg";

            using (var pl = new PLStream())
            {
                pl.sdev("svg");
                pl.sfnam(chartFileName);
                pl.spal0("cmap0_alternate.pal");
                pl.init();

                pl.env(xMin, xMax, yMin, yMax, AxesScale.Independent, AxisBox.BoxTicksLabelsAxes);
                pl.lab("X", "Y", "y = x^2 - 2x + 1");

                pl.spal0("");
                pl.col0(PLplot.Color.Blue);

                // y = x ^ 2 - 2x + 1 그래프를 그리고,
                {
                    double[] ptX = Utils.RangeInclusive(xMin, xMax, 0.01).ToArray();
                    double[] ptY = null;

                    ptY = new double[ptX.Length];
                    for (int i = 0; i < ptX.Length; i++)
                    {
                        ptY[i] = orgDrawFunc(ptX[i]);
                    }

                    pl.line(ptX, ptY);
                }

                char code = Symbol.Bullet;
                pl.col0(PLplot.Color.Blue);

                // x = 15에서 시작해 도함수의 결과에 따라 0.1씩 변위를 주며 최솟값으로 이동하는 과정을 점으로 출력
                int maxTrial = 1000;
                double anyX = 15.0; // 랜덤 값

                while (maxTrial-- > 0)
                {
                    double yPos = dfDrawFunc(anyX);
                    pl.Point(anyX, orgDrawFunc(anyX), code);

                    if (yPos.GetCloseToZeroSlope())
                    {
                        break;
                    }
                    else anyX += (yPos > 0) ? -0.1 : 0.1;
                }

                pl.eop();
                pl.gver(out var verText);
            }
        }
    }

    public static class Utils
    {
        public static IEnumerable<T> RangeInclusive<T>(T start, T stop, T step)
        {
            dynamic dStart = start;
            dynamic dStop = stop;
            dynamic dStep = step;

            if (dStep == 0)
                throw new ArgumentException("Parameter step cannot equal zero.");

            if (dStart < dStop && dStep > 0)
            {
                for (var i = dStart; i <= dStop; i += dStep)
                {
                    yield return i;
                }
            }
            else if (dStart > dStop && dStep < 0)
            {
                for (var i = dStart; i >= dStop; i += dStep)
                {
                    yield return i;
                }
            }
        }

        public static void Point(this PLStream pl, double x, double y, char code)
        {
            pl.poin(new double[] { x }, new double[] { y }, code);
        }

        public static bool GetCloseToZeroSlope(this double value)
        {
            return Math.Abs(value) < 1e-03 ? true : false;
        }
    }
}

다음과 같은 출력을 얻을 수 있습니다.

gradient_descent_2.png

보는 바와 같이 최솟값으로 잘 수렴하고 있죠! ^^




"그래프 그리기로 알아보는 뉴턴-랩슨(Newton-Raphson's method)법과 제곱근 구하기 - C#" 글을 보면, 도함수로 접근하면서 처음에는 크게 이동하다가 점차 간격이 작아지게 되는데 마찬가지로 경사 하강법도 단순하게 x의 값을 일정 수로 줄여나가기 보다 다음과 같은 식으로 이전 x 값 기준으로 줄여나가는 방식이 있습니다.

x := x - f'(x)

하지만, 단순히 위와 같이 하면 f'(x)의 반환값이 크기 때문에 x 값의 부호를 반대로 만들어 근삿값을 진동하는 식으로 접근하게 됩니다. 이런 문제를 해결하기 위해 약간의 조정값을 f'(x)에 곱해주면,

x := x - n * f'(x) // n == 학습 비율(learning rate)
                   // 예를 들어 n = 0.1

즉, 이전 코드를 다음과 같이 개선한 후,

anyX = 15.0;
double t = 0.1;

while (maxTrial-- > 0)
{
    double yPos = dfDrawFunc(anyX);
    pl.Point(anyX, orgDrawFunc(anyX), code);

    if (yPos.GetCloseToZeroSlope())
    {
        break;
    }
    else anyX -= (t * yPos);
}

결과를 보면, 훨씬 빨리 최솟값으로 수렴하는 것을 확인할 수 있습니다.

gradient_descent_3.png

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




수렴을 좀 더 빨리하기 위해, 데이터에 대한 전처리를 수행하는 과정이 바로 정규화입니다. 예를 들어 이전 글을 보면,

ML.NET 데이터 정규화
; https://www.sysnet.pe.kr/2/0/11922

click.csv 파일의 x 값 범위가 25 ~ 272에 해당하는데 이것을 z-score 정규화를 거치면 -1.7406785589738 ~ 1.94669368859505가 되어 수렴을 시작할 수 있는 랜덤 값 범위를 대폭 줄이게 됩니다.

참고로, 직관적으로 아시겠지만 ^^ 경사 하강법은,

경사 하강법
; https://ko.wikipedia.org/wiki/%EA%B2%BD%EC%82%AC_%ED%95%98%EA%B0%95%EB%B2%95

지역 근사해는 찾아도, 전역 근사해를 찾지 못할 수 있습니다. 아래의 그래프와 같은 상황들을 보면 이해가 되실 것입니다. ^^

gradient_descent_4.png

gradient_descent_5.png

이에 대한 보완으로 "확률 경사 하강법"과 "미니 배치법"이 있다고 하니 좀 더 자세한 사항은 "기초 수학으로 이해하는 머신러닝 알고리즘" 책을 보시면 되겠습니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 5/31/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




1  2  3  4  5  6  7  8  9  10  [11]  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12015정성태9/3/20192386개발 환경 구성: 457. 윈도우 응용 프로그램의 Socket 연결 시 time-out 시간 제어
12014정성태6/23/20201243개발 환경 구성: 456. 명령행에서 AWS, Azure 등의 원격 저장소에 파일 관리하는 방법 - cyberduck/duck 소개
12013정성태8/28/20191227개발 환경 구성: 455. 윈도우에서 (테스트) 인증서 파일 만드는 방법
12012정성태8/28/20191630.NET Framework: 859. C# - HttpListener를 이용한 HTTPS 통신 방법
12011정성태8/27/20191253사물인터넷: 57. C# - Rapsberry Pi Zero W와 PC 간 Bluetooth 통신 예제 코드파일 다운로드1
12010정성태8/27/2019928VS.NET IDE: 138. VSIX - DTE.ItemOperations.NewFile 메서드에서 템플릿 이름을 다국어로 설정하는 방법
12009정성태8/26/2019931.NET Framework: 858. C#/Windows - Clipboard(Ctrl+C, Ctrl+V)가 동작하지 않는다면?파일 다운로드1
12008정성태8/26/2019871.NET Framework: 857. UWP 앱에서 SQL Server 데이터베이스 연결 방법
12007정성태8/24/20191002.NET Framework: 856. .NET Framework 버전을 올렸을 때 오류가 발생할 수 있는 상황
12006정성태8/23/20191802디버깅 기술: 129. guidgen - Encountered an improper argument. 오류 해결 방법 (및 windbg 분석) [1]
12005정성태8/13/20191993.NET Framework: 855. 닷넷 (및 VM 계열 언어) 코드의 성능 측정 시 주의할 점 [2]파일 다운로드1
12004정성태8/12/20192249.NET Framework: 854. C# - 32feet.NET을 이용한 PC 간 Bluetooth 통신 예제 코드
12003정성태8/12/20191382오류 유형: 564. Visual C++ 컴파일 오류 - fatal error C1090: PDB API call failed, error code '3'
12002정성태8/12/20191179.NET Framework: 853. Excel Sheet를 WinForm에서 사용하는 방법 - 두 번째 이야기
12001정성태8/10/20191691.NET Framework: 852. WPF/WinForm에서 UWP의 기능을 이용해 Bluetooth 기기와 Pairing하는 방법
12000정성태8/9/20191269.NET Framework: 851. WinForm/WPF에서 Console 창을 띄워 출력하는 방법파일 다운로드1
11999정성태8/1/2019859오류 유형: 563. C# - .NET Core 2.0 이하의 Unix Domain Socket 사용 시 System.IndexOutOfRangeException 오류
11998정성태7/30/20191042오류 유형: 562. .NET Remoting에서 서비스 호출 시 SYN_SENT로 남는 현상파일 다운로드1
11997정성태7/30/20191536.NET Framework: 850. C# - Excel(을 비롯해 Office 제품군) COM 객체를 제어 후 Excel.exe 프로세스가 남아 있는 문제파일 다운로드1
11996정성태7/25/20191430.NET Framework: 849. C# - Socket의 TIME_WAIT 상태를 없애는 방법파일 다운로드1
11995정성태7/23/20191247.NET Framework: 848. C# - smtp.daum.net 서비스(Implicit SSL)를 이용해 메일 보내는 방법
11994정성태10/22/20191524개발 환경 구성: 454. Azure 가상 머신(VM)에서 SMTP 메일 전송하는 방법파일 다운로드1
11993정성태7/22/2019948오류 유형: 561. Dism.exe 수행 시 "Error: 2 - The system cannot find the file specified." 오류 발생
11992정성태7/22/20191052오류 유형: 560. 서비스 관리자 실행 시 "Windows was unable to open service control manager database on [...]. Error 5: Access is denied." 오류 발생
11991정성태7/18/2019750디버깅 기술: 128. windbg - x64 환경에서 닷넷 예외가 발생한 경우 인자를 확인할 수 없었던 사례
11990정성태3/16/20201530오류 유형: 559. Settings / Update & Security 화면 진입 시 프로그램 종료
1  2  3  4  5  6  7  8  9  10  [11]  12  13  14  15  ...