Microsoft MVP성태의 닷넷 이야기
.NET Framework: 840. ML.NET 데이터 정규화 [링크 복사], [링크+제목 복사]
조회: 998
글쓴 사람
홈페이지
첨부 파일

ML.NET 데이터 정규화

ML.NET으로 데이터 전처리 하는 방법은 다음의 글을 참고하시면 됩니다.

Prepare Data
; https://docs.microsoft.com/en-us/dotnet/machine-learning/how-to-guides/prepare-data-ml-net

현재(2019-05-28) NormalizationCatalog에서 제공하는 정규화 방법은 대략 다음과 같습니다.

  • NormalizeBinning
  • NormalizeGlobalContrast
  • NormalizeLogMeanVariance
  • NormalizeLpNorm
  • NormalizeMeanVariance
  • NormalizeMinMax
  • NormalizeSupervised?Binning

그런데, "기초 수학으로 이해하는 머신러닝 알고리즘" 책에 보면 z-score 정규화가 나오는데요.

표준 점수
; https://ko.wikipedia.org/wiki/%ED%91%9C%EC%A4%80_%EC%A0%90%EC%88%98

표준값 z는 원수치인 x가 평균에서 얼마나 떨어져 있는지를 나타낸다. 음수이면 평균이하, 양수이면 평균이상이다

이것과 매핑되는 ML.NET의 정규화는 없습니다. 이런 경우, ML.NET에 자연스럽게 녹여낼 수 있도록 사용자 정의 transformer 구현을 제공합니다.

How can I define my own transformation of data?
; https://github.com/dotnet/machinelearning/blob/master/docs/code/MlNetCookBook.md#user-content-how-can-i-define-my-own-transformation-of-data

그런데, 굳이 저렇게 해서 얻는 장점이 얼마나 많을까 싶습니다. 따라서 그냥 다음과 같이 로드된 데이터를 직접 처리해도 상관없겠습니다.

double[] xData = xyList.Select(xy => xy.X).ToArray();
xData = NormalizeZscore(xData);

private static double [] NormalizeZscore(double[] xData)
{
    double mean = Statistics.Mean(xData);
    double sd = Statistics.PopulationStandardDeviation(xData);

    double[] normalized = new double[xData.Length];

    for (int i = 0; i < xData.Length; i ++)
    {
        normalized[i] = (xData[i] - mean) / sd;
    }

    return normalized;
}

예를 들어 입력 데이터가 다음과 같을 때,

x,y
235,591
216,539
148,413
35,310
85,308
204,519
49,325
25,332
173,498
191,498
134,392
99,334
117,385
112,387
162,425
272,659
159,400
159,427
59,319
198,522

NormalizeZscore가 반환한 x 데이터의 min/max는 -1.7406785589738 ~ 1.94669368859505에 해당합니다. 그 외에, ML.NET의 정규화 관련 메서드를 수행해 보면,

using MathNet.Numerics.Statistics;
using Microsoft.ML;
using Microsoft.ML.Data;
using Microsoft.ML.Transforms;
using System;
using System.Collections.Generic;
using System.Linq;

class Program
{
    static void Main(string[] args)
    {
        MLContext ctx = new MLContext();

        IDataView data = ctx.Data.LoadFromTextFile<ClickData>("click.csv", separatorChar: ',', hasHeader: true);

        var xColumn = data.Schema[0];
        var yColumn = data.Schema[1];
        
        {
            Func<NormalizingEstimator> func = () => ctx.Transforms.NormalizeMeanVariance(xColumn.Name);
            ShowResult("NormalizeMeanVariance", ctx, data, func);
        }

        {
            Func<NormalizingEstimator> func = () => ctx.Transforms.NormalizeLogMeanVariance(xColumn.Name);
            ShowResult("NormalizeLogMeanVariance", ctx, data, func);
        }

        {
            Func<NormalizingEstimator> func = () => ctx.Transforms.NormalizeMinMax(xColumn.Name);
            ShowResult("NormalizeMinMax", ctx, data, func);
        }

        {
            var xData = data.GetColumn<double>(xColumn).NormalizeZscore();
            Console.WriteLine($"[NormalizeZscore] Min: {xData.Min()}, Max: {xData.Max()}");
        }
    }

    private static void ShowResult(string title, MLContext ctx, IDataView data, Func<NormalizingEstimator> func)
    {
        var transformer = func();
        ITransformer textTransformer = transformer.Fit(data);
        IDataView normalizedData = textTransformer.Transform(data);

        var xyList = ctx.Data.CreateEnumerable<ClickData>(normalizedData, false);
        var xData = xyList.Select(xy => xy.X);
        Console.WriteLine($"[{title}] Min: {xData.Min()}, Max: {xData.Max()}");
    }
}

public static class Extension
{
    public static IEnumerable<double> NormalizeZscore(this IEnumerable<double> data)
    {
        double mean = Statistics.Mean(data);
        double std = Statistics.PopulationStandardDeviation(data);

        foreach (var item in data)
        {
            yield return (item - mean) / std;
        }
    }
}

각각의 종류에 따라 다음과 같은 결과를 갖습니다.

[NormalizeMeanVariance] Min: 0.159596722144764, Max: 1.73641233693504
[NormalizeLogMeanVariance] Min: 0.00667093285901543, Max: 0.899555532449876
[NormalizeMinMax] Min: 0.0919117647058823, Max: 1

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




참고로, Fit 호출 시 오류가 발생한다면?

Unhandled Exception: System.ArgumentOutOfRangeException: Wrong column type for column X. Expected: Single, Double, Vector of Single or Vector of Double. Got: Int32.
Parameter name: column
   at Microsoft.ML.Transforms.NormalizeTransform.LogMeanVarUtils.CreateBuilder(LogMeanVarianceColumnOptions column, IHost host, Int32 srcIndex, DataViewType srcType, DataViewRowCursor cursor)
   at Microsoft.ML.Transforms.NormalizingTransformer.Train(IHostEnvironment env, IDataView data, ColumnOptionsBase[] columns)
   at Program.Main(String[] args) in F:\ConsoleApp1\ConsoleApp1\Program.cs:line 18

해당 transformer의 대상 타입이 int가 들어왔는데 float, double, vector of float/double/vector 유형이어야만 하기 때문입니다. 따라서 정규화 대상이 되는 칼럼의 모델 타입을,

class ClickData
{
    [LoadColumn(0)]
    public int X { get; set; }

    [LoadColumn(1)]
    public int Y { get; set; }
}

다음과 같이 적절하게 변경하면 됩니다.

class ClickData
{
    [LoadColumn(0)]
    public double X { get; set; }

    [LoadColumn(1)]
    public int Y { get; set; }
}




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 5/30/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




1  2  3  4  5  6  [7]  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12069정성태12/19/2019751디버깅 기술: 139. windbg - x64 덤프 분석 시 메서드의 인자 또는 로컬 변수의 값을 확인하는 방법
12068정성태11/28/20191102디버깅 기술: 138. windbg와 Win32 API로 알아보는 Windows Heap 정보 분석 [2]파일 다운로드2
12067정성태11/27/2019738디버깅 기술: 137. 실제 사례를 통해 Debug Diagnostics 도구가 생성한 닷넷 웹 응용 프로그램의 성능 장애 보고서 설명 [1]파일 다운로드1
12066정성태11/27/2019529디버깅 기술: 136. windbg - C# PInvoke 호출 시 마샬링을 담당하는 함수 분석 - OracleCommand.ExecuteReader에서 OpsSql.Prepare2 PInvoke 호출 분석
12065정성태11/25/2019641디버깅 기술: 135. windbg - C# PInvoke 호출 시 마샬링을 담당하는 함수 분석파일 다운로드1
12064정성태11/25/2019890오류 유형: 580. HTTP Error 500.0/500.33 - ANCM In-Process Handler Load Failure
12063정성태11/21/2019679디버깅 기술: 134. windbg - RtlReportCriticalFailure로부터 parameters 정보 찾는 방법
12062정성태12/20/2019550디버깅 기술: 133. windbg - CoTaskMemFree/FreeCoTaskMem에서 발생한 덤프 분석 사례 - 두 번째 이야기
12061정성태11/20/2019619Windows: 165. CoTaskMemAlloc/CoTaskMemFree과 윈도우 Heap의 관계
12060정성태11/21/2019679디버깅 기술: 132. windbg/Visual Studio - HeapFree x64의 동작 분석
12059정성태11/20/2019642디버깅 기술: 131. windbg/Visual Studio - HeapFree x86의 동작 분석
12058정성태11/19/2019633디버깅 기술: 130. windbg - CoTaskMemFree/FreeCoTaskMem에서 발생한 덤프 분석 사례
12057정성태11/18/2019459오류 유형: 579. Visual Studio - Memory 창에서 유효한 주소 영역임에도 "Unable to evaluate the expression." 오류 출력
12056정성태11/18/2019802개발 환경 구성: 464. "Microsoft Visual Studio Installer Projects" 프로젝트로 EXE 서명 및 MSI 파일 서명 방법파일 다운로드1
12055정성태11/17/2019412개발 환경 구성: 463. Visual Studio의 Ctrl + Alt + M, 1 (Memory 1) 등의 단축키가 동작하지 않는 경우
12054정성태11/15/2019847.NET Framework: 869. C# - 일부러 GC Heap을 깨뜨려 GC 수행 시 비정상 종료시키는 예제
12053정성태11/15/2019507Windows: 164. 윈도우 10 - 명령행 창(cmd.exe) 속성에 (DotumChe, GulimChe, GungsuhChe 등의) 한글 폰트가 없는 경우
12052정성태11/15/2019440오류 유형: 578. Azure - 일정(schedule)에 등록한 runbook이 1년 후 실행이 안 되는 문제(Reason - The key used is expired.)
12051정성태12/2/2019945개발 환경 구성: 462. 시작하자마자 비정상 종료하는 프로세스의 메모리 덤프 - procdump [1]
12050정성태11/14/2019652Windows: 163. AcLayers의 API 후킹과 FaultTolerantHeap
12049정성태11/13/2019501.NET Framework: 868. (닷넷 프로세스를 대상으로) 디버거 방식이 아닌 CLR Profiler를 이용해 procdump.exe 기능 구현
12048정성태11/12/2019682Windows: 163. GUID 이름의 볼륨에 해당하는 파티션을 찾는 방법
12047정성태11/12/20191086Windows: 163. 안전하게 eject시킨 USB 장치를 물리적인 재연결 없이 다시 인식시키는 방법
12046정성태11/9/2019607오류 유형: 577. windbg - The call to LoadLibrary(...\sos.dll) failed, Win32 error 0n193
12045정성태10/27/2019510오류 유형: 576. mstest.exe 실행 시 "Visual Studio Enterprise is required to execute the test." 오류 - 두 번째 이야기
12044정성태10/27/2019613오류 유형: 575. mstest.exe - System.Resources.MissingSatelliteAssemblyException: The satellite assembly named "Microsoft.VisualStudio.ProductKeyDialog.resources.dll, ..."
1  2  3  4  5  6  [7]  8  9  10  11  12  13  14  15  ...