Microsoft MVP성태의 닷넷 이야기
Math: 63. C# - 3층 구조의 신경망 [링크 복사], [링크+제목 복사]
조회: 991
글쓴 사람
홈페이지
첨부 파일

C# - 3층 구조의 신경망

아래의 책에 보면,

실체가 손에 잡히는 딥러닝
; http://www.yes24.com/Product/Goods/74258238

3층 신경만을 표현한 파이썬 용 소스 코드가 나오는데 다음과 같습니다.

# http://nanya-kanya.net/index.php/1232/#outline__1_29

import numpy as np
import matplotlib.pyplot as plt

X = np.arange(-1.0, 1.0, 0.2)
Y = np.arange(-1.0, 1.0, 0.2)

Z = np.zeros((10, 10))

w_im = np.array([[2.0, -2.0],
                 [1.0, 4.0]])
w_mo = np.array([[1.0],
                 [-1.0]])

b_im = np.array([3.0, -3.0])
b_mo = np.array([0.1])

def middle_layer(x, w, b):
    u = np.dot(x, w) + b
    return 1 / (1 + np.exp(-u))

def output_layer(x, w, b):
    u = np.dot(x, w) + b
    return u

for i in range(10):
    for j in range(10):

        inp = np.array([X[i], Y[j]])
        mid = middle_layer(inp, w_im, b_im)
        out = output_layer(mid, w_mo, b_mo)

        Z[j][i] = out[0]
        
plt.imshow(Z, "gray", vmin = 0.0, vmax = 1.0)
plt.colorbar()
plt.show()

C#으로 표현한 후,

using MathNet.Numerics.LinearAlgebra;
using System;
using System.Linq;

using np = PythonUtils;
using vector = MathNet.Numerics.LinearAlgebra.Vector<double>;
using matrix = MathNet.Numerics.LinearAlgebra.Matrix<double>;

class Program
{
    static void Main(string[] args)
    {
        var X0 = np.arange(-1.0, 1.0, 0.2).ToArray();
        var X1 = np.arange(-1.0, 1.0, 0.2).ToArray();

        double[,] Y = new double[X0.Length, X1.Length];

        matrix w_im = GetMatrix(new[] { -4.0, 4.0 }, new[] { -4.0, -4.0 });
        matrix w_mo = GetMatrix(new[] { 1.0 }, new[] { -1.0 });

        vector b_im = GetVector(3.0, -3.0);
        vector b_mo = GetVector(0.1);

        Func<vector, matrix, vector, vector> middle_layer = (x, w, b) =>
        {
            vector u = x * w + b;
            return 1 / (1 + np.exp(-u));
        };

        Func<vector, matrix, vector, vector> output_layer = (x, w, b) =>
        {
            return x * w + b;
        };

        for (int i = 0; i < X0.Length; i++)
        {
            for (int j = 0; j < X1.Length; j++)
            {
                var inp = GetVector(X0[i], X1[j]);
                var mid = middle_layer(inp, w_im, b_im);
                var outp = output_layer(mid, w_mo, b_mo);

                Y[j, i] = outp[0];
            }
        }

        OutputImage("layer3_neuron.png");

        void OutputImage(string fileName)
        {
            Gridmap grid = new Gridmap(371, 371);
            grid.Show(Y, fileName);
        }
    }

    private static Matrix<double> GetMatrix(params double[][] values)
    {
        return CreateMatrix.DenseOfRows(values.Length, values[0].Length, values);
    }

    private static Vector<double> GetVector(params double [] values)
    {
        return CreateVector.DenseOfArray(values);
    }
}

실행해 보면, 좌측의 출력은 matplotlib의 출력이고 우측은 C# 출력입니다.

layer3_neuron.png

제 경우에, 신경망 출력의 값을 단순히 다음과 같이 gray 색으로 보간했는데,

double minX = gridmap.Min();
double maxX = gridmap.Max();

Func<double, double> lerf = (value) =>
{
    return (value - minX) / (maxX - minX);
};

for (int i = 0; i < count; i++)
{
    double h, l, s;
    double r1, g1, b1;

    h = 0;
    l = lerf(gridmap[i]);
    s = 0;

    pl.hlsrgb(h, l, s, out r1, out g1, out b1);
    r[i + 16] = (int)(r1 * 255.0);
    g[i + 16] = (int)(g1 * 255.0);
    b[i + 16] = (int)(b1 * 255.0);
}

matplotlib과 차이가 납니다. 어쩌면 보간 방식의 차이일 수도 있고, HLS to RGB 방식의 차이일 수 있는데 중요한 것은 신경망 출력이 가중치와 편향에 따라 다양해진다는 점이므로 넘어가도 좋겠습니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 7/7/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12217정성태5/24/20209오류 유형: 615. Transaction count after EXECUTE indicates a mismatching number of BEGIN and COMMIT statements. Previous count = 0, current count = 1.
12216정성태5/15/202076.NET Framework: 904. USB/IP PROJECT를 이용해 C#으로 USB Keyboard 가상 장치 만들기
12215정성태5/12/202097개발 환경 구성: 490. C# - (Wireshark의) USBPcap을 이용한 USB 패킷 모니터링파일 다운로드1
12214정성태5/5/202087개발 환경 구성: 489. 정식 인증서가 있는 경우 Device Driver 서명하는 방법 (2) - UEFI/SecureBoot
12213정성태5/3/2020174개발 환경 구성: 488. (코드로 가상 USB 장치를 만들 수 있는) USB/IP PROJECT 소개
12212정성태5/1/202087개발 환경 구성: 487. UEFI / Secure Boot 상태인지 확인하는 방법
12211정성태4/27/2020186개발 환경 구성: 486. WSL에서 Makefile로 공개된 리눅스 환경의 C/C++ 소스 코드 빌드
12210정성태4/20/2020292.NET Framework: 903. .NET Framework의 Strong-named 어셈블리 바인딩 (1) - app.config을 이용한 바인딩 리디렉션 [1]파일 다운로드1
12209정성태4/13/2020158오류 유형: 614. 리눅스 환경에서 C/C++ 프로그램이 Segmentation fault 에러가 발생한 경우 (2)
12208정성태4/12/2020187Linux: 29. 리눅스 환경에서 C/C++ 프로그램이 Segmentation fault 에러가 발생한 경우
12207정성태4/2/2020178스크립트: 19. Windows PowerShell의 NonInteractive 모드
12206정성태4/2/2020258오류 유형: 613. 파일 잠금이 바로 안 풀린다면? - The process cannot access the file '...' because it is being used by another process.
12205정성태4/2/2020157스크립트: 18. Powershell에서는 cmd.exe의 명령어를 지원하진 않습니다.
12204정성태4/1/2020158스크립트: 17. Powershell 명령어에 ';' (semi-colon) 문자가 포함된 경우
12203정성태3/18/2020352오류 유형: 612. warning: 'C:\ProgramData/Git/config' has a dubious owner: '...'.
12202정성태3/18/2020345개발 환경 구성: 486. .NET Framework 프로젝트를 위한 GitLab CI/CD Runner 구성
12201정성태3/18/2020184오류 유형: 611. git-credential-manager.exe: Using credentials for username "Personal Access Token".
12200정성태3/18/2020434VS.NET IDE: 145. NuGet + Github 라이브러리 디버깅 관련 옵션 3가지 - "Enable Just My Code" / "Enable Source Link support" / "Suppress JIT optimization on module load (Managed only)"
12199정성태3/17/2020174오류 유형: 610. C# - CodeDomProvider 사용 시 Unhandled Exception: System.IO.DirectoryNotFoundException: Could not find a part of the path '...\f2_6uod0.tmp'.
12198정성태3/17/2020184오류 유형: 609. SQL 서버 접속 시 "Cannot open user default database. Login failed."
12197정성태3/17/2020294VS.NET IDE: 144. .NET Core 콘솔 응용 프로그램을 배포(publish) 시 docker image 자동 생성 - 두 번째 이야기
12196정성태3/17/2020263오류 유형: 608. The ServicedComponent being invoked is not correctly configured (Use regsvcs to re-register).
12195정성태3/17/2020368.NET Framework: 902. C# - 프로세스의 모든 핸들을 열람 - 세 번째 이야기
12194정성태3/16/2020216오류 유형: 607. PostgreSQL - Npgsql.NpgsqlException: sorry, too many clients already
12193정성태3/16/2020240개발 환경 구성: 485. docker - SAP Adaptive Server Enterprise 컨테이너 실행
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...