Microsoft MVP성태의 닷넷 이야기
Math: 63. C# - 3층 구조의 신경망 [링크 복사], [링크+제목 복사]
조회: 1006
글쓴 사람
홈페이지
첨부 파일

C# - 3층 구조의 신경망

아래의 책에 보면,

실체가 손에 잡히는 딥러닝
; http://www.yes24.com/Product/Goods/74258238

3층 신경만을 표현한 파이썬 용 소스 코드가 나오는데 다음과 같습니다.

# http://nanya-kanya.net/index.php/1232/#outline__1_29

import numpy as np
import matplotlib.pyplot as plt

X = np.arange(-1.0, 1.0, 0.2)
Y = np.arange(-1.0, 1.0, 0.2)

Z = np.zeros((10, 10))

w_im = np.array([[2.0, -2.0],
                 [1.0, 4.0]])
w_mo = np.array([[1.0],
                 [-1.0]])

b_im = np.array([3.0, -3.0])
b_mo = np.array([0.1])

def middle_layer(x, w, b):
    u = np.dot(x, w) + b
    return 1 / (1 + np.exp(-u))

def output_layer(x, w, b):
    u = np.dot(x, w) + b
    return u

for i in range(10):
    for j in range(10):

        inp = np.array([X[i], Y[j]])
        mid = middle_layer(inp, w_im, b_im)
        out = output_layer(mid, w_mo, b_mo)

        Z[j][i] = out[0]
        
plt.imshow(Z, "gray", vmin = 0.0, vmax = 1.0)
plt.colorbar()
plt.show()

C#으로 표현한 후,

using MathNet.Numerics.LinearAlgebra;
using System;
using System.Linq;

using np = PythonUtils;
using vector = MathNet.Numerics.LinearAlgebra.Vector<double>;
using matrix = MathNet.Numerics.LinearAlgebra.Matrix<double>;

class Program
{
    static void Main(string[] args)
    {
        var X0 = np.arange(-1.0, 1.0, 0.2).ToArray();
        var X1 = np.arange(-1.0, 1.0, 0.2).ToArray();

        double[,] Y = new double[X0.Length, X1.Length];

        matrix w_im = GetMatrix(new[] { -4.0, 4.0 }, new[] { -4.0, -4.0 });
        matrix w_mo = GetMatrix(new[] { 1.0 }, new[] { -1.0 });

        vector b_im = GetVector(3.0, -3.0);
        vector b_mo = GetVector(0.1);

        Func<vector, matrix, vector, vector> middle_layer = (x, w, b) =>
        {
            vector u = x * w + b;
            return 1 / (1 + np.exp(-u));
        };

        Func<vector, matrix, vector, vector> output_layer = (x, w, b) =>
        {
            return x * w + b;
        };

        for (int i = 0; i < X0.Length; i++)
        {
            for (int j = 0; j < X1.Length; j++)
            {
                var inp = GetVector(X0[i], X1[j]);
                var mid = middle_layer(inp, w_im, b_im);
                var outp = output_layer(mid, w_mo, b_mo);

                Y[j, i] = outp[0];
            }
        }

        OutputImage("layer3_neuron.png");

        void OutputImage(string fileName)
        {
            Gridmap grid = new Gridmap(371, 371);
            grid.Show(Y, fileName);
        }
    }

    private static Matrix<double> GetMatrix(params double[][] values)
    {
        return CreateMatrix.DenseOfRows(values.Length, values[0].Length, values);
    }

    private static Vector<double> GetVector(params double [] values)
    {
        return CreateVector.DenseOfArray(values);
    }
}

실행해 보면, 좌측의 출력은 matplotlib의 출력이고 우측은 C# 출력입니다.

layer3_neuron.png

제 경우에, 신경망 출력의 값을 단순히 다음과 같이 gray 색으로 보간했는데,

double minX = gridmap.Min();
double maxX = gridmap.Max();

Func<double, double> lerf = (value) =>
{
    return (value - minX) / (maxX - minX);
};

for (int i = 0; i < count; i++)
{
    double h, l, s;
    double r1, g1, b1;

    h = 0;
    l = lerf(gridmap[i]);
    s = 0;

    pl.hlsrgb(h, l, s, out r1, out g1, out b1);
    r[i + 16] = (int)(r1 * 255.0);
    g[i + 16] = (int)(g1 * 255.0);
    b[i + 16] = (int)(b1 * 255.0);
}

matplotlib과 차이가 납니다. 어쩌면 보간 방식의 차이일 수도 있고, HLS to RGB 방식의 차이일 수 있는데 중요한 것은 신경망 출력이 가중치와 편향에 따라 다양해진다는 점이므로 넘어가도 좋겠습니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 7/7/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




1  2  3  4  5  6  7  8  9  10  11  [12]  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
11944정성태6/16/20193871Linux: 12. Ubuntu 16.04/18.04에서 node.js 최신 버전 설치 방법
11943정성태6/15/20191479.NET Framework: 844. C# - 박싱과 언박싱 [1]
11942정성태6/20/20194160개발 환경 구성: 444. 로컬의 Visual Studio Code로 원격 리눅스 머신에 접속해 개발하는 방법 [1]
11941정성태6/13/2019965오류 유형: 546. "message NETSDK1057: You are using a preview version of .NET Core" 빌드 경고 없애는 방법
11940정성태6/13/2019840개발 환경 구성: 443. Visual Studio의 Connection Manager 기능(Remote SSH 관리)을 위한 명령행 도구파일 다운로드1
11939정성태6/13/2019942오류 유형: 545. Managed Debugging Assistant 'FatalExecutionEngineError'
11938정성태6/12/20191215Math: 59. C# - 웨이트 벡터 갱신식을 이용한 퍼셉트론 분류파일 다운로드1
11937정성태6/11/20193201개발 환경 구성: 442. .NET Core 3.0 preview 5를 이용해 Windows Forms/WPF 응용 프로그램 개발 [1]
11936정성태6/10/20191123Math: 58. C# - 최소 자승법의 1차, 2차 수렴 그래프 변화 확인파일 다운로드1
11935정성태5/7/20201329.NET Framework: 843. C# - PLplot 출력을 파일이 아닌 Window 화면으로 변경
11934정성태6/7/20191607VC++: 133. typedef struct와 타입 전방 선언으로 인한 C2371 오류파일 다운로드1
11933정성태6/7/20191571VC++: 132. enum 정의를 C++11의 enum class로 바꿀 때 유의할 사항파일 다운로드1
11932정성태6/7/20191249오류 유형: 544. C++ - fatal error C1017: invalid integer constant expression파일 다운로드1
11931정성태6/6/20191328개발 환경 구성: 441. C# - CairoSharp/GtkSharp 사용을 위한 프로젝트 구성 방법
11930정성태6/26/20191661.NET Framework: 842. .NET Reflection을 대체할 System.Reflection.Metadata 소개
11929정성태6/5/20191175.NET Framework: 841. Windows Forms/C# - 클립보드에 RTF 텍스트를 복사 및 확인하는 방법
11928정성태6/5/20191137오류 유형: 543. PowerShell 확장 설치 시 "Catalog file '[...].cat' is not found in the contents of the module" 오류 발생
11927정성태6/5/20191382스크립트: 15. PowerShell ISE의 스크립트를 복사 후 PPT/Word에 붙여 넣으면 한글이 깨지는 문제 [1]
11926정성태6/4/20191722오류 유형: 542. Visual Studio - pointer to incomplete class type is not allowed
11925정성태6/4/20191554VC++: 131. Visual C++ - uuid 확장 속성과 __uuidof 확장 연산자파일 다운로드1
11924정성태5/30/20191674Math: 57. C# - 해석학적 방법을 이용한 최소 자승법 [1]파일 다운로드1
11923정성태5/30/20191430Math: 56. C# - 그래프 그리기로 알아보는 경사 하강법의 최소/최댓값 구하기파일 다운로드1
11922정성태5/30/20191010.NET Framework: 840. ML.NET 데이터 정규화파일 다운로드1
11921정성태5/28/20191595Math: 55. C# - 다항식을 위한 최소 자승법(Least Squares Method)파일 다운로드1
11920정성태5/28/20191127.NET Framework: 839. C# - PLplot 색상 제어
11919정성태5/27/20191548Math: 54. C# - 최소 자승법의 1차 함수에 대한 매개변수를 단순 for 문으로 구하는 방법 [1]파일 다운로드1
1  2  3  4  5  6  7  8  9  10  11  [12]  13  14  15  ...