Microsoft MVP성태의 닷넷 이야기
Math: 64. C# - 3층 구조의 신경망(분류) [링크 복사], [링크+제목 복사],
조회: 21602
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 6개 있습니다.)
Math: 59. C# - 웨이트 벡터 갱신식을 이용한 퍼셉트론 분류
; https://www.sysnet.pe.kr/2/0/11938

Math: 60. C# - 로지스틱 회귀를 이용한 분류
; https://www.sysnet.pe.kr/2/0/11955

Math: 61. C# - 로지스틱 회귀를 이용한 선형분리 불가능 문제의 분류
; https://www.sysnet.pe.kr/2/0/11962

Math: 62. 활성화 함수에 따른 뉴런의 출력을 그리드 맵으로 시각화
; https://www.sysnet.pe.kr/2/0/11966

Math: 63. C# - 3층 구조의 신경망
; https://www.sysnet.pe.kr/2/0/11969

Math: 64. C# - 3층 구조의 신경망(분류)
; https://www.sysnet.pe.kr/2/0/11981




C# - 3층 구조의 신경망(분류)

지난 글에 이어서,

C# - 3층 구조의 신경망
; https://www.sysnet.pe.kr/2/0/11969

아래의 책에 보면,

실체가 손에 잡히는 딥러닝
; http://www.yes24.com/Product/Goods/74258238

3층 신경망을 이용한 분류 예제를 파이썬 코드로 싣고 있습니다.

# http://nanya-kanya.net/index.php/1232/#outline__1_30

import numpy as np
import matplotlib.pyplot as plt

X = np.arange(-1.0, 1.0, 0.1)
Y = np.arange(-1.0, 1.0, 0.1)

w_im = np.array([[1.0, 2.0],
                [2.0, 3.0]])

w_mo = np.array([[ -1.0, 1.0],
                [1.0, -1.0]])

b_im = np.array([0.3, -0.3])
b_mo = np.array([0.4, 0.1])

def middle_layer(x, w, b):
    u = np.dot(x, w) + b
    return 1 / (1 + np.exp(-u))

def output_layer(x, w, b):
    u = np.dot(x, w) + b
    return np.exp(u) / np.sum(np.exp(u))

x_1 = []
y_1 = []
x_2 = []
y_2 = []

for i in range(20):
    for j in range(20):
        inp = np.array([X[i], Y[j]])
        mid = middle_layer(inp, w_im, b_im)
        out = output_layer(mid, w_mo, b_mo)

        if out[0] > out[1]:
            x_1.append(X[i])
            y_1.append(Y[j])
        else:
            x_2.append(X[i])
            y_2.append(Y[j])

        
plt.scatter(x_1, y_1, marker="+")
plt.scatter(x_2, y_2, marker="o")
plt.show()

역시 C#으로 표현한 후,

using MathNet.Numerics.LinearAlgebra;
using System;
using System.Linq;

using np = PythonUtils;
using vector = MathNet.Numerics.LinearAlgebra.Vector<double>;
using matrix = MathNet.Numerics.LinearAlgebra.Matrix<double>;
using System.Collections.Generic;

class Program
{
    static void Main(string[] args)
    {
        var X = np.arange(-1.0, 1.0, 0.1).ToArray();
        var Y = np.arange(-1.0, 1.0, 0.1).ToArray();

        List<double> x1 = new List<double>();
        List<double> x2 = new List<double>();
        List<double> y1 = new List<double>();
        List<double> y2 = new List<double>();

        matrix w_im = GetMatrix(new[] { 1.0, 2.0 }, new[] { 2.0, 3.0 });
        matrix w_mo = GetMatrix(new[] { -1.0, 1.0 }, new[] { 1.0, -1.0 });

        vector b_im = GetVector(0.3, -0.3);
        vector b_mo = GetVector(0.4, 0.1);

        Func<vector, matrix, vector, vector> middle_layer = (x, w, b) =>
        {
            vector u = x * w + b;
            return 1 / (1 + np.exp(-u)); // sigmoid
        };

        Func<vector, matrix, vector, vector> output_layer = (x, w, b) =>
        {
            vector u = x * w + b;
            return np.exp(u) / np.sum(u); // softmax
        };

        for (int i = 0; i < X.Length; i++)
        {
            for (int j = 0; j < Y.Length; j++)
            {
                var inp = GetVector(X[i], Y[j]);
                var mid = middle_layer(inp, w_im, b_im);
                var outp = output_layer(mid, w_mo, b_mo);

                if (outp[0] > outp[1])
                {
                    x1.Add(X[i]);
                    y1.Add(Y[j]);
                }
                else
                {
                    x2.Add(X[i]);
                    y2.Add(Y[j]);
                }
            }
        }

        OutputImage("layer3_neuron_classification.png");

        void OutputImage(string fileName)
        {
            Gridmap grid = new Gridmap(471, 471);
            grid.Show(x1.ToArray(), y1.ToArray(), x2.ToArray(), y2.ToArray(), fileName);
        }
    }
}

실행해 보면 다음의 분류 상태를 볼 수 있습니다.

layer3_neuron_classification.png

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 7/7/2019]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  [2]  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13988정성태8/8/20252800오류 유형: 974. 비주얼 스튜디오 업데이트 시 잠김 파일 경고 - Visual Studio Standard Collector Service 150 (VSStandardCollectorService150)
13987정성태8/7/20252573닷넷: 2351. C# 14 - (6) event와 생성자에도 partial 메서드 적용파일 다운로드1
13986정성태8/6/20252232닷넷: 2350. C# 14 - (5) 람다 매개 변수에 접근자가 있는 경우에도 타입 생략 가능파일 다운로드1
13985정성태8/6/20252723오류 유형: 973. "wsl --install" 명령어 수행 시 "The server name or address could not be resolved"
13984정성태8/6/20252597Windows: 282. 윈도우 운영체제에 추가된 ssh 서버(Win32-OpenSSH)
13983정성태8/4/20252582오류 유형: 972. Microsoft.Data.SqlClient 6.1.0 버전부터 .NET 8 이상만 지원
13982정성태8/2/20252857개발 환경 구성: 753. CentOS 7 컨테이너 내에서 openssh 서버 호스팅
13981정성태8/1/20252418오류 유형: 971. CentOS 7에서 yum 사용 시 "Could not resolve host: mirrorlist.centos.org; Unknown error"
13980정성태7/31/20252537Linux: 119. eBPF - BPF_PROG_TYPE_CGROUP_SOCK 유형에서 정상 동작하지 않는 BPF_CORE_READ (2)
13979정성태7/30/20252984Linux: 118. eBPF - BPF_PROG_TYPE_CGROUP_SOCK 유형에서 정상 동작하지 않는 BPF_CORE_READ
13978정성태7/29/20252469오류 유형: 970. 파일 복사 시 "Data error (cyclic redundancy check). (0x80070017)" 에러
13977정성태7/28/20252937닷넷: 2349. C# 14 - (4) 문자열 리터럴을 utf-8 인코딩으로 저장파일 다운로드1
13976정성태7/25/20252857닷넷: 2348. C# - 카카오 카나나 모델 + Microsoft.ML.OnnxRuntimeGenAI 예제파일 다운로드1
13975정성태7/23/20252745닷넷: 2347. C# 14 - (3) 형식 인자가 없는 제네릭 타입의 nameof 지원파일 다운로드1
13974정성태7/22/20252910닷넷: 2346. C# 14 - (2) Span 타입과 배열 간의 암시적 형변환파일 다운로드1
13973정성태7/21/20252987닷넷: 2345. C# - 배열 및 Span의 공변성파일 다운로드1
13972정성태7/21/20252676닷넷: 2344. C#의 Identity conversion 의미파일 다운로드1
13971정성태7/17/20252938닷넷: 2343. C# 14 - (1) 속성 구문에서 문맥 키워드로 추가되는 field 예약어파일 다운로드1
13970정성태7/17/20252635닷넷: 2342. C# 14 - (취소된 글)
13969정성태7/17/20252594닷넷: 2341. snap으로 설치한 .NET 리눅스 실행 환경
13968정성태7/16/20252567오류 유형: 969. lddtree - TypeError: 'type' object is not subscriptable
13967정성태7/16/20253363오류 유형: 968. snap으로 설치한 "dotnet run" 실행 시 "undefined symbol: _dl_audit_symbind_alt, version GLIBC_PRIVATE" 오류
13966정성태7/15/20253969디버깅 기술: 223. WinDbg - .kframes 명령어
13965정성태7/11/20253102오류 유형: 967. 디버깅 모드로 실행 시 "Could not find file 'C:\Program Files\IIS Express\Oracle.DataAccess.Common.Configuration.Section.xsd'" 예외
13964정성태7/10/20254285닷넷: 2340. C# - Win32 Multimedia Timer 주기파일 다운로드1
13963정성태7/8/20253641VS.NET IDE: 202. Visual Studio 2022 + Copilot 기본 사용법
1  [2]  3  4  5  6  7  8  9  10  11  12  13  14  15  ...