Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 6개 있습니다.)
Math: 59. C# - 웨이트 벡터 갱신식을 이용한 퍼셉트론 분류
; https://www.sysnet.pe.kr/2/0/11938

Math: 60. C# - 로지스틱 회귀를 이용한 분류
; https://www.sysnet.pe.kr/2/0/11955

Math: 61. C# - 로지스틱 회귀를 이용한 선형분리 불가능 문제의 분류
; https://www.sysnet.pe.kr/2/0/11962

Math: 62. 활성화 함수에 따른 뉴런의 출력을 그리드 맵으로 시각화
; https://www.sysnet.pe.kr/2/0/11966

Math: 63. C# - 3층 구조의 신경망
; https://www.sysnet.pe.kr/2/0/11969

Math: 64. C# - 3층 구조의 신경망(분류)
; https://www.sysnet.pe.kr/2/0/11981




활성화 함수에 따른 뉴런의 출력을 그리드 맵으로 시각화

다음의 책에 보면,

실체가 손에 잡히는 딥러닝
; http://www.yes24.com/Product/Goods/74258238

뉴런의 가중치와 편향에 대한 시각화를 한 내용이 나옵니다. 그중에서 활성 함수가 sigmoid인 파이썬 소스 코드(\DeepLearning_Examples.zip\Chapter4\4-6_single_neuron.ipynb)가 공개되어 있는데요.

[예제 파일] 실체가 손에 잡히는 딥러닝, 기초부터 실전 프로그래밍
; https://www.onlybook.co.kr/entry/deeplearingexamples?category=738122

import numpy as np
import matplotlib.pyplot as plt

X = np.arange(-1.0, 1.0, 0.2)
Y = np.arange(-1.0, 1.0, 0.2)

Z = np.zeros((10, 10))

w_x = 2.5
w_y = 3.0

bias = 0.1

for i in range(10):
    for j in range(10):
        u = X[i] * w_x + Y[j] * w_y + bias

        y = 1 / (1 + np.exp(-u))
        Z[j][i ] = y

plt.imshow(Z, "gray", vmin = 0.0, vmax = 1.0)
plt.colorbar();
plt.show();

실은 이걸 C#으로도 해보려고 지난번 글을 쓴 것입니다. ^^

C# - PLplot의 16색 이상을 표현하는 방법과 subpage를 이용한 그리드 맵 표현
; https://www.sysnet.pe.kr/2/0/11960

게다가 sigmoid 활성 함수는 전에도 한번 소개한 적이 있는데,

C# - 로지스틱 회귀를 이용한 분류
; https://www.sysnet.pe.kr/2/0/11955

따라서 입력 값 x0와 x1을 받는 뉴런이 있다고 할 때,

perceptron_1.png

각각의 출력값을 그리드 맵으로 출력하는 C# 코드를 다음과 같이 작성할 수 있습니다.

using System;
using System.Linq;

class Program
{
    static void Main(string[] args)
    {
        var X0 = Utils.ARange(-1.0, 1.0, 0.1).ToArray();
        var X1 = Utils.ARange(-1.0, 1.0, 0.1).ToArray();

        double[,] Y = new double[10, 10];

        double w0 = 1.0; // 가중치를 모두 1.0으로 고정 (물론 임의로 설정해서 테스트 가능)
        double w1 = 1.0;

        double bias = 0.1; // 편향을 0.1로 고정 (물론 임의로 설정해서 테스트 가능)

        for (int i = 0; i < 10; i ++)
        {
            for (int j = 0; j < 10; j ++)
            {
                double u = X0[i] * w0 + X1[j] * w1 + bias;
                double y = 1 / (1 + Math.Exp(-u));

                Y[j, i] = y;
            }
        }

        Gridmap grid = new Gridmap();
        grid.Show(Y);
    }
}

sigmoid.png

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




책에서는 나오지 않지만, 기왕 해보는 김에 위의 소스 코드에서 활성화 함수만 바꿔가며 그리드 맵 출력을 할 수 있습니다. 다음은 각각의 결과입니다. (가중치와 편향을 바꿔가면서 테스트하면 더 재미있을 것입니다. ^^)

[계단 함수] == (x) => (x <= 0) ? 0 : 1
stepfunction.png

[tanh] == (x) => Math.Tanh(x)
tanh.png

[ReLU] == (x) => (x <= 0) ? 0 : x
tanh.png

[Leaky ReLU] == (x) => (x <= 0) ? 0.01 * x : x
tanh.png

[항등 함수] == (x) => x
tanh.png

[소프트맥스 함수] == (x) => Math.Exp(x) / sumOfAllExp
tanh.png




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 6/7/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  5  6  7  8  9  [10]  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13740정성태9/24/20247072기타: 86. RSA 공개키 등의 modulus 값에 0x00 선행 바이트가 있는 이유(ASN.1 인코딩)
13739정성태9/24/20247284닷넷: 2297. C# - ssh-keygen으로 생성한 Public Key 파일 해석과 fingerprint 값(md5, sha256) 생성 [1]파일 다운로드1
13738정성태9/22/20246944C/C++: 174. C/C++ - 윈도우 운영체제에서의 file descriptor, FILE*파일 다운로드1
13737정성태9/21/20247543개발 환경 구성: 727. Visual C++ - 리눅스 프로젝트를 위한 빌드 서버의 msbuild 구성
13736정성태9/20/20247664오류 유형: 923. Visual Studio Code - Could not establish connection to "...": Port forwarding is disabled.
13735정성태9/20/20247232개발 환경 구성: 726. ARM 플랫폼용 Visual C++ 리눅스 프로젝트 빌드
13734정성태9/19/20246815개발 환경 구성: 725. ssh를 이용한 원격 docker 서비스 사용
13733정성태9/19/20247474VS.NET IDE: 194. Visual Studio - Cross Platform / "Authentication Type: Private Key"로 접속하는 방법
13732정성태9/17/20247743개발 환경 구성: 724. ARM + docker 환경에서 .NET 8 설치
13731정성태9/15/20248174개발 환경 구성: 723. C# / Visual C++ - Control Flow Guard (CFG) 활성화 [1]파일 다운로드2
13730정성태9/10/20248830오류 유형: 922. docker - RULE_APPEND failed (No such file or directory): rule in chain DOCKER
13729정성태9/9/20249469C/C++: 173. Windows / C++ - AllocConsole로 할당한 콘솔과 CRT 함수 연동 [1]파일 다운로드1
13728정성태9/7/20249064C/C++: 172. Windows - C 런타임에서 STARTUPINFO의 cbReserved2, lpReserved2 멤버를 사용하는 이유파일 다운로드1
13727정성태9/6/20249892개발 환경 구성: 722. ARM 플랫폼 빌드를 위한 미니 PC(?) - Khadas VIM4 [1]
13726정성태9/5/20248610C/C++: 171. C/C++ - 윈도우 운영체제에서의 file descriptor와 HANDLE파일 다운로드1
13725정성태9/4/20247177디버깅 기술: 201. WinDbg - sos threads 명령어 실행 시 "Failed to request ThreadStore"
13724정성태9/3/202410264닷넷: 2296. Win32/C# - 자식 프로세스로 HANDLE 상속파일 다운로드1
13723정성태9/2/20249475C/C++: 170. Windows - STARTUPINFO의 cbReserved2, lpReserved2 멤버 사용자 정의파일 다운로드2
13722정성태9/2/20247349C/C++: 169. C/C++ - CRT(C Runtime) 함수에 의존성이 없는 프로젝트 생성
13721정성태8/30/20247125C/C++: 168. Visual C++ CRT(C Runtime DLL: msvcr...dll)에 대한 의존성 제거 - 두 번째 이야기
13720정성태8/29/20247649VS.NET IDE: 193. C# - Visual Studio의 자식 프로세스 디버깅
13719정성태8/28/20247568Linux: 79. C++ - pthread_mutexattr_destroy가 없다면 메모리 누수가 발생할까요?
13718정성태8/27/20249629오류 유형: 921. Visual C++ - error C1083: Cannot open include file: 'float.h': No such file or directory [2]
13717정성태8/26/20249293VS.NET IDE: 192. Visual Studio 2022 - Windows XP / 2003용 C/C++ 프로젝트 빌드
13716정성태8/21/20248195C/C++: 167. Visual C++ - 윈도우 환경에서 _execv 동작 [1]
13715정성태8/19/20249854Linux: 78. 리눅스 C/C++ - 특정 버전의 glibc 빌드 (docker-glibc-builder)
1  2  3  4  5  6  7  8  9  [10]  11  12  13  14  15  ...