Microsoft MVP성태의 닷넷 이야기
글쓴 사람
홈페이지
첨부 파일

활성화 함수에 따른 뉴런의 출력을 그리드 맵으로 시각화

다음의 책에 보면,

실체가 손에 잡히는 딥러닝
; http://www.yes24.com/Product/Goods/74258238

뉴런의 가중치와 편향에 대한 시각화를 한 내용이 나옵니다. 그중에서 활성 함수가 sigmoid인 파이썬 소스 코드(\DeepLearning_Examples.zip\Chapter4\4-6_single_neuron.ipynb)가 공개되어 있는데요.

[예제 파일] 실체가 손에 잡히는 딥러닝, 기초부터 실전 프로그래밍
; https://www.onlybook.co.kr/entry/deeplearingexamples?category=738122

import numpy as np
import matplotlib.pyplot as plt

X = np.arange(-1.0, 1.0, 0.2)
Y = np.arange(-1.0, 1.0, 0.2)

Z = np.zeros((10, 10))

w_x = 2.5
w_y = 3.0

bias = 0.1

for i in range(10):
    for j in range(10):
        u = X[i] * w_x + Y[j] * w_y + bias

        y = 1 / (1 + np.exp(-u))
        Z[j][i ] = y

plt.imshow(Z, "gray", vmin = 0.0, vmax = 1.0)
plt.colorbar();
plt.show();

실은 이걸 C#으로도 해보려고 지난번 글을 쓴 것입니다. ^^

C# - PLplot의 16색 이상을 표현하는 방법과 subpage를 이용한 그리드 맵 표현
; https://www.sysnet.pe.kr/2/0/11960

게다가 sigmoid 활성 함수는 전에도 한번 소개한 적이 있는데,

C# - 로지스틱 회귀를 이용한 분류
; https://www.sysnet.pe.kr/2/0/11955

따라서 입력 값 x0와 x1을 받는 뉴런이 있다고 할 때,

perceptron_1.png

각각의 출력값을 그리드 맵으로 출력하는 C# 코드를 다음과 같이 작성할 수 있습니다.

using System;
using System.Linq;

class Program
{
    static void Main(string[] args)
    {
        var X0 = Utils.ARange(-1.0, 1.0, 0.1).ToArray();
        var X1 = Utils.ARange(-1.0, 1.0, 0.1).ToArray();

        double[,] Y = new double[10, 10];

        double w0 = 1.0; // 가중치를 모두 1.0으로 고정 (물론 임의로 설정해서 테스트 가능)
        double w1 = 1.0;

        double bias = 0.1; // 편향을 0.1로 고정 (물론 임의로 설정해서 테스트 가능)

        for (int i = 0; i < 10; i ++)
        {
            for (int j = 0; j < 10; j ++)
            {
                double u = X0[i] * w0 + X1[j] * w1 + bias;
                double y = 1 / (1 + Math.Exp(-u));

                Y[j, i] = y;
            }
        }

        Gridmap grid = new Gridmap();
        grid.Show(Y);
    }
}

sigmoid.png

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




책에서는 나오지 않지만, 기왕 해보는 김에 위의 소스 코드에서 활성화 함수만 바꿔가며 그리드 맵 출력을 할 수 있습니다. 다음은 각각의 결과입니다. (가중치와 편향을 바꿔가면서 테스트하면 더 재미있을 것입니다. ^^)

[계단 함수] == (x) => (x <= 0) ? 0 : 1
stepfunction.png

[tanh] == (x) => Math.Tanh(x)
tanh.png

[ReLU] == (x) => (x <= 0) ? 0 : x
tanh.png

[Leaky ReLU] == (x) => (x <= 0) ? 0.01 * x : x
tanh.png

[항등 함수] == (x) => x
tanh.png

[소프트맥스 함수] == (x) => Math.Exp(x) / sumOfAllExp
tanh.png




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 6/30/2019 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




1  2  3  4  [5]  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12119정성태1/17/2020481디버깅 기술: 160. Windbg 확장 DLL 만들기 (3) - C#으로 만드는 방법
12118정성태1/17/2020448개발 환경 구성: 466. C# DLL에서 Win32 C/C++처럼 dllexport 함수를 제공하는 방법 - 세 번째 이야기
12117정성태1/15/2020453디버깅 기술: 159. C# - 디버깅 중인 프로세스를 강제로 다른 디버거에서 연결하는 방법파일 다운로드1
12116정성태1/15/2020364디버깅 기술: 158. Visual Studio로 디버깅 시 sos.dll 확장 명령어를 (비롯한 windbg의 다양한 기능을) 수행하는 방법
12115정성태1/14/2020329디버깅 기술: 157. C# - PEB.ProcessHeap을 이용해 디버깅 중인지 확인하는 방법파일 다운로드1
12114정성태1/13/2020544디버깅 기술: 156. C# - PDB 파일로부터 심벌(Symbol) 및 타입(Type) 정보 열거 [1]파일 다운로드3
12113정성태1/12/2020683오류 유형: 590. Visual C++ 빌드 오류 - fatal error LNK1104: cannot open file 'atls.lib' [1]
12112정성태1/12/2020301오류 유형: 589. PowerShell - 원격 Invoke-Command 실행 시 "WinRM cannot complete the operation" 오류 발생
12111정성태3/23/2020746디버깅 기술: 155. C# - KernelMemoryIO 드라이버를 이용해 실행 프로그램을 숨기는 방법(DKOM: Direct Kernel Object Modification) [1]
12110정성태1/12/2020477디버깅 기술: 154. Patch Guard로 인해 블루 스크린(BSOD)가 발생하는 사례파일 다운로드1
12109정성태1/10/2020385오류 유형: 588. Driver 프로젝트 빌드 오류 - Inf2Cat error -2: "Inf2Cat, signability test failed."
12108정성태1/10/2020293오류 유형: 587. Kernel Driver 시작 시 127(The specified procedure could not be found.) 오류 메시지 발생
12107정성태1/10/2020407.NET Framework: 877. C# - 프로세스의 모든 핸들을 열람 - 두 번째 이야기
12106정성태1/8/2020437VC++: 136. C++ - OSR Driver Loader와 같은 Legacy 커널 드라이버 설치 프로그램 제작 [1]
12105정성태1/8/2020349디버깅 기술: 153. C# - PEB를 조작해 로드된 DLL을 숨기는 방법
12104정성태1/9/2020636DDK: 9. 커널 메모리를 읽고 쓰는 NT Legacy driver와 C# 클라이언트 프로그램 [2]
12103정성태4/23/20201004DDK: 8. Visual Studio 2019 + WDK Legacy Driver 제작- Hello World 예제 [1]파일 다운로드2
12102정성태1/6/2020471디버깅 기술: 152. User 권한(Ring 3)의 프로그램에서 _ETHREAD 주소(및 커널 메모리를 읽을 수 있다면 _EPROCESS 주소) 구하는 방법
12101정성태1/8/2020420.NET Framework: 876. C# - PEB(Process Environment Block)를 통해 로드된 모듈 목록 열람
12100정성태1/3/2020314.NET Framework: 875. .NET 3.5 이하에서 IntPtr.Add 사용
12099정성태1/3/2020437디버깅 기술: 151. Windows 10 - Process Explorer로 확인한 Handle 정보를 windbg에서 조회
12098정성태1/2/2020410.NET Framework: 874. C# - 커널 구조체의 Offset 값을 하드 코딩하지 않고 사용하는 방법
12097정성태1/2/2020318디버깅 기술: 150. windbg - Wow64, x86, x64에서의 커널 구조체(예: TEB) 구조체 확인
12096정성태1/2/2020492디버깅 기술: 149. C# - DbgEng.dll을 이용한 간단한 디버거 제작
12095정성태12/27/2019503VC++: 135. C++ - string_view의 동작 방식
12094정성태12/26/2019492.NET Framework: 873. C# - 코드를 통해 PDB 심벌 파일 다운로드 방법
1  2  3  4  [5]  6  7  8  9  10  11  12  13  14  15  ...