Microsoft MVP성태의 닷넷 이야기
.NET Framework: 368. Encoding 타입의 대체(fallback) 메카니즘 [링크 복사], [링크+제목 복사]
조회: 19851
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 2개 있습니다.)
(시리즈 글이 7개 있습니다.)
.NET Framework: 248. 닷넷에서 지원되는 문자열 인코딩 이름 목록
; https://www.sysnet.pe.kr/2/0/1147

.NET Framework: 368. Encoding 타입의 대체(fallback) 메카니즘
; https://www.sysnet.pe.kr/2/0/1446

.NET Framework: 373. C# 문자열의 인코딩이란?
; https://www.sysnet.pe.kr/2/0/1461

.NET Framework: 701. 한글이 포함된 바이트 배열을 나눈 경우 한글이 깨지지 않도록 다시 조합하는 방법
; https://www.sysnet.pe.kr/2/0/11378

.NET Framework: 702. 한글이 포함된 바이트 배열을 나눈 경우 한글이 깨지지 않도록 다시 조합하는 방법(두 번째 이야기)
; https://www.sysnet.pe.kr/2/0/11381

.NET Framework: 867. C# - Encoding.Default 값을 바꿀 수 있을까요?
; https://www.sysnet.pe.kr/2/0/12037

닷넷: 2190. C# - 닷넷 코어/5+에서 달라지는 System.Text.Encoding 지원
; https://www.sysnet.pe.kr/2/0/13506




Encoding 타입의 대체(fallback) 메카니즘

이번 글은 다음의 질문에 대한 답변입니다.

ksc5601에서 지원하지않는 확장문자 찾는방법
; https://www.sysnet.pe.kr/3/0/1136

사실, "찾는 방법"까지는 설명할 수 없고 이런 기능을 하도록 BCL의 기능을 하나 이용해 볼 텐데요.

일단, 문제를 간략화 시켜 정리해 보면 다음과 같습니다.

  • 유니코드 데이터를 읽어서 ks_c_5601-1987로 변환.
  • 이 과정에서 ks_c_5601-1987에서 표현할 수 없는 유니코드 문자는 원하는 문자로 대체

그런데, Java를 언급하는 것으로 보아 실제로 사용된 인코딩 방식은 윈도우 기준으로 보면 "ks_c_5601-1987"이 아니라 "euc-kr"이 아닌가 싶습니다. 전에도 아래의 글을 통해 한번 언급했지만,

유니코드와 한글 - 유니코드와 닷넷을 이용한 한글 처리
; https://www.sysnet.pe.kr/2/0/1294

"샾"이라는 문자는 euc-kr 인코딩에서 표현이 안되는 것이지, ks_c_5601-1987에는 해당 단어가 표현가능합니다. (자바에서는 euc-kr이 ks_c_5601-1987로 사용되는 것으로 알고 있습니다.)

이를 감안해서, 이후로는 euc-kr로 두고 설명을 하겠습니다.




자, 그럼 코드로 표현해 볼까요? ^^

static void Main(string[] args)
{
    // 샾: 0xC0FE
    // 유니코드 C000~CFFF
    // ; http://ko.wikipedia.org/wiki/%EC%9C%A0%EB%8B%88%EC%BD%94%EB%93%9C_C000~CFFF

    // Little-endian 유니 코드
    // 클라이언트로부터 입력된 데이터가 unicodeBuffer에 있다고 가정.
    byte[] unicodeBuffer = Encoding.Unicode.GetBytes("샾");

    // 전달받은 유니코드 인코딩된 데이터를 다시 디코딩
    string orgText = Encoding.Unicode.GetString(unicodeBuffer);

    // 복원된 데이터를 다시 euc-kr로 인코딩
    Encoding eucEncode = Encoding.GetEncoding("euc-kr");

    byte [] eucBuffer = eucEncode.GetBytes(orgText);
    string target = eucEncode.GetString(eucBuffer);

    Console.WriteLine(target);
}

위의 코드를 실행했을 때 화면에는 "?" 글자만 찍힙니다. 유니코드로는 표현 가능한 "샾" 글자가 euc-kr 인코딩에는 없기 때문입니다.

닷넷 BCL의 Encoding 타입은 변환되지 않는 글자에 대해 기본적으로 '?'로 치환합니다. 물론, '?' 기본문자를 바꾸는 것도 가능한데 이를 위해 GetEncoding 메소드에 다음의 2가지 인자를 넣어주어야 합니다.

Encoding eucEncode = Encoding.GetEncoding("euc-kr",
    new EncoderReplacementFallback("*"), new DecoderReplacementFallback("*"));

이렇게 변경하고 다시 실행해 보면, "샾" 글자가 "*"로 치환된 것을 확인할 수 있습니다.

제가 Java는 잘 몰라서 ^^ 유사한 코드를 알진 못하지만 아마도 닷넷의 EncoderReplacementFallback 같은 방식이 자바에서도 제공될 것이므로 그것을 찾아보면 됩니다.




만약, 자바에서 제공되지 않는다면 직접 euc-kr과 unicode 간의 매핑을 해줘야 합니다. 제가 알기로는 이에 대한 공식화된 규칙은 없으며 다른 사람들이 만들어 놓은 소스 코드를 참조하시는 것이 그나마 빠르게 시작할 수 있는 방법입니다.

EUC-KR to UNICODE mapping 
; http://ricardohu.wikispaces.com/EUC-KR+to+UNICODE+mapping

위의 코드 표에서 euc-kr에는 없는 unicode 값이 들어온다면 그 글자를 원하는 것으로 치환하도록 직접 코드를 만들어 주어야 합니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 11/2/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2020-02-04 10시51분
C# - Encoding.Default 값을 바꿀 수 있을까요?
; https://www.sysnet.pe.kr/2/0/12037

Encoding defaultEncoding = Encoding.GetEncoding(Encoding.ASCII.CodePage,
    new EncoderReplacementFallback(""), new DecoderReplacementFallback(""));

SetDefaultEncoding(defaultEncoding);
정성태

1  2  3  4  5  6  7  8  9  [10]  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13379정성태6/23/20233285스크립트: 51. 파이썬 2.x에서의 동적 함수 추가
13378정성태6/22/20233180오류 유형: 868. docker - build 시 "CANCELED ..." 뜨는 문제
13377정성태6/22/20237022오류 유형: 867. 파이썬 mysqlclient 2.2.x 설치 시 "Specify MYSQLCLIENT_CFLAGS and MYSQLCLIENT_LDFLAGS env vars manually" 오류
13376정성태6/21/20233398.NET Framework: 2129. C# - Polly를 이용한 클라이언트 측의 요청 재시도파일 다운로드1
13375정성태6/20/20233076스크립트: 50. Transformers (신경망 언어모델 라이브러리) 강좌 - 2장 코드 실행 결과
13374정성태6/20/20233188오류 유형: 866. 파이썬 - <class 'AttributeError'> module 'flask.json' has no attribute 'JSONEncoder'
13373정성태6/19/20234479오류 유형: 865. 파이썬 - pymssql 설치 관련 오류 정리
13372정성태6/15/20233185개발 환경 구성: 682. SQL Server TLS 통신을 위해 사용되는 키 길이 확인 방법
13371정성태6/15/20233217개발 환경 구성: 681. openssl - 인증서 버전(V1 / V3)
13370정성태6/14/20233387개발 환경 구성: 680. C# - Ubuntu + Microsoft.Data.SqlClient + SQL Server 2008 R2 연결 방법 - TLS 1.2 지원
13369정성태6/13/20233191개발 환경 구성: 679. PyCharm(을 비롯해 JetBrains에 속한 여타) IDE에서 내부 Window들의 탭이 없어진 경우
13368정성태6/13/20233337개발 환경 구성: 678. openssl로 생성한 인증서를 SQL Server의 암호화 인증서로 설정하는 방법
13367정성태6/10/20233466오류 유형: 864. openssl로 만든 pfx 인증서를 Windows Server 2016 이하에서 등록 시 "The password you entered is incorrect" 오류 발생
13366정성태6/10/20233239.NET Framework: 2128. C# - 윈도우 시스템에서 지원하는 암호화 목록(Cipher Suites) 나열파일 다운로드1
13365정성태6/8/20232969오류 유형: 863. MODIFY FILE encountered operating system error 112(failed to retrieve text for this error. Reason: 15105)
13364정성태6/8/20233787.NET Framework: 2127. C# - Ubuntu + Microsoft.Data.SqlClient + SQL Server 2008 R2 연결 방법 [1]
13363정성태6/7/20233344스크립트: 49. 파이썬 - "Transformers (신경망 언어모델 라이브러리) 강좌" - 1장 2절 코드 실행 결과
13362정성태6/1/20233278.NET Framework: 2126. C# - 서버 측의 요청 제어 (Microsoft.AspNetCore.RateLimiting)파일 다운로드1
13361정성태5/31/20233722오류 유형: 862. Facebook - ASP.NET/WebClient 사용 시 graph.facebook.com/me 호출에 대해 403 Forbidden 오류
13360정성태5/31/20233089오류 유형: 861. WSL/docker - failed to start shim: start failed: io.containerd.runc.v2: create new shim socket
13359정성태5/19/20233429오류 유형: 860. Docker Desktop - k8s 초기화 무한 반복한다면?
13358정성태5/17/20233753.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제 [1]파일 다운로드1
13357정성태5/16/20233543.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제파일 다운로드1
13356정성태5/15/20233861DDK: 10. Device Driver 테스트 설치 관련 오류 (Code 37, Code 31) 및 인증서 관련 정리
13355정성태5/12/20233798.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현 [1]파일 다운로드1
13354정성태5/12/20234050.NET Framework: 2122. C# - "Use Unicode UTF-8 for worldwide language support" 설정을 한 경우, 한글 입력이 '\0' 문자로 처리
1  2  3  4  5  6  7  8  9  [10]  11  12  13  14  15  ...