Microsoft MVP성태의 닷넷 이야기
.NET Framework: 368. Encoding 타입의 대체(fallback) 메카니즘 [링크 복사], [링크+제목 복사]
조회: 19796
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 2개 있습니다.)
(시리즈 글이 7개 있습니다.)
.NET Framework: 248. 닷넷에서 지원되는 문자열 인코딩 이름 목록
; https://www.sysnet.pe.kr/2/0/1147

.NET Framework: 368. Encoding 타입의 대체(fallback) 메카니즘
; https://www.sysnet.pe.kr/2/0/1446

.NET Framework: 373. C# 문자열의 인코딩이란?
; https://www.sysnet.pe.kr/2/0/1461

.NET Framework: 701. 한글이 포함된 바이트 배열을 나눈 경우 한글이 깨지지 않도록 다시 조합하는 방법
; https://www.sysnet.pe.kr/2/0/11378

.NET Framework: 702. 한글이 포함된 바이트 배열을 나눈 경우 한글이 깨지지 않도록 다시 조합하는 방법(두 번째 이야기)
; https://www.sysnet.pe.kr/2/0/11381

.NET Framework: 867. C# - Encoding.Default 값을 바꿀 수 있을까요?
; https://www.sysnet.pe.kr/2/0/12037

닷넷: 2190. C# - 닷넷 코어/5+에서 달라지는 System.Text.Encoding 지원
; https://www.sysnet.pe.kr/2/0/13506




Encoding 타입의 대체(fallback) 메카니즘

이번 글은 다음의 질문에 대한 답변입니다.

ksc5601에서 지원하지않는 확장문자 찾는방법
; https://www.sysnet.pe.kr/3/0/1136

사실, "찾는 방법"까지는 설명할 수 없고 이런 기능을 하도록 BCL의 기능을 하나 이용해 볼 텐데요.

일단, 문제를 간략화 시켜 정리해 보면 다음과 같습니다.

  • 유니코드 데이터를 읽어서 ks_c_5601-1987로 변환.
  • 이 과정에서 ks_c_5601-1987에서 표현할 수 없는 유니코드 문자는 원하는 문자로 대체

그런데, Java를 언급하는 것으로 보아 실제로 사용된 인코딩 방식은 윈도우 기준으로 보면 "ks_c_5601-1987"이 아니라 "euc-kr"이 아닌가 싶습니다. 전에도 아래의 글을 통해 한번 언급했지만,

유니코드와 한글 - 유니코드와 닷넷을 이용한 한글 처리
; https://www.sysnet.pe.kr/2/0/1294

"샾"이라는 문자는 euc-kr 인코딩에서 표현이 안되는 것이지, ks_c_5601-1987에는 해당 단어가 표현가능합니다. (자바에서는 euc-kr이 ks_c_5601-1987로 사용되는 것으로 알고 있습니다.)

이를 감안해서, 이후로는 euc-kr로 두고 설명을 하겠습니다.




자, 그럼 코드로 표현해 볼까요? ^^

static void Main(string[] args)
{
    // 샾: 0xC0FE
    // 유니코드 C000~CFFF
    // ; http://ko.wikipedia.org/wiki/%EC%9C%A0%EB%8B%88%EC%BD%94%EB%93%9C_C000~CFFF

    // Little-endian 유니 코드
    // 클라이언트로부터 입력된 데이터가 unicodeBuffer에 있다고 가정.
    byte[] unicodeBuffer = Encoding.Unicode.GetBytes("샾");

    // 전달받은 유니코드 인코딩된 데이터를 다시 디코딩
    string orgText = Encoding.Unicode.GetString(unicodeBuffer);

    // 복원된 데이터를 다시 euc-kr로 인코딩
    Encoding eucEncode = Encoding.GetEncoding("euc-kr");

    byte [] eucBuffer = eucEncode.GetBytes(orgText);
    string target = eucEncode.GetString(eucBuffer);

    Console.WriteLine(target);
}

위의 코드를 실행했을 때 화면에는 "?" 글자만 찍힙니다. 유니코드로는 표현 가능한 "샾" 글자가 euc-kr 인코딩에는 없기 때문입니다.

닷넷 BCL의 Encoding 타입은 변환되지 않는 글자에 대해 기본적으로 '?'로 치환합니다. 물론, '?' 기본문자를 바꾸는 것도 가능한데 이를 위해 GetEncoding 메소드에 다음의 2가지 인자를 넣어주어야 합니다.

Encoding eucEncode = Encoding.GetEncoding("euc-kr",
    new EncoderReplacementFallback("*"), new DecoderReplacementFallback("*"));

이렇게 변경하고 다시 실행해 보면, "샾" 글자가 "*"로 치환된 것을 확인할 수 있습니다.

제가 Java는 잘 몰라서 ^^ 유사한 코드를 알진 못하지만 아마도 닷넷의 EncoderReplacementFallback 같은 방식이 자바에서도 제공될 것이므로 그것을 찾아보면 됩니다.




만약, 자바에서 제공되지 않는다면 직접 euc-kr과 unicode 간의 매핑을 해줘야 합니다. 제가 알기로는 이에 대한 공식화된 규칙은 없으며 다른 사람들이 만들어 놓은 소스 코드를 참조하시는 것이 그나마 빠르게 시작할 수 있는 방법입니다.

EUC-KR to UNICODE mapping 
; http://ricardohu.wikispaces.com/EUC-KR+to+UNICODE+mapping

위의 코드 표에서 euc-kr에는 없는 unicode 값이 들어온다면 그 글자를 원하는 것으로 치환하도록 직접 코드를 만들어 주어야 합니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 11/2/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2020-02-04 10시51분
C# - Encoding.Default 값을 바꿀 수 있을까요?
; https://www.sysnet.pe.kr/2/0/12037

Encoding defaultEncoding = Encoding.GetEncoding(Encoding.ASCII.CodePage,
    new EncoderReplacementFallback(""), new DecoderReplacementFallback(""));

SetDefaultEncoding(defaultEncoding);
정성태

1  2  3  4  5  6  7  8  [9]  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13400정성태8/10/20233376오류 유형: 874. 파이썬 - pymssql을 윈도우 환경에서 설치 불가
13399정성태8/9/20233393닷넷: 2135. C# - 지역 변수로 이해하는 메서드 매개변수의 값/참조 전달
13398정성태8/3/20234163스크립트: 55. 파이썬 - pyodbc를 이용한 SQL Server 연결 사용법
13397정성태7/23/20233679닷넷: 2134. C# - 문자열 연결 시 string.Create를 이용한 GC 할당 최소화
13396정성태7/22/20233377스크립트: 54. 파이썬 pystack 소개 - 메모리 덤프로부터 콜 스택 열거
13395정성태7/20/20233331개발 환경 구성: 685. 로컬에서 개발 중인 ASP.NET Core/5+ 웹 사이트에 대해 localhost 이외의 호스트 이름으로 접근하는 방법
13394정성태7/16/20233282오류 유형: 873. Oracle.ManagedDataAccess.Client - 쿼리 수행 시 System.InvalidOperationException
13393정성태7/16/20233436닷넷: 2133. C# - Oracle 데이터베이스의 Sleep 쿼리 실행하는 방법
13392정성태7/16/20233313오류 유형: 872. Oracle - ORA-01031: insufficient privileges
13391정성태7/14/20233379닷넷: 2132. C# - sealed 클래스의 메서드를 callback 호출했을 때 인라인 처리가 될까요?
13390정성태7/12/20233368스크립트: 53. 파이썬 - localhost 호출 시의 hang 현상
13389정성태7/5/20233399개발 환경 구성: 684. IIS Express로 호스팅하는 웹을 WSL 환경에서 접근하는 방법
13388정성태7/3/20233531오류 유형: 871. 윈도우 탐색기에서 열리지 않는 zip 파일 - The Compressed (zipped) Folder '[...].zip' is invalid. [1]파일 다운로드1
13387정성태6/28/20233544오류 유형: 870. _mysql - Commands out of sync; you can't run this command now
13386정성태6/27/20233614Linux: 61. docker - 원격 제어를 위한 TCP 바인딩 추가
13385정성태6/27/20233829Linux: 60. Linux - 외부에서의 접속을 허용하기 위한 TCP 포트 여는 방법
13384정성태6/26/20233576.NET Framework: 2131. C# - Source Generator로 해결하는 enum 박싱 문제파일 다운로드1
13383정성태6/26/20233320개발 환경 구성: 683. GPU 런타임을 사용하는 Colab 노트북 설정
13382정성태6/25/20233364.NET Framework: 2130. C# - Win32 API를 이용한 윈도우 계정 정보 (예: 마지막 로그온 시간)파일 다운로드1
13381정성태6/25/20233748오류 유형: 869. Fatal Python error: init_fs_encoding: failed to get the Python codec of the filesystem encoding
13380정성태6/24/20233198스크립트: 52. 파이썬 3.x에서의 동적 함수 추가
13379정성태6/23/20233212스크립트: 51. 파이썬 2.x에서의 동적 함수 추가
13378정성태6/22/20233120오류 유형: 868. docker - build 시 "CANCELED ..." 뜨는 문제
13377정성태6/22/20236906오류 유형: 867. 파이썬 mysqlclient 2.2.x 설치 시 "Specify MYSQLCLIENT_CFLAGS and MYSQLCLIENT_LDFLAGS env vars manually" 오류
13376정성태6/21/20233293.NET Framework: 2129. C# - Polly를 이용한 클라이언트 측의 요청 재시도파일 다운로드1
13375정성태6/20/20232988스크립트: 50. Transformers (신경망 언어모델 라이브러리) 강좌 - 2장 코드 실행 결과
1  2  3  4  5  6  7  8  [9]  10  11  12  13  14  15  ...