Microsoft MVP성태의 닷넷 이야기
C/C++: 184. C++ - ICU dll을 이용하는 예제 코드 (Windows) [링크 복사], [링크+제목 복사],
조회: 5383
글쓴 사람
정성태 (seongtaejeong at gmail.com)
홈페이지
첨부 파일

(시리즈 글이 5개 있습니다.)
오류 유형: 848. .NET Core/5+ - Process terminated. Couldn't find a valid ICU package installed on the system
; https://www.sysnet.pe.kr/2/0/13266

닷넷: 2153. C# - 사용자가 빌드한 ICU dll 파일을 사용하는 방법
; https://www.sysnet.pe.kr/2/0/13430

C/C++: 184. C++ - ICU dll을 이용하는 예제 코드 (Windows)
; https://www.sysnet.pe.kr/2/0/13796

C/C++: 185. C++ - 문자열의 대소문자를 변환하는 transform + std::tolower/toupper 방식의 문제점
; https://www.sysnet.pe.kr/2/0/13797

닷넷: 2308. C# - ICU 라이브러리를 활용한 문자열의 대소문자 변환
; https://www.sysnet.pe.kr/2/0/13800




C++ - ICU dll을 이용하는 예제 코드 (Windows)

(이 글에 포함된 일부 유니코드 문자는 모바일 웹 브라우저에서는 정상적으로 안 보일 수 있습니다.)




예전에, (지원은) 닷넷 5부터 ICU dll을 사용한다고 했는데요,

C# - 사용자가 빌드한 ICU dll 파일을 사용하는 방법
; https://www.sysnet.pe.kr/2/0/13430

C++에서는 어떻게 사용하는지 잠깐 살펴보겠습니다. 일단, 윈도우의 경우 해당 라이브러리가 준비돼 있어야 할 텐데 vcpkg를 이용하는 경우 빌드는 쉽게 완료할 수 있습니다.

그리고 사용법마저도, 검색해 보니 githu에 있군요. ^^

c-icu-tolower-toupper / main.c
; https://github.com/RicardasSim/c-icu-tolower-toupper/blob/master/main.c

위의 소스코드를 "C++ - 윈도우에서 한글(및 유니코드)을 포함한 콘솔 프로그램을 컴파일 및 실행하는 방법" 글에서 설명한 방법으로 변환한 다음의 기본 예제로 시작해 보겠습니다.

#pragma execution_character_set( "utf-8" )

#include <iostream>

// ICU dll을 위한 기본 헤더 파일
#include <unicode/utypes.h>
#include <unicode/ucnv.h>
#include <unicode/ustring.h>
#include <unicode/ustdio.h>

#include <Windows.h>

int main()
{
    SetConsoleOutputCP(65001);

    char testStr[] = "\xf0\x90\xb2\x80"; // U+10C80 코드(OLD HUNGARIAN CAPITAL LETTER)
    std::cout << testStr << std::endl; // 출력 결과: 𐲀


    return 0;
}

그럼, 저 testStr에 있는 utf-8 인코딩된 문자열을 ICU 라이브러리를 사용해 utf-16 인코딩하는 것을 이렇게 작성할 수 있습니다.

char testStr[] = "\xf0\x90\xb2\x80";
std::cout << testStr << std::endl;

UErrorCode errorCode = U_ZERO_ERROR;
int32_t length;
int32_t retLength;
UChar* uStr;

{
    // 우선, utf-16 인코딩 결과물을 위해 필요한 버퍼 크기를 알아냄.

    u_strFromUTF8(NULL, 0, &length, testStr, -1, &errorCode);
    if (errorCode != U_ZERO_ERROR && errorCode != U_BUFFER_OVERFLOW_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        return 1;
    }

    errorCode = U_ZERO_ERROR;

    if (length < 1)
    {
        printf("Error: the length less than 1.\n");
        return 1;
    }

    // UChar == char16_t
    // UTF-16 (2바이트) 인코딩에 필요한 바이트 수 + 1(널 문자) 만큼 할당.
    uStr = (UChar*)malloc((length + 1) * sizeof(UChar));
    if (!uStr)
    {
        printf("Error: unable to allocate memory (1).\n");
        return 1;
    }
}

{
    // utf-8 문자열을 utf-16 문자열로 변환.
    u_strFromUTF8(uStr, length + 1, &retLength, testStr, -1, &errorCode);

    // utf-16 인코딩 문자열이므로 Windows의 경우 W 버전의 API를 사용해 출력 가능
    WriteConsoleW(GetStdHandle(STD_OUTPUT_HANDLE), uStr, retLength, NULL, NULL);
    printf("\n");

    free(uStr);
}

소스코드가 에러 처리로 인해 길어졌지만, 전체적인 방식은 Windows에서도 MultiByteToWideChar 등의 인코딩 변환 함수를 사용하는 절차와 비슷합니다.

또한, github 원문 소스에서는 저렇게 변환한 utf-16 문자열을 화면에 출력하기 위해 printU 함수로 전달하는데요, printU 함수는 내부적으로 다시 utf-16 인코딩 문자열을 u_strToUTF8 함수를 이용해 utf-8로 변환 후 출력하는 역할만 합니다. 따라서, Windows 환경이라면 그런 변환 필요 없이 WriteConsoleW를 호출해도 됩니다.

그나저나 2개의 함수 이름을 보면,

  • u_strFromUTF8
  • u_strToUTF8

이제 작명 규칙이 눈에 보이는데요, 즉 icu 라이브러리에서의 "u_str"은 "UTF-16 문자열"을 의미합니다.




그다음 알아볼 것은 소문자로 변환하는 방법인데요, 이것도 위의 u_strFromUTF8 함수를 사용하는 것과 절차는 비슷합니다. 다만 호출하는 함수가 u_strToLower라는 것이 다른데요, 이름에서 알 수 있듯 이것은 "UTF-16" 문자열(u_str)을 대상으로 소문자로 변환(ToLower)하는 함수입니다.

따라서, 소스코드에서 utf-8 문자열을 사용하고 있다면 u_strFromUTF8 함수를 사용해 utf-16 문자열로 변환한 다음에 u_strToLower 함수를 호출해야 합니다.

혹은, Visual C++의 wchar_t 타입인 경우라면 그냥 곧바로 u_strToLower를 호출해도 되는데요, 아래는 그 예제를 보여줍니다.

UChar* lowerStr;
wchar_t pText[] = L"\xD803\xDC80";
UChar* uText;

{
    // 우선, 소문자로 변환했을 때의 결과물을 위해 필요한 버퍼 크기를 알아냄.
    uText = (UChar*)pText;

    length = u_strToLower(NULL, 0, uText, -1, nullptr, &errorCode);

    if (errorCode != U_ZERO_ERROR && errorCode != U_BUFFER_OVERFLOW_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        return 1;
    }

    errorCode = U_ZERO_ERROR;

    if (length < 1)
    {
        printf("Error: length less than 1.\n");
        return 1;
    }

    // UTF-16 (2바이트) 소문자 텍스트가 보관될 버퍼 할당
    lowerStr = (UChar*)malloc((length + 1) * sizeof(UChar));
    if (!lowerStr)
    {
        printf("Error: unable to allocate memory (2).\n");
        return 1;
    }
}

{
    // UTF-16 문자열의 소문자 변환
    retLength = u_strToLower(lowerStr, length + 1, uText, -1, nullptr, &errorCode);

    if (errorCode != U_ZERO_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        free(lowerStr);
        return 1;
    }

    WriteConsoleW(GetStdHandle(STD_OUTPUT_HANDLE), lowerStr, retLength, NULL, NULL);

    free(lowerStr);
}

딱히 더 설명할 필요가 없군요, ^^ 그리고 출력 결과는 '𐲀' 문자의 소문자에 해당하는 '𐳀' 문자가 나옵니다. (U+10CC0(OLD HUNGARIAN SMALL LETTER A))

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




예제의 나머지는 대문자로 변환하는 것인데요, 방식은 u_strToUpper 함수만 사용한다는 차이를 제외하고는 소문자를 변환할 때와 정확하게 같으므로 생략하겠습니다. ^^

그리고 아래의 예제 코드는 "c-icu-tolower-toupper / main.c" 파일을 Visual C++에서 약간의 컴파일 오류가 발생하는 것을 수정해 본 것입니다.

#include <iostream>

#include <unicode/utypes.h>
#include <unicode/ucnv.h>
#include <unicode/ustring.h>
#include <unicode/ustdio.h>

/*
--------------------
 printU();
--------------------
*/

bool printU(UChar* str)
{

    int32_t len;
    UErrorCode errorCode = U_ZERO_ERROR;
    char* s;

    u_strToUTF8(NULL, 0, &len, str, -1, &errorCode);

    if (len < 1)
    {
        printf("Error: the length less than 1.\n");
        return false;
    }

    if (errorCode != U_ZERO_ERROR && errorCode != U_BUFFER_OVERFLOW_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        return false;
    }

    errorCode = U_ZERO_ERROR;

    s = (char*)malloc(len + 1);

    if (!s)
    {
        printf("Error: unable to allocate memory (4)\n");
        return false;
    }

    u_strToUTF8(s, len + 1, &len, str, -1, &errorCode);

    if (errorCode != U_ZERO_ERROR)
    {
        printf("Error: u_strToUTF8(): %s\n", u_errorName(errorCode));
        free(s);
        return false;
    }

    printf("UTF8 string: %s\n", s);

    free(s);

    return true;
}

/*
--------------------
 main();
--------------------
*/

int main()
{

    char testStr[] = "Šešios žąsys su šešiais žąsyčiais.";
    const char locale[] = "lt_LT";

    UChar* uStr;
    UChar* lowerStr;
    UChar* upperStr;

    int32_t length;
    int32_t retLength;
    UErrorCode errorCode = U_ZERO_ERROR;

    printf("%s\n", testStr);
    // printf("strlen: %ld\n", strlen(testStr));
    printf("strlen: %zu\n", strlen(testStr));

    u_strFromUTF8(NULL, 0, &length, testStr, -1, &errorCode);

    if (errorCode != U_ZERO_ERROR && errorCode != U_BUFFER_OVERFLOW_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        return 1;
    }

    errorCode = U_ZERO_ERROR;

    printf("length: %d\n", length);

    if (length < 1)
    {
        printf("Error: the length less than 1.\n");
        return 1;
    }

    uStr = (UChar*)malloc((length + 1) * sizeof *uStr);

    if (!uStr)
    {
        printf("Error: unable to allocate memory (1).\n");
        return 1;
    }

    u_strFromUTF8(uStr, (length + 1) * sizeof *uStr, &retLength, testStr, -1, &errorCode);

    if (errorCode != U_ZERO_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        free(uStr);
        return 1;
    }

    printf("retLength: %d\n", retLength);

    if (!printU(uStr))
    {
        printf("Error: printU.\n");
        free(uStr);
        return 1;
    }



    // to lower

    length = u_strToLower(NULL, 0, uStr, -1, locale, &errorCode);

    if (errorCode != U_ZERO_ERROR && errorCode != U_BUFFER_OVERFLOW_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        free(uStr);
        return 1;
    }

    errorCode = U_ZERO_ERROR;

    printf("length: %d\n", length);

    if (length < 1)
    {
        printf("Error: length less than 1.\n");
        free(uStr);
        return 1;
    }

    lowerStr = (UChar*)malloc((length + 1) * sizeof *lowerStr);

    if (!lowerStr)
    {
        printf("Error: unable to allocate memory (2).\n");
        free(uStr);
        return 1;
    }

    length = u_strToLower(lowerStr, (length + 1) * sizeof *lowerStr, uStr, -1, locale, &errorCode);

    if (errorCode != U_ZERO_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        free(lowerStr);
        free(uStr);
        return 1;
    }

    if (!printU(lowerStr))
    {
        printf("Error: printU.\n");
        free(lowerStr);
        free(uStr);
        return 1;
    }

    free(lowerStr);



    // to upper

    length = u_strToUpper(NULL, 0, uStr, -1, locale, &errorCode);

    if (errorCode != U_ZERO_ERROR && errorCode != U_BUFFER_OVERFLOW_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        free(uStr);
        return 1;
    }

    errorCode = U_ZERO_ERROR;

    printf("length: %d\n", length);

    if (length < 1)
    {
        printf("Error: length less than 1.\n");
        free(uStr);
        return 1;
    }

    upperStr = (UChar*)malloc((length + 1) * sizeof *upperStr);

    if (!upperStr)
    {
        printf("Error: unable to allocate memory (3).\n");
        free(uStr);
        return 1;
    }

    length = u_strToUpper(upperStr, (length + 1) * sizeof *upperStr, uStr, -1, locale, &errorCode);

    if (errorCode != U_ZERO_ERROR)
    {
        printf("Error: (ICU) %s\n", u_errorName(errorCode));
        free(upperStr);
        free(uStr);
        return 1;
    }

    if (!printU(upperStr))
    {
        printf("Error: printU.\n");
        free(upperStr);
        free(uStr);
        return 1;
    }

    free(upperStr);



    free(uStr);

    return 0;
}

실행해 보면 이런 출력이 나옵니다.

Šešios žąsys su šešiais žąsyčiais.
strlen: 43
length: 34
retLength: 34
UTF8 string: Šešios žąsys su šešiais žąsyčiais.
length: 34
UTF8 string: šešios žąsys su šešiais žąsyčiais.
length: 34
UTF8 string: ŠEŠIOS ŽĄSYS SU ŠEŠIAIS ŽĄSYČIAIS.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 11/3/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 16  17  18  19  20  21  [22]  23  24  25  26  27  28  29  30  ...
NoWriterDateCnt.TitleFile(s)
13388정성태7/3/202311865오류 유형: 871. 윈도우 탐색기에서 열리지 않는 zip 파일 - The Compressed (zipped) Folder '[...].zip' is invalid. [1]파일 다운로드1
13387정성태6/28/202311110오류 유형: 870. _mysql - Commands out of sync; you can't run this command now
13386정성태6/27/202311807Linux: 61. docker - 원격 제어를 위한 TCP 바인딩 추가
13385정성태6/27/202311677Linux: 60. Linux - 외부에서의 접속을 허용하기 위한 TCP 포트 여는 방법
13384정성태6/26/202311156.NET Framework: 2131. C# - Source Generator로 해결하는 enum 박싱 문제파일 다운로드1
13383정성태6/26/202310962개발 환경 구성: 683. GPU 런타임을 사용하는 Colab 노트북 설정
13382정성태6/25/202310846.NET Framework: 2130. C# - Win32 API를 이용한 윈도우 계정 정보 (예: 마지막 로그온 시간)파일 다운로드1
13381정성태6/25/202311802오류 유형: 869. Fatal Python error: init_fs_encoding: failed to get the Python codec of the filesystem encoding
13380정성태6/24/202310235스크립트: 52. 파이썬 3.x에서의 동적 함수 추가
13379정성태6/23/202310699스크립트: 51. 파이썬 2.x에서의 동적 함수 추가
13378정성태6/22/202310901오류 유형: 868. docker - build 시 "CANCELED ..." 뜨는 문제
13377정성태6/22/202315933오류 유형: 867. 파이썬 mysqlclient 2.2.x 설치 시 "Specify MYSQLCLIENT_CFLAGS and MYSQLCLIENT_LDFLAGS env vars manually" 오류
13376정성태6/21/202311668.NET Framework: 2129. C# - Polly를 이용한 클라이언트 측의 요청 재시도파일 다운로드1
13375정성태6/20/202310696스크립트: 50. Transformers (신경망 언어모델 라이브러리) 강좌 - 2장 코드 실행 결과
13374정성태6/20/202310404오류 유형: 866. 파이썬 - <class 'AttributeError'> module 'flask.json' has no attribute 'JSONEncoder'
13373정성태6/19/202311795오류 유형: 865. 파이썬 - pymssql 설치 관련 오류 정리
13372정성태6/15/202310568개발 환경 구성: 682. SQL Server TLS 통신을 위해 사용되는 키 길이 확인 방법
13371정성태6/15/202311023개발 환경 구성: 681. openssl - 인증서 버전(V1 / V3)
13370정성태6/14/202311283개발 환경 구성: 680. C# - Ubuntu + Microsoft.Data.SqlClient + SQL Server 2008 R2 연결 방법 - TLS 1.2 지원
13369정성태6/13/202310582개발 환경 구성: 679. PyCharm(을 비롯해 JetBrains에 속한 여타) IDE에서 내부 Window들의 탭이 없어진 경우
13368정성태6/13/202311354개발 환경 구성: 678. openssl로 생성한 인증서를 SQL Server의 암호화 인증서로 설정하는 방법
13367정성태6/10/202312136오류 유형: 864. openssl로 만든 pfx 인증서를 Windows Server 2016 이하에서 등록 시 "The password you entered is incorrect" 오류 발생
13366정성태6/10/202311265.NET Framework: 2128. C# - 윈도우 시스템에서 지원하는 암호화 목록(Cipher Suites) 나열파일 다운로드1
13365정성태6/8/202310192오류 유형: 863. MODIFY FILE encountered operating system error 112(failed to retrieve text for this error. Reason: 15105)
13364정성태6/8/202312342.NET Framework: 2127. C# - Ubuntu + Microsoft.Data.SqlClient + SQL Server 2008 R2 연결 방법 [1]
13363정성태6/7/202312014스크립트: 49. 파이썬 - "Transformers (신경망 언어모델 라이브러리) 강좌" - 1장 2절 코드 실행 결과
... 16  17  18  19  20  21  [22]  23  24  25  26  27  28  29  30  ...