Microsoft MVP성태의 닷넷 이야기
C/C++: 173. Windows / C++ - AllocConsole로 할당한 콘솔과 CRT 함수 연동 [링크 복사], [링크+제목 복사],
조회: 7223
글쓴 사람
정성태 (seongtaejeong at gmail.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 3개 있습니다.)
.NET Framework: 851. WinForm/WPF에서 Console 창을 띄워 출력하는 방법
; https://www.sysnet.pe.kr/2/0/12000

.NET Framework: 1031. WinForm/WPF에서 Console 창을 띄워 출력하는 방법 (2) - Output 디버깅 출력을 AllocConsole로 우회
; https://www.sysnet.pe.kr/2/0/12581

C/C++: 173. Windows / C++ - AllocConsole로 할당한 콘솔과 CRT 함수 연동
; https://www.sysnet.pe.kr/2/0/13729




Windows / C++ - AllocConsole로 할당한 콘솔과 CRT 함수 연동

예를 하나 들어 볼까요? 간단하게 Visual C++ Console Application 프로젝트를 하나 만들고 아래와 같이 코딩한 후,

// Console Application "Console (/SUBSYSTEM:CONSOLE)"

#include <iostream>

int main()
{
    std::cout << "Hello World!\n";
    getchar();
}

실행하면 콘솔 창에 std::cout 출력과 getchar() 입력 함수가 잘 연동이 됩니다. 콘솔 프로그램(Windows CUI Program)은 윈도우 운영체제의 콘솔 창 서비스를 자동으로 지원받으면서 Visual C++의 초기 CRT 함수들이 그것과 연동하는 절차를 거치기 때문입니다.

반면, 위의 프로젝트를 Windows Application으로 만들거나, 아니면 간단하게 "Linker" / "System"의 "Subsystem"을 "Console (/SUBSYSTEM:CONSOLE)" 대신 "Windows (/SUBSYSTEM:WINDOWS)"로 바꾼 후 WinMain으로 코드를 변경하면,

// Windows GUI Application "Windows (/SUBSYSTEM:WINDOWS)"

#include <iostream>

int WinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance, LPSTR lpCmdLine, int nShowCmd)
{
    std::cout << "Hello World!: " << result << std::endl;
    getchar();
    return 0;
}

이제 std::cout 출력은 어디에서도 볼 수 없고 getchar() 호출로 인한 블록킹도 발생하지 않습니다. 이런 경우 원한다면 AllocConsole을 이용해 별도의 콘솔 창을 띄우는 것이 가능한데요,

#include <iostream>
#include <Windows.h>

int WinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance, LPSTR lpCmdLine, int nShowCmd)
{
    BOOL result = AllocConsole();
    std::cout << "Hello World!: " << result << std::endl;
    getchar();
    return 0;
}

그래도 여전히 std::cout와 getchar는 연동하지 않습니다. 왜냐하면, 표준 I/O 및 에러 출력을 초기화하는 CRT 함수는 WinMain의 시작 전 WinMainCRTStartup 단계에서 이미 끝나기 때문에, AllocConsole을 호출한다고 해서 그 초기화 작업이 다시 호출되지는 않기 때문입니다. 사실, AllocConsole은 Win32 API로써 운영체제에서 제공하는 시스템 함수에 속하므로 엄밀히 CRT 작업과는 독립적인 기능입니다. 결국, std::cout, getchar()는 새롭게 뜬 Console과 연동이 안 되는 것입니다.

물론, 수동으로 연결하는 것은 가능합니다. 가령, getchar() 함수의 정의를 보면,

// C:\Program Files (x86)\Windows Kits\10\Source\10.0.22621.0\ucrt\stdio

extern "C" int __cdecl getchar()
{
    return _fgetchar();
}

extern "C" int __cdecl _fgetchar()
{
    return fgetc(stdin);
}

extern "C" int __cdecl fgetc(FILE* const public_stream) // public_stream
{
    ...[생략]...
}

결국 특정 FILE 스트림으로부터 fgetc 입력을 받는 것이므로 AllocConsole로 열어 놓은 표준 I/O를 다음과 같이 직접 지정해 출력할 수 있습니다.

#include <iostream>
#include <Windows.h>
#include <stdio.h>
#include <io.h>
#include <fcntl.h>

// Windows GUI Application 프로젝트 유형
int WinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance, LPSTR lpCmdLine, int nShowCmd)
{
    BOOL result = AllocConsole();

    {
        HANDLE hStdIn = GetStdHandle(STD_INPUT_HANDLE);
        HANDLE hStdOut = GetStdHandle(STD_OUTPUT_HANDLE);

        int fdIn = _open_osfhandle((long)hStdIn, _O_TEXT); // fdIn == 3
        int fdOut = _open_osfhandle((long)hStdOut, _O_TEXT); // fdOut == 4

        FILE* fpIn = _fdopen(fdIn, "rt");
        FILE* fpOut = _fdopen(fdOut, "wt");

        fprintf_s(fpOut, "Hello World: %d\n", result);
        fflush(fpOut);

        fgetc(fpIn);

        fclose(fpIn);
        fclose(fpOut);
    }
}




지난 글에서, *NIX의 open은, 사용하지 않는 file descriptor로부터 가장 낮은 번호를 할당한다고 했습니다. 이런 특징 때문에, *NIX에서는 0번을 닫고 새로운 파일을 열면 그것이 0번으로 할당돼, 표준 입력을 새롭게 지정하는 것이 가능합니다.

윈도우는 어떨까요? 위의 코드와 같은 경우, 엄밀히 0, 1, 2번이 사용 중이 아니므로 새롭게 파일을 열면 0번부터 시작해야 합니다. 하지만, _open_osfhandle을 호출한 결과는 (0번이 아닌) 3번부터 file descriptor를 받고 있습니다. 다시 말해, 윈도우는 가용한 가장 낮은 번호의 기준이 3번이라는 차이점이 있습니다.

그렇다면, 윈도우는 표준 I/O/Error를 새롭게 지정할 방법이 없는 것일까요? 이에 대해 검색해 보면,

AllocConsole() not displaying cout
; https://stackoverflow.com/questions/15543571/allocconsole-not-displaying-cout

답변에 따라 다음과 같이 freopen_s 함수를 이용할 수 있습니다.

BOOL result = AllocConsole();

FILE* fpIn = nullptr;
FILE* fpOut = nullptr;
freopen_s(&fpIn, "CONIN$", "r", stdin);
freopen_s(&fpOut, "CONOUT$", "w", stdout);

_ASSERT(fpIn == stdin);
_ASSERT(fpOut == stdout);

std::cout << "Hello World!: " << result << std::endl; // AllocConsole로 할당한 콘솔과 연동
getchar(); // AllocConsole로 할당한 콘솔과 연동

fclose(fpIn);
fclose(fpOut);

"CONIN$"은 CreateFile 함수에서 현재 응용 프로그램과 연결된 콘솔의 입력 핸들을 반환하는 특별한 이름입니다. (마찬가지로 "CONOUT$", "CONERR$"도 각각 출력, 에러에 해당합니다.) freopen_s 함수는 (2번째 인자인) 이름을 CreateFile로 열어 반환받은 핸들을 4번째 인자인 FILE*에 연결하는 역할을 합니다.
재미있는 것은, stdin/stdout의 정보를 CreateFile 핸들과 연결하긴 하지만, 내부적으로는 어쨌든 파일 open 작업을 거치기 때문에 새롭게 file descriptor를 할당받습니다.

std::cout << "stdin file descriptor: " << _fileno(stdin) << std::endl;
std::cout << "stdout file descriptor: " << _fileno(stdout) << std::endl;

/* 출력 결과:
stdin file descriptor: 3
stdout file descriptor: 4
*/

참고로, stdin, stdout, stderr은 (AllocConsole도 호출하지 않았고) 콘솔 응용 프로그램이 아니라면 -2 값을 가집니다.

// Windows GUI Application 프로젝트 유형

int old_stdin_fd = _fileno(stdin); // == -2 (_NO_CONSOLE_FILENO)
int old_stdout_fd = _fileno(stdout); // == -2 (_NO_CONSOLE_FILENO)
int old_stderr_fd = _fileno(stderr); // == -2 (_NO_CONSOLE_FILENO)

// C:\Program Files (x86)\Windows Kits\10\Source\10.0.10240.0\ucrt\inc\corecrt_internal_lowio.h

#define _NO_CONSOLE_FILENO ((intptr_t)-2)




만약 AllocConsole 호출 없이 freopen_s를 거치면 이후 getchar 함수 호출은 블록킹 없이 지나가는 수준으로 그치지만 std::cout의 경우에는 이런 assert 창이 뜹니다.

Program: ..._by_api\ConsoleApplication1\x64\Debug\ConsoleApplication1.exe
File: minkernel\crts\ucrt\src\appcrt\lowio\isatty.cpp
Line: 17

Expression: (fh >= 0 && (unsigned)fh < (unsigned)_nhandle)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 9/10/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2024-10-28 11시18분
VT sequences to "CONOUT$" vs. STD_OUTPUT_HANDLE #14215
; https://github.com/microsoft/terminal/discussions/14215

정리하면, "CONOUT$"은 언제나 콘솔 화면을 지칭하는 반면 STD_OUTPUT_HANDLE은 redirect 상태인 경우 그 대상을 가리키는 핸들값입니다.
정성태

... 61  62  63  64  65  66  67  68  69  70  [71]  72  73  74  75  ...
NoWriterDateCnt.TitleFile(s)
12158정성태2/25/202017746디버깅 기술: 165. C# - Marshal.GetIUnknownForObject/GetIDispatchForObject 사용 시 메모리 누수(Memory Leak) 발생파일 다운로드1
12157정성태2/25/202017835디버깅 기술: 164. C# - Marshal.GetNativeVariantForObject 사용 시 메모리 누수(Memory Leak) 발생 및 해결 방법파일 다운로드1
12156정성태2/25/202016405오류 유형: 595. LINK : warning LNK4098: defaultlib 'nafxcw.lib' conflicts with use of other libs; use /NODEFAULTLIB:library
12155정성태2/25/202015838오류 유형: 594. Warning NU1701 - This package may not be fully compatible with your project
12154정성태2/25/202015233오류 유형: 593. warning LNK4070: /OUT:... directive in .EXP differs from output filename
12153정성태2/23/202019355.NET Framework: 898. Trampoline을 이용한 후킹의 한계파일 다운로드1
12152정성태2/23/202018439.NET Framework: 897. 실행 시에 메서드 가로채기 - CLR Injection: Runtime Method Replacer 개선 - 세 번째 이야기(Trampoline 후킹)파일 다운로드1
12151정성태2/22/202019182.NET Framework: 896. C# - Win32 API를 Trampoline 기법을 이용해 C# 메서드로 가로채는 방법 - 두 번째 이야기 (원본 함수 호출)파일 다운로드1
12150정성태2/21/202019442.NET Framework: 895. C# - Win32 API를 Trampoline 기법을 이용해 C# 메서드로 가로채는 방법 [1]파일 다운로드1
12149정성태2/20/202018274.NET Framework: 894. eBEST C# XingAPI 래퍼 - 연속 조회 처리 방법 [1]
12148정성태2/19/202020658디버깅 기술: 163. x64 환경에서 구현하는 다양한 Trampoline 기법 [1]
12147정성태2/19/202018476디버깅 기술: 162. x86/x64의 기계어 코드 최대 길이
12146정성태2/18/202019219.NET Framework: 893. eBEST C# XingAPI 래퍼 - 로그인 처리파일 다운로드1
12145정성태2/18/202019035.NET Framework: 892. eBEST C# XingAPI 래퍼 - Sqlite 지원 추가파일 다운로드1
12144정성태2/13/202019212.NET Framework: 891. 실행 시에 메서드 가로채기 - CLR Injection: Runtime Method Replacer 개선 - 두 번째 이야기파일 다운로드1
12143정성태2/13/202015856.NET Framework: 890. 상황별 GetFunctionPointer 반환값 정리 - x64파일 다운로드1
12142정성태2/12/202018221.NET Framework: 889. C# 코드로 접근하는 MethodDesc, MethodTable파일 다운로드1
12141정성태2/10/202017251.NET Framework: 888. C# - ASP.NET Core 웹 응용 프로그램의 출력 가로채기 [2]파일 다운로드1
12140정성태2/10/202017711.NET Framework: 887. C# - ASP.NET 웹 응용 프로그램의 출력 가로채기파일 다운로드1
12139정성태2/9/202019015.NET Framework: 886. C# - Console 응용 프로그램에서 UI 스레드 구현 방법
12138정성태2/9/202022942.NET Framework: 885. C# - 닷넷 응용 프로그램에서 SQLite 사용 [6]파일 다운로드1
12137정성태2/9/202016270오류 유형: 592. [AhnLab] 경고 - 디버거 실행을 탐지했습니다.
12136정성태2/6/202017226Windows: 168. Windows + S(또는 Q)로 뜨는 작업 표시줄의 검색 바가 동작하지 않는 경우
12135정성태2/6/202022488개발 환경 구성: 468. Nuget 패키지의 로컬 보관 폴더를 옮기는 방법 [2]
12134정성태2/5/202020903.NET Framework: 884. eBEST XingAPI의 C# 래퍼 버전 - XingAPINet Nuget 패키지 [5]파일 다운로드1
12133정성태2/5/202018318디버깅 기술: 161. Windbg 환경에서 확인해 본 .NET 메서드 JIT 컴파일 전과 후 - 두 번째 이야기
... 61  62  63  64  65  66  67  68  69  70  [71]  72  73  74  75  ...