Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 6개 있습니다.)
.NET Framework: 2116. C# - OpenAI API 사용 - 지원 모델 목록
; https://www.sysnet.pe.kr/2/0/13344

닷넷: 2165. C# - Azure OpenAI API를 이용해 ChatGPT처럼 동작하는 콘솔 응용 프로그램 제작
; https://www.sysnet.pe.kr/2/0/13451

닷넷: 2166. C# - Azure OpenAI API를 이용해 사용자가 제공하는 정보를 대상으로 검색하는 방법
; https://www.sysnet.pe.kr/2/0/13452

닷넷: 2167. C# - Qdrant Vector DB를 이용한 Embedding 벡터 값 보관/조회 (Azure OpenAI)
; https://www.sysnet.pe.kr/2/0/13454

닷넷: 2168. C# - Azure.AI.OpenAI 패키지로 OpenAI 사용
; https://www.sysnet.pe.kr/2/0/13455

닷넷: 2169. C# - OpenAI를 사용해 PDF 데이터를 대상으로 OpenAI 챗봇 작성
; https://www.sysnet.pe.kr/2/0/13456




C# - Azure OpenAI API를 이용해 ChatGPT처럼 동작하는 콘솔 응용 프로그램 제작

이번 글도, .NET Conf 2023에서 다 나온 내용입니다. ^^

Build Intelligent Apps with .NET and Azure
; https://youtu.be/xEFO1sQ2bUc?t=27190

정리하는 차원에서 ^^ 그대로 베껴 보겠습니다. 이번 글은 사전 작업이 필요한데요, 동영상에 나온 소스 코드를 그대로 따라 하려면 "Azure OpenAI" 서비스를 생성해 두어야 합니다.

Azure OpenAI 서비스 신청 방법
; https://www.sysnet.pe.kr/2/0/13449

그런 다음, "Model deployments" 메뉴로 들어가,

azure_openai_chatgpt_2.png

"Manage Deployments" 버튼을 눌러 "https://oai.azure.com/portal" 페이지로 이동한 후, "배포"를 하나 만들어 둡니다.

azure_openai_chatgpt_3.png

(이때 입력한 이름을 나중에 코드로 사용할 것입니다.)

참고로, 위의 모델 선택에 GPT-4가 없는데요, 현재(2023-11-22) Sweden Central, Canada East, Switzerland North 3개의 Region만 지원한다고 합니다. 다른 지역은 기다려야 할 듯! ^^




아마도 다들 한 번쯤은 openai 홈페이지에서 GPT 챗 서비스를 이용해 본 적이 있을 텐데요,

ChatGPT
; https://chat.openai.com/

사실, 저 과정을 OpenAI API를 이용해 그대로 구현할 수 있습니다. 여기서는 "Build Intelligent Apps with .NET and Azure" 동영상에서 나온 코드를 따라 그대로 구현해 보겠습니다.

이를 위해 간단하게 .NET 8 Console 프로젝트를 생성하고, 패키지 관리자를 이용해 Azure.AI.OpenAI를 참조 추가합니다.

Install-Package Azure.AI.OpenAI -Pre

그다음 소스 코드에서 OpenAIClient 인스턴스를 생성해야 하는데요, 이를 위해서는 Azure OpenAI 서비스의 Endpoint 정보와 Key가 필요한데, 이것은 Azure Portal 화면에서 구할 수 있습니다.

azure_openai_chatgpt_1.png

그리하여 다음과 같이 초기화할 수 있고,

namespace ConsoleApp1;

using Azure;
using Azure.AI.OpenAI;
using System;

internal class Program
{
    // Install-Package Azure.AI.OpenAI -Pre
    static async Task Main(string[] args)
    {
        string azureOpenAIKey = "...[azure openai key]...";
        string azureOpenAIEndpoint = "...[azure openai endpoint]...";

        OpenAIClient openAIClient = new OpenAIClient(new System.Uri(azureOpenAIEndpoint), new AzureKeyCredential(azureOpenAIKey));
    }
}

이전에 기록했던 "Deployment" 이름과 몇 가지 옵션으로 ChatCompletionsOptions 인스턴스를 만든 후,

string chatDeployment = "my_gpt35_turbo"; // replace your deployment name here 

var options = new ChatCompletionsOptions
{
    DeploymentName = chatDeployment,
    MaxTokens = 400,
    Temperature = 0.2f,  // Precise <-> Creativity
    FrequencyPenalty = 0.0f, // 
    PresencePenalty = 0.0f,
    NucleusSamplingFactor = 0.95f // Top P
};

ChatGPT 서비스와 유사하게 동작하도록 System 프롬프트를 설정합니다.

string systemMessage = "Assistant is a large language model trained by OpenAI";

options.Messages.Clear();
options.Messages.Add(new ChatMessage(ChatRole.System, systemPrompt));

이후부터는, ChatGPT 채팅창에서 했던 대화 작업을 반복 루프로 처리하고, 또한 그 과정에서 대화 문맥을 options.Messages에 유지하면 됩니다. (물론, 토큰 한계까지만 가능합니다.)

Console.WriteLine($"System: {systemPrompt}");

while (true)
{
    Console.Write("Your prompt: ");
    var userPrompt = Console.ReadLine();
    if (userPrompt?.ToLowerInvariant() == "q")
    {
        break;
    }

    Console.WriteLine($"User: {userPrompt}");
    options.Messages.Add(new ChatMessage(ChatRole.User, userPrompt));

    var assistantResponse = await openAIClient.GetChatCompletionsAsync(options);
    var response = assistantResponse.Value.Choices[0].Message.Content;
    Console.WriteLine($"Assistant: {response}");
    options.Messages.Add(new ChatMessage(ChatRole.Assistant, response));
}

즉, 대화 주제 하나마다 저렇게 options 하나로 대응하면 (또는 options.Messages.Clear() 하거나) 그게 바로 ChatGPT 홈페이지의 서비스가 되는 것입니다. 간단하죠? ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)





[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 11/22/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  [2]  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13541정성태1/29/20241011VS.NET IDE: 188. launchSettings.json의 useSSL 옵션
13540정성태1/29/20241132Linux: 69. 리눅스 - "Docker Desktop for Windows" Container 환경에서 IPv6 Loopback Address 바인딩 오류
13539정성태1/26/20241401개발 환경 구성: 703. Visual Studio - launchSettings.json을 이용한 HTTP/HTTPS 포트 바인딩
13538정성태1/25/20241531닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성파일 다운로드1
13537정성태1/24/20241550닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성파일 다운로드1
13536정성태1/23/20241646닷넷: 2209. .NET 8 - NonGC Heap / FOH (Frozen Object Heap) [1]
13535정성태1/22/20241490닷넷: 2208. C# - GCHandle 구조체의 메모리 분석
13534정성태1/21/20241313닷넷: 2207. C# - SQL Server DB를 bacpac으로 Export/Import파일 다운로드1
13533정성태1/18/20241379닷넷: 2206. C# - TCP KeepAlive의 서버 측 구현파일 다운로드1
13532정성태1/17/20241354닷넷: 2205. C# - SuperSimpleTcp 사용 시 주의할 점파일 다운로드1
13531정성태1/16/20241398닷넷: 2204. C# - TCP KeepAlive에 새로 추가된 Retry 옵션파일 다운로드1
13530정성태1/15/20241381닷넷: 2203. C# - Python과의 AES 암호화 연동파일 다운로드1
13529정성태1/15/20241283닷넷: 2202. C# - PublishAot의 glibc에 대한 정적 링킹하는 방법
13528정성태1/14/20241401Linux: 68. busybox 컨테이너에서 실행 가능한 C++, Go 프로그램 빌드
13527정성태1/14/20241296오류 유형: 892. Visual Studio - Failed to launch debug adapter. Additional information may be available in the output window.
13526정성태1/14/20241353닷넷: 2201. C# - Facebook 연동 / 사용자 탈퇴 처리 방법
13525정성태1/13/20241301오류 유형: 891. Visual Studio - Web Application을 실행하지 못하는 IISExpress
13524정성태1/12/20241334오류 유형: 890. 한국투자증권 KIS Developers OpenAPI - GW라우팅 중 오류가 발생했습니다.
13523정성태1/12/20241234오류 유형: 889. Visual Studio - error : A project with that name is already opened in the solution.
13522정성태1/11/20241328닷넷: 2200. C# - HttpClient.PostAsJsonAsync 호출 시 "Transfer-Encoding: chunked" 대신 "Content-Length" 헤더 처리
13521정성태1/11/20241456닷넷: 2199. C# - 한국투자증권 KIS Developers OpenAPI의 WebSocket Ping, Pong 처리
13520정성태1/10/20241276오류 유형: 888. C# - Unable to resolve service for type 'Microsoft.Extensions.ObjectPool.ObjectPool`....'
13519정성태1/10/20241347닷넷: 2198. C# - Reflection을 이용한 ClientWebSocket의 Ping 호출파일 다운로드1
13518정성태1/9/20241467닷넷: 2197. C# - ClientWebSocket의 Ping, Pong 처리
13517정성태1/8/20241358스크립트: 63. Python - 공개 패키지를 이용한 위성 이미지 생성 (pystac_client, odc.stac)
13516정성태1/7/20241489닷넷: 2196. IIS - AppPool의 "Disable Overlapped Recycle" 옵션의 부작용
1  [2]  3  4  5  6  7  8  9  10  11  12  13  14  15  ...