J & J - 정성태의 닷넷 이야기

사용자

메뉴

최근 덧글

[정성태] VT sequences to "CONOUT$" vs. STD_O...[정성태] NetCoreDbg is a managed code debugg...[정성태] Evaluating tail call elimination in...[정성태] What’s new in System.Text.Json in ....[정성태] What's new in .NET 9: Cryptography ...[정성태] 아... 제시해 주신 "https://akrzemi1.wordp...[정성태] 다시 질문을 정리할 필요가 있을 것 같습니다. 제가 본문에...[이승준] 완전히 잘못 짚었습니다. 댓글 지우고 싶네요. 검색을 해보...[정성태] 우선 답글 감사합니다. ^^ 그런데, 사실 저 예제는 (g...[이승준] 수정이 안되어서... byteArray는 BYTE* 타입입니다...

글쓰기

제목

이름

암호

전자우편

HTML

홈페이지

유형

내용

<div style='display: inline'>
<h1 style='font-family: Malgun Gothic, Consolas; font-size: 20pt; color: #006699; text-align: center; font-weight: bold'>C# - Semantic Kernel의 Prompt chaining 예제</h1>

지난 글에서, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; <a target='tab' href='https://www.sysnet.pe.kr/2/0/13345'>https://www.sysnet.pe.kr/2/0/13345</a>
</pre>
 
글의 내용을 요약하라고 지시하는 SemanticFunction을 제작(<a target='tab' href='https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md#running-prompts-with-input-parameters'>Running prompts with input parameters</a>)해 봤습니다. 
 
동일한 REAME.md에 또 다른 예제가 있는데요, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Get Started with Semantic Kernel 
; <a target='tab' href='https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md'>https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md</a>
</pre>
 
프롬프트를 연결(Prompt chaining), 즉 semantic function을 일종의 파이프라인 처리를 할 수 있는 구조를 만드는 데, 코드를 보면 금방 ^^ 이해하실 수 있습니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
string translationPrompt = @"{{$input}}

Translate the text to math.";

string summarizePrompt = @"{{$input}}

Give me a TLDR with the fewest words.";

var translator = kernel.CreateSemanticFunction(translationPrompt);
var summarize = kernel.CreateSemanticFunction(summarizePrompt);

string inputText = @"
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.";

// Run two prompts in sequence (prompt chaining)
var output = await kernel.RunAsync(inputText, translator, summarize);

Console.WriteLine(output);
</pre>
 
열역학 법칙의 내용을 수학적 표기로 바꾸고(translationPrompt), 그 결과를 다시 요약(summarizePrompt)하라고 시키고 있습니다. 사실 개별 작업을 따로 하면, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Console.WriteLine(await translator.InvokeAsync(inputText));
/* 출력 결과
1st Law of Thermodynamics: ΔE = 0
2nd Law of Thermodynamics: ΔSuniv &gt; 0
3rd Law of Thermodynamics: S = 0 at T = 0K
*/

Console.WriteLine(await summarize.InvokeAsync(inputText));
/* 출력 결과
Energy can't be created/destroyed; entropy increases in spontaneous processes; zero entropy at 0K.
*/
</pre>
 
위와 같은 결과를 얻는데, 따지고 보면 결국 체이닝은 다음과 같이 호출을 나누는 것과 같습니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Microsoft.SemanticKernel.Orchestration.SKContext output = await translator.InvokeAsync(inputText);
Console.WriteLine(await summarize.InvokeAsync(output)); // 또는, output.Result 전달

/* 출력 결과
ΔE = 0, ΔSuniv &gt; 0, S = 0 at 0K.
*/
</pre>
 
별거 아니죠?!!! ^^ 
 
(<a target='tab' href='https://www.sysnet.pe.kr/bbs/DownloadAttachment.aspx?fid=2082&boardid=331301885'>첨부 파일은 이 글의 예제 코드를 포함</a>합니다.) 
 
예상할 수 있듯이, 이런 실습을 하는 호출까지도 OpenAI API 사용량에 포함된다는 점, 유의하시면 되겠습니다. ^^ 
 
<hr style='width: 50%' /> 
 
참고로, 위와 같은 예제들을 실습할 수 있는 <a target='tab' href='https://www.sysnet.pe.kr/2/0/12509'>C# Jupyter notebook</a>도 함께 제공하고 있습니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Semantic Kernel Notebooks
; <a target='tab' href='https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md#semantic-kernel-notebooks'>https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md#semantic-kernel-notebooks</a>
</pre>

<hr />[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

</div>

첨부파일

스팸 방지용 인증 번호

1894 (왼쪽의 숫자를 입력해야 합니다.)