J & J - 정성태의 닷넷 이야기

사용자

메뉴

최근 덧글

[정성태] VT sequences to "CONOUT$" vs. STD_O...[정성태] NetCoreDbg is a managed code debugg...[정성태] Evaluating tail call elimination in...[정성태] What’s new in System.Text.Json in ....[정성태] What's new in .NET 9: Cryptography ...[정성태] 아... 제시해 주신 "https://akrzemi1.wordp...[정성태] 다시 질문을 정리할 필요가 있을 것 같습니다. 제가 본문에...[이승준] 완전히 잘못 짚었습니다. 댓글 지우고 싶네요. 검색을 해보...[정성태] 우선 답글 감사합니다. ^^ 그런데, 사실 저 예제는 (g...[이승준] 수정이 안되어서... byteArray는 BYTE* 타입입니다...

글쓰기

제목

이름

암호

전자우편

HTML

홈페이지

유형

내용

<div style='display: inline'>
<h1 style='font-family: Malgun Gothic, Consolas; font-size: 20pt; color: #006699; text-align: center; font-weight: bold'>C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리</h1>

지인으로부터 Semantic Kernel에 대한 소식을 들었습니다. C# 언어를 처음부터 제공한다고 하시면서, 저에게 호기심을 불러일으켰는데요, ChatGPT에게 물어보니 이런 대답을 해줍니다. ^^ 
 
<div style='BACKGROUND-COLOR: #ccffcc; padding: 10px 10px 5px 10px; MARGIN: 0px 10px 10px 10px; FONT-FAMILY: Malgun Gothic, Consolas, Verdana; COLOR: #005555'>
Q: Semantic Kernel이 뭐지? 
 
A: Semantic Kernel은 자연어 처리에서 사용되는 텍스트 분석 기술 중 하나입니다. 텍스트에서 핵심 단어 및 문장을 추출하는 데 사용됩니다. 
 
보통 텍스트 분석을 할 때, 우리는 각 단어가 문맥 안에서 어떤 의미를 가지는지 이해하려고 노력합니다. Semantic Kernel은 이러한 작업을 수행하는 도구 중 하나로, 문맥에서 중요한 역할을 하는 단어를 식별하고, 그 단어들 간의 관계를 분석하여 문장에서 중요한 정보를 추출합니다. 
 
예를 들어, "고양이가 좋아하는 음식은 무엇인가?"라는 질문이 있다면, Semantic Kernel은 "고양이", "좋아하는", "음식"이라는 단어를 중요한 단어로 식별하고, 이들 간의 관계를 분석하여 이 문장의 의미를 파악합니다. 
 
이러한 방식으로 Semantic Kernel은 문장이나 문서에서 중요한 정보를 추출하고, 이를 기반으로 다양한 자연어 처리 작업을 수행하는 데 사용됩니다. 
</div> 
 
아쉽게도 이것은 틀린 대답입니다. ChatGPT는 현재 마이크로소프트가 만든 "Semantic Kernel"이 뭔지 모르고 있으며 위의 대답은 Apache OpenNLP에서 제공하는 기능 중의 하나를 설명하고 있는 것에 불과합니다. 따라서 오히려 검색 엔진 쪽에 물어보는 것이 낫습니다. 아래는 Bing의 CHAT에서 Q&amp;A 결과를 보여줍니다. 
 
<div style='BACKGROUND-COLOR: #ccffcc; padding: 10px 10px 5px 10px; MARGIN: 0px 10px 10px 10px; FONT-FAMILY: Malgun Gothic, Consolas, Verdana; COLOR: #005555'>
마이크로소프트의 Semantic Kernel은 자연어 텍스트를 분석하고 그 의미와 구조를 포착하는 풍부한 의미 표현을 생성할 수 있는 모델과 도구의 집합입니다. 이것은 마이크로소프트의 디자인 및 인공지능 부사장인 John Maeda가 작성한 글에서 확인할 수 있습니다1. 이것은 대규모 언어 모델(Large Language Model, LLM) AI "프롬프트"와 템플릿, 체이닝 및 계획 기능을 제공하는 경량 SDK인 Semantic Kernel (SK)를 사용하여 전통적인 프로그래밍 언어(C# 및 Python 등)를 쉽게 혼합할 수 있습니다2. 
</div> 
 
제 수준에서 저 답변을 받아들이자면, <a target='tab' href='https://www.sysnet.pe.kr/2/0/11894'>ML.NET 라이브러리</a>가 기본적인 머신 러닝과 관련된 기능을 제공하는 것처럼, "Semantic Kernel"은 (현재는 OpenAI/Azure OpenAI를 활용해) 자연어 처리를 할 수 있는 라이브러리라고 보시면 될 것 같습니다. 
 
좀 더 간단히 보면, OpenAI API를 좀 더 쉽게 사용할 수 있도록 SDK를 만들어 둔 것이라고 봐도 무방할 듯합니다. 
 
<hr style='width: 50%' /> 
 
실제로 간단하게 코딩까지 한번 해볼까요? ^^ 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Hello, Semantic Kernel!
; <a target='tab' href='https://devblogs.microsoft.com/semantic-kernel/hello-world/'>https://devblogs.microsoft.com/semantic-kernel/hello-world/</a>
</pre>
 
SK(Semantic Kernel)은 현재 오픈소스로, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
microsoft/semantic-kernel
; <a target='tab' href='https://github.com/microsoft/semantic-kernel'>https://github.com/microsoft/semantic-kernel</a>
</pre>
 
(지원 언어는 더 늘어날 예정이지만, 우선) C#과 파이썬 SDK로 AI LLM을 통합할 수 있는 경량화된 SDK라고 합니다. 경량화되었다는 것은 곧, 모델 데이터가 로컬에 있지 않다는 의미도 될 것입니다. 실제로 로컬에서 인터넷 접근 없이 독자적으로 사용할 수 있는 것은 아니고, 결국에는 OpenAI/Azure OpenAI와 협업해 결과를 얻는 방식입니다. 
 
C#으로 시작해 보면, 우선, 패키지 참조를 하고, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
dotnet add package Microsoft.SemanticKernel --prerelease

// 또는, Install-Package Microsoft.SemanticKernel -Pre
</pre>
 
nuget 문서에 따라, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Running prompts with input parameters
; <a target='tab' href='https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md'>https://github.com/microsoft/semantic-kernel/blob/main/dotnet/README.md</a>
</pre>
<a name='code1'></a>
 
다음과 같이 코딩할 수 있습니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
using Microsoft.SemanticKernel;

internal class Program
{
    // Install-Package Microsoft.SemanticKernel -Pre

private static async Task&lt;int&gt; Main(string[] args)
    {
        (string apiKey, _) = GetKeyInfo(@"d:\settings\openai_key.txt");

var kernel = Kernel.Builder.Build();

// using OpenAI (만약 Azure OpenAI를 사용한다면, AddAzureTextCompletionService 메서드로 호출)
 kernel.Config.AddOpenAITextCompletionService(
 "davinci-openai",
 "text-davinci-003", // OpenAI Model name
 apiKey // OpenAI API Key
 ); // <a target='tab' href='https://devblogs.microsoft.com/dotnet/get-started-with-open-ai-completions-with-dotnet/'>Get Started with OpenAI Completions with .NET</a>

var prompt = @"{{$input}}

One line TLDR with the fewest words.";

var summarize = kernel.CreateSemanticFunction(prompt);

string text1 = @"
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.";

string text2 = @"
1. An object at rest remains at rest, and an object in motion remains in motion at constant speed and in a straight line unless acted on by an unbalanced force.
2. The acceleration of an object depends on the mass of the object and the amount of force applied.
3. Whenever one object exerts a force on another object, the second object exerts an equal and opposite on the first.";

Console.WriteLine(await summarize.InvokeAsync(text1));

Console.WriteLine(await summarize.InvokeAsync(text2));

return 0;
 }
}
</pre>
 
코드 구조는 간단합니다. 우선 OpenAI API Key (또는, Azure OpenAI Key)가 필요한데요, <a target='tab' href='https://www.sysnet.pe.kr/2/0/13344'>지난 글에서 설명</a>했으니 생략합니다. 
 
그다음, AddOpenAITextCompletionService를 호출해 OpenAI 모델과 함께 API Key를 전달해 초기화합니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
kernel.Config.AddOpenAITextCompletionService(
 "davinci-openai",
 "text-davinci-003", // OpenAI Model name
 apiKey // OpenAI API Key
);
</pre>
 
첫 번째 인자는 "Service ID"라고 하는데 <strike>딱히 이에 대한 정보가 없습니다.</strike> <a target='tab' href='https://www.sysnet.pe.kr/2/0/13348#config'>임의로 지정할 수 있는 식별자</a>입니다. 2번째 인자는 OpenAI의 모델 식별자로 역시 <a target='tab' href='https://www.sysnet.pe.kr/2/0/13344#models'>지난 글에서 이 값을 구하는 방법을 살펴봤으니</a> 생략합니다. 
 
이후, 사용법은 아주 편안합니다. 입력으로 전달될 텍스트를 간단하게 요약하라는 SemanticFunction을 자연어 기반으로 하나 만들고, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
var prompt = @"{{$input}}

One line TLDR with the fewest words.";

var summarize = kernel.CreateSemanticFunction(prompt);
</pre>
 
열역학 법칙과 뉴턴의 운동 법칙을 각각 요약하라고 해, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Console.WriteLine(await summarize.InvokeAsync(text1));
// 출력 결과: Energy conserved, entropy increases, zero entropy at 0K.

Console.WriteLine(await summarize.InvokeAsync(text2));
// 출력 결과: Objects move in response to forces
</pre>
 
OpenAI로부터 그 출력 결과를 얻을 수 있습니다. 대충 어떤 식인지 이해가 되시죠? ^^ 
 
(<a target='tab' href='https://www.sysnet.pe.kr/bbs/DownloadAttachment.aspx?fid=2081&boardid=331301885'>첨부 파일은 이 글의 예제 코드를 포함</a>합니다.) 
 
<hr style='width: 50%' /> 
 
참고로, 꼭 의도한 대로 동작하지는 않습니다. 위의 SemanticFunction은 요약을 하라고 했는데요, 아래와 같이 질문을 던져 보면, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
string text3 = "windbg에 닷넷 응용 프로그램을 분석하는 기능이 있을까?";
Console.WriteLine(await summarize.InvokeAsync(text3));

// 출력 결과: No, WinDbg does not analyze .NET applications.
</pre>
 
요약하라고 했는데, 오히려 질문에 대한 답변을 하고 있습니다. 게다가 동일한 질문을 Bing Chat에 했을 때와는 다른 대답을 내놓습니다. ^^; 
 
<img onclick='toggle_img(this)' class='imgView' alt='bing_chat_qa_1.png' src='/SysWebRes/bbs/bing_chat_qa_1.png' /> 
 
(그 와중에, 대답의 근거가 되는 3개의 참조가 전부 제가 쓴 글입니다. ^^;) 
 
어떠세요? 멀고도 험한 자연어 처리가 Semantic Kernel 라이브러리를 이용하면 이렇게 쉬워지니 여러분은 그저 어떤 응용 프로그램을 만들고 싶은지 상상만 하시면 되겠습니다. ^^

<hr />[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

</div>

첨부파일

스팸 방지용 인증 번호

1419 (왼쪽의 숫자를 입력해야 합니다.)