Microsoft MVP성태의 닷넷 이야기
.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제 [링크 복사], [링크+제목 복사],
조회: 15330
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; https://www.sysnet.pe.kr/2/0/13345

.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제
; https://www.sysnet.pe.kr/2/0/13347

.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
; https://www.sysnet.pe.kr/2/0/13348

.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제
; https://www.sysnet.pe.kr/2/0/13349

.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지
; https://www.sysnet.pe.kr/2/0/13352

.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현
; https://www.sysnet.pe.kr/2/0/13355

.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제
; https://www.sysnet.pe.kr/2/0/13357

.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제
; https://www.sysnet.pe.kr/2/0/13358




C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제

아래의 예제를 보면,

Breadcrumbssemantic-kernel/samples/notebooks/dotnet/01-basic-loading-the-kernel.ipynb
; https://github.com/microsoft/semantic-kernel/blob/main/samples/notebooks/dotnet/01-basic-loading-the-kernel.ipynb

Kernel 개체를 Generic Host처럼 초기화하는 것을 보여줍니다.

해당 코드에서는 NullLogger를 사용해서,

ILogger myLogger = NullLogger.Instance;
IKernel kernel_2 = Kernel.Builder
    .WithLogger(myLogger)
    .Build();

아무런 출력이 없지만 이것을 우리가 임의로 만든 ConsoleLogger로,

using Microsoft.Extensions.Logging;

namespace ConsoleApp1;

// https://learn.microsoft.com/en-us/dotnet/core/extensions/custom-logging-provider
public class ConsoleLogger : ILogger
{
    public IDisposable? BeginScope<TState>(TState state) where TState : notnull => default!;

    public bool IsEnabled(LogLevel logLevel)
    {
        return true;
    }

    public void Log<TState>(LogLevel logLevel, EventId eventId, TState state, Exception? exception, Func<TState, Exception?, string> formatter)
    {
        Console.WriteLine(formatter(state, exception));
    }
}

지난번 글의 summarize 함수와 연결해 열역학 법칙에 대해서만 테스트해 보면,

private static async Task<int> Main(string[] args)
{
    // ...[생략]...

    ILogger myLogger = new ConsoleLogger();
    var kernel = Kernel.Builder
        .WithLogger(myLogger)
        .Build();

    // ...[생략]...

    var prompt = @"{{$input}}

One line TLDR with the fewest words.";

    var summarize = kernel.CreateSemanticFunction(prompt);

    string text1 = @"
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.";

    Console.WriteLine(await summarize.InvokeAsync(text1));

    return 0;
}

이런 결과를 얻게 됩니다.

Extracting blocks from template: {{$input}}

One line TLDR with the fewest words.
Rendering string template: {{$input}}

One line TLDR with the fewest words.
Extracting blocks from template: {{$input}}

One line TLDR with the fewest words.
Rendering list of 2 blocks
Rendered prompt:
1st Law of Thermodynamics - Energy cannot be created or destroyed.
2nd Law of Thermodynamics - For a spontaneous process, the entropy of the universe increases.
3rd Law of Thermodynamics - A perfect crystal at zero Kelvin has zero entropy.

One line TLDR with the fewest words.

Energy conserved, entropy increases, zero entropy at 0K.




자, 그다음 KernelConfig도 이렇게 바꿔서 초기화할 수 있습니다.

KernelConfig kernelConfig = new KernelConfig();
kernelConfig.AddOpenAITextCompletionService(
    "davinci-openai",
    "text-davinci-003",               // OpenAI Model name
    apiKey       // OpenAI API Key
);

ILogger myLogger = new ConsoleLogger();
var kernel = Kernel.Builder
    .WithLogger(myLogger)
    .WithConfiguration(kernelConfig)
    .Build();

kernelConfig에는 1개 이상의 서비스를 연결해 둘 수 있는데요, 예를 들어 아래는 OpenAI와 Azure OpenAI 서비스를 함께 지정하고 있습니다. (혹은 동일한 OpenAI여도 Model 이름이 다른 서비스를 추가할 수도 있습니다.)

kernelConfig.AddAzureTextCompletionService(
    "Azure_curie",                          // alias used in the prompt templates' config.json
    "my-finetuned-Curie",                   // Azure OpenAI *Deployment ID*
    "https://contoso.openai.azure.com/",    // Azure OpenAI *Endpoint*
    "...your Azure OpenAI Key..."           // Azure OpenAI *Key*
);

kernelConfig.AddOpenAITextCompletionService(
    "davinci-openai",
    "text-davinci-003",               // OpenAI Model name
    apiKey       // OpenAI API Key
);

저렇게 2개의 서비스를 추가한 경우, 기본적으로 첫 번째 서비스가 "default"로 처리된다고 합니다. 만약, 기본 서비스를 다른 걸로 지정하고 싶다면 SetDefaultTextCompletionService 메서드를 호출하면 되는데요, 아래의 코드는 위의 예제에서 두 번째 OpenAI 서비스를 default로 지정하고 있습니다.

kernelConfig.SetDefaultTextCompletionService("davinci-openai");

아하... 여기서 수수께끼가 하나 풀리는군요. ^^ 지난 글에서 AddOpenAITextCompletionService의 첫 번째 인자가 "Service ID"라고만 설명돼 있어 잘 모르겠다고 했는데 실은 임의의 문자열로 kernelConfig에 추가되는 서비스를 구분하기 위한 식별자로서만 의미가 있었던 것입니다.

따라서, 그냥 아무 문자열이나 고유하게만 붙여주면 되는 것입니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 5/10/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 166  167  168  169  [170]  171  172  173  174  175  176  177  178  179  180  ...
NoWriterDateCnt.TitleFile(s)
820정성태12/29/200922763개발 환경 구성: 61. Oxite 소스 코드를 Visual Studio 2010으로 마이그레이션파일 다운로드1
818정성태12/27/200921235개발 환경 구성: 60. Cassini 서버를 localhost 이외의 주소에서 접근하도록 변경
817정성태12/21/200922834개발 환경 구성: 59. WebDev 2.0에서 실행하는 Pet Shop 4.0
816정성태12/19/200924617개발 환경 구성: 58. Pet Shop 4.0을 IIS 없이 실행하는 방법 [1]파일 다운로드1
815정성태12/18/200927563개발 환경 구성: 57. Pet Shop 4.0 - SQL Server Compact Edition Version - 두 번째 이야기파일 다운로드1
814정성태12/16/200922564오류 유형: 91. VS2010 beta2 - The application cannot start
812정성태12/11/200926569개발 환경 구성: 56. Pet Shop 4.0 - SQL Server Compact Edition Version파일 다운로드2
811정성태12/2/200940814.NET Framework: 169. [in, out] 배열을 C#에서 C/C++로 넘기는 방법 - 두 번째 이야기 [8]파일 다운로드2
810정성태12/1/200936698.NET Framework: 168. [in,out] 배열을 C#에서 C/C++로 넘기는 방법 [3]
809정성태11/27/200926282오류 유형: 90. Method not found: 'Void System.Reflection.Emit.DynamicMethod..ctor(System.String, System.Type, System.Type[])'.
808정성태11/26/200935195VC++: 38. X64 빌드 오류: error LNK2001: unresolved external symbol [COMDLL]_ProxyFileInfo
807정성태11/23/200929082웹: 14. 로컬에 있는 HTML 페이지를 보호 모드에서 여는 방법
802정성태11/19/200931193.NET Framework: 167. 다른 스레드의 호출 스택 덤프 구하는 방법파일 다운로드1
801정성태11/18/200938679개발 환경 구성: 55. Hyper-V와 고성능 그래픽 카드의 성능 문제 해결 [1]
800정성태11/13/200931495VS.NET IDE: 66. 수동으로 구성해 본 VC++ 프로젝트 설정: ReleaseMinDependency
798정성태11/10/200930214개발 환경 구성: 54. .NET 개발자가 처음 설치해 본 TOMCAT [2]
797정성태11/9/200926483개발 환경 구성: 53. 물리 PC에 설치된 Windows 7을 Hyper-V로 이전하면?
796정성태11/2/200930570오류 유형: 89. Windows 7 백업 오류 - 0x80070057
795정성태11/2/200927659오류 유형: 88. TFS 2010 (beat2) 설치 오류 -TF255272
793정성태10/19/200929601.NET Framework: 166. WPF - XAML 요소의 네임스페이스와 CLR 타입 매핑
792정성태10/17/200929870웹: 13. IIS 7.5 에서 SQL Express 연결 시 오류
791정성태10/17/200933788웹: 12. 요청 페이지에 대해 빈 화면만 보이는 경우 [1]
789정성태10/13/200929695COM 개체 관련: 22. BB FlashBack SDK와 ActiveX 버전 관리 [7]
786정성태10/9/200925936개발 환경 구성: 52. 테스트를 위한 평가판 운영체제 구하기
785정성태10/8/200932227.NET Framework: 165. WPF - UI 업데이트를 바로 반영하고 싶다면? (2)파일 다운로드1
783정성태10/7/200930039.NET Framework: 164. WPF - 데이터 바인딩된 트리에서 부모 노드 찾는 방법 [1]파일 다운로드1
... 166  167  168  169  [170]  171  172  173  174  175  176  177  178  179  180  ...