Microsoft MVP성태의 닷넷 이야기
.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제 [링크 복사], [링크+제목 복사],
조회: 4367
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 8개 있습니다.)
.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리
; https://www.sysnet.pe.kr/2/0/13345

.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제
; https://www.sysnet.pe.kr/2/0/13347

.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
; https://www.sysnet.pe.kr/2/0/13348

.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제
; https://www.sysnet.pe.kr/2/0/13349

.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지
; https://www.sysnet.pe.kr/2/0/13352

.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현
; https://www.sysnet.pe.kr/2/0/13355

.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제
; https://www.sysnet.pe.kr/2/0/13357

.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제
; https://www.sysnet.pe.kr/2/0/13358




C# - Semantic Kernel의 Planner 사용 예제

Semantic Kernel의 구성 요소는 다음의 그림에서 잘 확인할 수 있습니다.

[출처: https://devblogs.microsoft.com/semantic-kernel/hello-world/]
sk_planner_1.png

ASK는 Kernel에 보내는 요청이고, Kernel은 이미 그동안 우리가 만든 코드의 시작에 해당하는 타입이었습니다.

var kernel = Kernel.Builder.Build(); // C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제

그림에서 S는 Skill인데 이것도 "C# - Semantic Kernel의 Skill과 Function 사용 예제" 글을 통해 이미 다뤘습니다.

나머지는 M(Memory), C(Connector)와 오늘의 주제인 Planner인데요, 이에 대한 예제를 다음의 글에서 다루고 있습니다.

Introduction to the Planner
; https://github.com/microsoft/semantic-kernel/blob/main/samples/notebooks/dotnet/05-using-the-planner.ipynb

코드는 기존 예제와 동일하게 Kernel을 준비하는 것으로 시작하고,

KernelConfig kernelConfig = new KernelConfig();
kernelConfig.AddOpenAITextCompletionService("default", "text-davinci-003", apiKey);

var kernel = Kernel.Builder
    .WithConfiguration(kernelConfig)
    .Build();

그다음 planner를 만들고 Kernel에 Skill/Function을 담고 있습니다.

var planner = new SequentialPlanner(kernel);

var skillsDirectory = Path.Combine(Directory.GetCurrentDirectory(), "skills");
kernel.ImportSemanticSkillFromDirectory(skillsDirectory, "SummarizeSkill");
kernel.ImportSemanticSkillFromDirectory(skillsDirectory, "WriterSkill");

/*
SummarizeSkill
    Function: MakeAbstractReadable, Notegen, Summarize, Topics

WriterSkill
    Function: Acronym, AcronymGenerator, AcronymReverse, Brainstorm, EmailGen, EmailTo, 
              EnglishImprover, NovelChapter, NovelChapterWithNotes, NovelOutline, Rewrite, 
              ShortPoem, StoryGen, TellMeMore, Translate, TwoSentenceSummary
*/

해당 스킬들은 github에 예제로 제공되고 있는 것들인데, clone 시킨 디렉터리에서 복사할 수 있습니다. 프로젝트에 파일로 추가하는 경우 각각 CopyToOutputDirectory 설정을 해야 하는데, 일일이 파일 하나씩 하는 것은 번잡하므로 와일드카드 문자열을 사용해 "skills\**\*"로 지정하면 skills 디렉터리 하위에 있는 모든 디렉터리 및 파일들을 복사하게 됩니다. 아래는 csproj에 그 설정을 추가한 것입니다.

<Project Sdk="Microsoft.NET.Sdk">

  <PropertyGroup>
    <OutputType>Exe</OutputType>
    <TargetFramework>net7.0</TargetFramework>
    <ImplicitUsings>enable</ImplicitUsings>
    <Nullable>enable</Nullable>
  </PropertyGroup>

  <ItemGroup>
    <PackageReference Include="Microsoft.SemanticKernel" Version="0.13.277.1-preview" />
  </ItemGroup>

  <ItemGroup>
    <None Update="skills\**\*">
      <CopyToOutputDirectory>PreserveNewest</CopyToOutputDirectory>
    </None>
  </ItemGroup>

</Project>

그다음 코드에서는 planner를 이용해 사용자의 요청에 기반한 Planner를 생성하는데요,

var ask = "Tomorrow is Valentine's day. I need to come up with a few date ideas and e-mail them to my significant other.";
var originalPlan = await planner.CreatePlanAsync(ask);

Console.WriteLine("Original plan:\n");
Console.WriteLine(JsonSerializer.Serialize(originalPlan, new JsonSerializerOptions { WriteIndented = true }));

재미있는 건, 어떤 스킬을 사용하라고 지정하지도 않았다는 점입니다. 즉, 단순히 현재 Kernel에 포함된 Skill/Function을 이용해 사용자의 ASK를 만족하는 Planner를 구성하는데요, 아래는 originalPlan의 내부 구조를 JSON 포맷으로 보여줍니다.

Original plan:

{
  "state": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "steps": [
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": "Valentine\u0027s day date ideas"
        }
      ],
      "named_outputs": [
        {
          "Key": "DATE_IDEAS",
          "Value": ""
        },
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "Brainstorm",
      "skill_name": "WriterSkill",
      "description": "Given a goal or topic description generate a list of ideas"
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "",
      "skill_name": "Microsoft.SemanticKernel.Orchestration.Plan",
      "description": ""
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "sender",
          "Value": "Me"
        },
        {
          "Key": "to",
          "Value": "My Significant Other"
        },
        {
          "Key": "INPUT",
          "Value": "$DATE_IDEA_1;$DATE_IDEA_2;$DATE_IDEA_3"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "EmailTo",
      "skill_name": "WriterSkill",
      "description": "Turn bullet points into an email to someone, using a polite tone"
    }
  ],
  "named_parameters": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "named_outputs": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "next_step_index": 0,
  "name": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas and e-mail them to my significant other.",
  "skill_name": "Microsoft.SemanticKernel.Orchestration.Plan",
  "description": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas and e-mail them to my significant other."
}

어찌 보면, 저것 하나가 새롭게 "Skill"이 된 것입니다. 결국 이러한 Planner대로 실행을 하면,

var originalPlanResult = await kernel.RunAsync(originalPlan);

Console.WriteLine("Original Plan results:\n");
Console.WriteLine(Utils.WordWrap(originalPlanResult.Result, 80));

다음과 같은 출력을 볼 수 있습니다.

Original Plan results:

Dear My Significant Other,

I wanted to take a moment to thank you for being my
significant other. You have been a source of joy and comfort in my life, and I
am so grateful for your presence. I am so lucky to have you in my life.

Thanks,
Me

그러니까, 사용자의 "Tomorrow is Valentine's day. I need to come up with a few date ideas and e-mail them to my significant other." 입력을 바탕으로, 내부에 구성한 Skill/Function을 활용해 위의 출력을 만들어 낸 것입니다.




그럼, 이 상태에서 Shakespeare 화법으로 말하라는 Skill/Function도 (위에서 만든 Kernel에) 추가해 볼까요? ^^

string skPrompt = """
{{$input}}

Rewrite the above in the style of Shakespeare.
""";
var shakespeareFunction = kernel.CreateSemanticFunction(skPrompt, "shakespeare", "ShakespeareSkill", maxTokens: 2000, temperature: 0.2, topP: 0.5);

이번 Skill/Function은 ImportSemanticSkillFromDirectory가 아닌 동적으로 CreateSemanticFunction을 이용해 추가했습니다. 이러한 변화를 반영해 Planner를 다시 생성하고,

var ask = @"Tomorrow is Valentine's day. I need to come up with a few date ideas.
She likes Shakespeare so write using his style. E-mail these ideas to my significant other";
var newPlan = await planner.CreatePlanAsync(ask);

Planner의 내부 변화를 확인합니다.

Console.WriteLine("Updated plan:\n");
Console.WriteLine(JsonSerializer.Serialize(newPlan, new JsonSerializerOptions { WriteIndented = true }));

Updated plan:

{
  "state": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "steps": [
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": "Date ideas for Valentine\u0027s day"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        },
        {
          "Key": "DATE_IDEAS",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "Brainstorm",
      "skill_name": "WriterSkill",
      "description": "Given a goal or topic description generate a list of ideas"
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "INPUT",
          "Value": "$DATE_IDEAS"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        },
        {
          "Key": "SHAKESPEARE_IDEAS",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "shakespeare",
      "skill_name": "ShakespeareSkill",
      "description": "Generic function, unknown purpose"
    },
    {
      "state": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "steps": [],
      "named_parameters": [
        {
          "Key": "sender",
          "Value": "Myself"
        },
        {
          "Key": "INPUT",
          "Value": "$SHAKESPEARE_IDEAS"
        },
        {
          "Key": "to",
          "Value": "My Significant Other"
        }
      ],
      "named_outputs": [
        {
          "Key": "INPUT",
          "Value": ""
        }
      ],
      "next_step_index": 0,
      "name": "EmailTo",
      "skill_name": "WriterSkill",
      "description": "Turn bullet points into an email to someone, using a polite tone"
    }
  ],
  "named_parameters": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "named_outputs": [
    {
      "Key": "INPUT",
      "Value": ""
    }
  ],
  "next_step_index": 0,
  "name": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas.\r\nShe likes Shakespeare so write using his style. E-mail these ideas to my significant other",
  "skill_name": "Microsoft.SemanticKernel.Orchestration.Plan",
  "description": "Tomorrow is Valentine\u0027s day. I need to come up with a few date ideas.\r\nShe likes Shakespeare so write using his style. E-mail these ideas to my significant other"
}

이에 따라 텍스트를 생성하면,

var newPlanResult = await kernel.RunAsync(newPlan);
Console.WriteLine("New Plan results:\n");
Console.WriteLine(newPlanResult.Result);

이런 출력을 확인할 수 있습니다.

New Plan results:

Dear My Significant Other,

I hope you're doing well. I wanted to suggest some activities that we could do together.

We could make a delicious feast together. We could take a romantic walk. We could watch a romantic movie. We could attend a local event. We could take a dancing class. We could visit a museum. We could go to a spa. We could go stargazing. We could go to a concert. We could have a picnic.

I look forward to hearing your thoughts.

Thanks,
Myself

음... 잘하면 시라노 같은 친구도 만들 수 있겠군요. ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 5/16/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  5  6  7  8  9  10  [11]  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13399정성태8/9/20234024닷넷: 2135. C# - 지역 변수로 이해하는 메서드 매개변수의 값/참조 전달
13398정성태8/3/20235140스크립트: 55. 파이썬 - pyodbc를 이용한 SQL Server 연결 사용법
13397정성태7/23/20234521닷넷: 2134. C# - 문자열 연결 시 string.Create를 이용한 GC 할당 최소화
13396정성태7/22/20234262스크립트: 54. 파이썬 pystack 소개 - 메모리 덤프로부터 콜 스택 열거
13395정성태7/20/20234057개발 환경 구성: 685. 로컬에서 개발 중인 ASP.NET Core/5+ 웹 사이트에 대해 localhost 이외의 호스트 이름으로 접근하는 방법
13394정성태7/16/20233953오류 유형: 873. Oracle.ManagedDataAccess.Client - 쿼리 수행 시 System.InvalidOperationException
13393정성태7/16/20234317닷넷: 2133. C# - Oracle 데이터베이스의 Sleep 쿼리 실행하는 방법
13392정성태7/16/20234183오류 유형: 872. Oracle - ORA-01031: insufficient privileges
13391정성태7/14/20234255닷넷: 2132. C# - sealed 클래스의 메서드를 callback 호출했을 때 인라인 처리가 될까요?
13390정성태7/12/20234045스크립트: 53. 파이썬 - localhost 호출 시의 hang 현상
13389정성태7/5/20234172개발 환경 구성: 684. IIS Express로 호스팅하는 웹을 WSL 환경에서 접근하는 방법
13388정성태7/3/20234349오류 유형: 871. 윈도우 탐색기에서 열리지 않는 zip 파일 - The Compressed (zipped) Folder '[...].zip' is invalid. [1]파일 다운로드1
13387정성태6/28/20234392오류 유형: 870. _mysql - Commands out of sync; you can't run this command now
13386정성태6/27/20234560Linux: 61. docker - 원격 제어를 위한 TCP 바인딩 추가
13385정성태6/27/20234785Linux: 60. Linux - 외부에서의 접속을 허용하기 위한 TCP 포트 여는 방법
13384정성태6/26/20234399.NET Framework: 2131. C# - Source Generator로 해결하는 enum 박싱 문제파일 다운로드1
13383정성태6/26/20234199개발 환경 구성: 683. GPU 런타임을 사용하는 Colab 노트북 설정
13382정성태6/25/20234287.NET Framework: 2130. C# - Win32 API를 이용한 윈도우 계정 정보 (예: 마지막 로그온 시간)파일 다운로드1
13381정성태6/25/20235053오류 유형: 869. Fatal Python error: init_fs_encoding: failed to get the Python codec of the filesystem encoding
13380정성태6/24/20234076스크립트: 52. 파이썬 3.x에서의 동적 함수 추가
13379정성태6/23/20234111스크립트: 51. 파이썬 2.x에서의 동적 함수 추가
13378정성태6/22/20233934오류 유형: 868. docker - build 시 "CANCELED ..." 뜨는 문제
13377정성태6/22/20238173오류 유형: 867. 파이썬 mysqlclient 2.2.x 설치 시 "Specify MYSQLCLIENT_CFLAGS and MYSQLCLIENT_LDFLAGS env vars manually" 오류
13376정성태6/21/20234344.NET Framework: 2129. C# - Polly를 이용한 클라이언트 측의 요청 재시도파일 다운로드1
13375정성태6/20/20233900스크립트: 50. Transformers (신경망 언어모델 라이브러리) 강좌 - 2장 코드 실행 결과
13374정성태6/20/20234047오류 유형: 866. 파이썬 - <class 'AttributeError'> module 'flask.json' has no attribute 'JSONEncoder'
1  2  3  4  5  6  7  8  9  10  [11]  12  13  14  15  ...