J & J - 정성태의 닷넷 이야기

사용자

메뉴

최근 덧글

[정성태] 그냥 RSS Reader 기능과 약간의 UI 편의성 때문에 사용...[이종효] 오래된 소프트웨어는 보안 위협이 되기도 합니다. 혹시 어떤 기능...[정성태] @Keystroke IEEE의 문서를 소개해 주시다니... +_...[손민수 (Keystroke)] 괜히 듀얼채널 구성할 때 한번에 같은 제품 사라고 하는 것이 아...[정성태] 전각(Full-width)/반각(Half-width) 기능을 토...[정성태] Vector에 대한 내용은 없습니다. Vector가 닷넷 BCL...[orion] 글 읽고 찾아보니 디자인 타임에는 InitializeCompon...[orion] 연휴 전에 재현 프로젝트 올리자 생각해 놓고 여의치 않아서 못 ...[정성태] 아래의 글에 정리했으니 참고하세요. C# - Typed D...[정성태] 간단한 재현 프로젝트라도 있을까요? 저런 식으로 설명만 해...

글쓰기

제목

이름

암호

전자우편

HTML

홈페이지

유형

내용

<div style='display: inline'>
<h1 style='font-family: Malgun Gothic, Consolas; font-size: 20pt; color: #006699; text-align: center; font-weight: bold'>C# - OpenAI API 사용 - 지원 모델 목록</h1>

소소하게 OpenAI에 대해 알아보려고 합니다. ^^ 
 
우선, 당연히 API Key를 구해야 하는데요, 이것은 OpenAI 가입 후 "<a target='tab' href='https://platform.openai.com/account/api-keys'>https://platform.openai.com/account/api-keys</a>" 경로에서 생성할 수 있습니다. 
 
<img onclick='toggle_img(this)' class='imgView' alt='openai_models_1.png' src='/SysWebRes/bbs/openai_models_1.png' /> 
 
저게 끝입니다. ^^ 이후로는 API Reference 문서를 보며, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
API REFERENCE
; <a target='tab' href='https://platform.openai.com/docs/api-reference/introduction'>https://platform.openai.com/docs/api-reference/introduction</a>
</pre>
 
코딩을 하면 되는데요, 이번 글에서는 단순히 OpenAI가 지원하는 Model에 대해서만 구해보겠습니다. 이를 위해 curl을 이용할 수 있으며, 문서에 보면 다음과 같이 전송하면 된다고 나옵니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
curl https://api.openai.com/v1/models \
 -H "Authorization: Bearer $OPENAI_API_KEY" \
 -H "OpenAI-Organization: org-UhFLodPvMdmkbjhIFFSgPr7n"
</pre>
<a name='apikey'></a>
 
위의 내용에서 OPENAI_API_KEY는 방금 전 생성한 Key이고, OpenAI-Organization은 별도로 "Settings" 메뉴에서 구할 수 있는데요, 
 
<img onclick='toggle_img(this)' class='imgView' alt='openai_models_2.png' src='/SysWebRes/bbs/openai_models_2.png' /> 
 
"Personal"에 대해서는 동일하게 예제와 같은 "org-UhFLodPvMdmkbjhIFFSgPr7n" 값이기 때문에 그대로 복사해도 됩니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
curl https://api.openai.com/v1/models -H "Authorization: Bearer ...your_key..." -H "OpenAI-Organization: org-UhFLodPvMdmkbjhIFFSgPr7n"
</pre>
 
기본적으로 Personal의 경우 "OpenAI-Organization" 값을 생략해도 API 호출은 잘 동작합니다. 따라서 아래와 같이 수행할 수 있는데요, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
C:\temp&gt; curl https://api.openai.com/v1/models -H "Authorization: Bearer sk-YQ...[생략]...Ms8"
{
 "object": "list",
 "data": [
 {
 "id": "babbage",
 "object": "model",
 "created": 1649358449,
 "owned_by": "openai",
 "permission": [
 {
 "id": "modelperm-49FUp5v084tBB49tC4z8LPH5",
 "object": "model_permission",
 "created": 1669085501,
 "allow_create_engine": false,
 "allow_sampling": true,
 "allow_logprobs": true,
 "allow_search_indices": false,
 "allow_view": true,
 "allow_fine_tuning": false,
 "organization": "*",
 "group": null,
 "is_blocking": false
 }
 ],
 "root": "babbage",
 "parent": null
 },

...[생략]...

{
 "id": "text-babbage:001",
 "object": "model",
 "created": 1642018370,
 "owned_by": "openai",
 "permission": [
 {
 "id": "snapperm-7oP3WFr9x7qf5xb3eZrVABAH",
 "object": "model_permission",
 "created": 1642018480,
 "allow_create_engine": false,
 "allow_sampling": true,
 "allow_logprobs": true,
 "allow_search_indices": false,
 "allow_view": true,
 "allow_fine_tuning": false,
 "organization": "*",
 "group": null,
 "is_blocking": false
 }
 ],
 "root": "text-babbage:001",
 "parent": null
 }
 ]
}
</pre>
 
위에서 출력된 값은 <a target='tab' href='https://api.openai.com/v1/models'>https://api.openai.com/v1/models</a>로 질의를 했기 때문에 OpenAI가 지원하는 다양한 AI Model에 해당합니다. C#으로는 기왕이면 ^^ 인텔리센스의 도움을 받을 수 있도록 대략 다음과 같이 코딩하면 좋을 것입니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
using OpenAI;
using System.Net.Http.Json;
using System.Text.Json.Serialization;

internal class Program
{
    static HttpClient _httpClient = new HttpClient();

private static async Task Main(string[] args)
    {
        string modelUrl = "https://api.openai.com/v1/models";

ModelList? models = await _httpClient.GetFromJsonAsync&lt;ModelList&gt;(modelUrl, SourceGenerationContext.Default.ModelList);
 if (models == null)
 {
 return;
 }

foreach (Model model in models.Data)
        {
            Console.WriteLine($"{model.Id}");
        }
    }

static Program()
    {
        (string apiKey, string orgName) = GetKeyInfo(@"d:\settings\openai_key.txt");

_httpClient.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
 if (string.IsNullOrEmpty(orgName) == false)
 {
 _httpClient.DefaultRequestHeaders.Add("OpenAI-Organization", orgName);
 }
 }

private static (string apiKey, string orgName) GetKeyInfo(string filePath)
    {
        string[] keyInfo = File.ReadLines(filePath).ToArray();
        return (keyInfo[0], (keyInfo.Length &gt; 1) ? keyInfo[1] : "");
    }
}

namespace OpenAI
{
#if DEBUG
 [JsonSourceGenerationOptions(WriteIndented = true)]
#endif
 [JsonSerializable(typeof(ModelList))]
 [JsonSerializable(typeof(Model))]
 [JsonSerializable(typeof(Permission))]
 internal partial class SourceGenerationContext : JsonSerializerContext // <a target='tab' href='https://www.sysnet.pe.kr/2/0/13214'>.NET 6부터 SourceGenerator와 통합된 System.Text.Json</a>
 {
 }

public class ModelList
    {
        [JsonPropertyName("object")]
        public string Object { get; set; } = "";

[JsonPropertyName("data")]
 public List&lt;Model&gt; Data { get; set; } = new List&lt;Model&gt;(); // <a target='tab' href='https://www.sysnet.pe.kr/2/0/13342'>System.Text.Json의 역직렬화 시 필드/속성 주의</a>

public override string ToString()
        {
            return $"{Object}: # of data: {Data.Count}";
        }
    }

public class Model
    {
        [JsonPropertyName("id")]
        public string Id { get; set; } = "";

[JsonPropertyName("object")]
        public string Object { get; set; } = "";

[JsonPropertyName("created")]
        public int Created { get; set; }

[JsonPropertyName("owned_by")]
        public string OwnedBy { get; set; } = "";

[JsonPropertyName("permission")]
        public List&lt;Permission&gt; Permissions { get; set; } = new List&lt;Permission&gt;();

[JsonPropertyName("root")]
        public string Root { get; set; } = "";

[JsonPropertyName("parent")]
        public string Parent { get; set; } = "";

public override string ToString()
        {
            return $"{Id}, # of permissions: {Permissions.Count}";
        }
    }

public class Permission
    {
        [JsonPropertyName("id")]
        public string Id { get; set; } = "";

[JsonPropertyName("object")]
        public string Object { get; set; } = "";

[JsonPropertyName("created")]
        public int Created { get; set; }

[JsonPropertyName("allow_create_engine")]
        public bool AllowCreateEngine { get; set; }

[JsonPropertyName("allow_sampling")]
        public bool AllowSampling { get; set; }

[JsonPropertyName("allow_logprobs")]
        public bool AllowLogprobs { get; set; }

[JsonPropertyName("allow_search_indices")]
        public bool AllowSearchIndices { get; set; }

[JsonPropertyName("allow_view")]
        public bool AllowView { get; set; }

[JsonPropertyName("allow_fine_tuning")]
        public bool AllowFineTuning { get; set; }

[JsonPropertyName("organization")]
        public string Organization { get; set; } = "";

[JsonPropertyName("group")]
        public string Group { get; set; } = "";

[JsonPropertyName("is_blocking")]
        public bool IsBlocking { get; set; }

public override string ToString()
 {
 return $"{Id}, {Object}";
 }
 }
}
</pre>
<a name='models'></a>
 
출력 결과는 2023-05-08 기준으로 다음과 같습니다. 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
babbage
davinci
text-davinci-edit-001
babbage-code-search-code
text-similarity-babbage-001
code-davinci-edit-001
text-davinci-001
ada
babbage-code-search-text
babbage-similarity
code-search-babbage-text-001
text-curie-001
code-search-babbage-code-001
text-ada-001
text-embedding-ada-002
text-similarity-ada-001
curie-instruct-beta
ada-code-search-code
ada-similarity
code-search-ada-text-001
text-search-ada-query-001
davinci-search-document
ada-code-search-text
text-search-ada-doc-001
davinci-instruct-beta
gpt-3.5-turbo
text-similarity-curie-001
code-search-ada-code-001
ada-search-query
text-search-davinci-query-001
curie-search-query
gpt-3.5-turbo-0301
davinci-search-query
babbage-search-document
ada-search-document
text-search-curie-query-001
whisper-1
text-search-babbage-doc-001
curie-search-document
text-davinci-003
text-search-curie-doc-001
babbage-search-query
text-babbage-001
text-search-davinci-doc-001
text-search-babbage-query-001
curie-similarity
curie
text-similarity-davinci-001
text-davinci-002
davinci-similarity
cushman:2020-05-03
ada:2020-05-03
babbage:2020-05-03
curie:2020-05-03
davinci:2020-05-03
if-davinci-v2
if-curie-v2
if-davinci:3.0.0
davinci-if:3.0.0
davinci-instruct-beta:2.0.0
text-ada:001
text-davinci:001
text-curie:001
text-babbage:001
</pre>
 
각각의 특징에 대해서는 다음의 글을 참고하시면 도움이 될 것입니다. ^^ 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
OpenAI API 모델 7가지는 알고 갑시다
; <a target='tab' href='https://iotnbigdata.tistory.com/609'>https://iotnbigdata.tistory.com/609</a>
</pre>
 
부가적으로, 위의 모델들에 대한 종류를 "Rate limits"에서 확인할 수 있습니다. ^^ 
 
<img onclick='toggle_img(this)' class='imgView' alt='openai_models_4.png' src='/SysWebRes/bbs/openai_models_4.png' /> 
 
재미있는 건, ChatGPT 사이트에서는 "GPT-3.5" 기본값에 "GPT-4"도 사용할 수 있지만 API로는 아직 제공하지 않고 있습니다. 어쨌든 대충 API로 제공되는 Model을 정리하면, 
 
<pre style='margin: 10px 0px 10px 10px; padding: 10px 0px 10px 10px; background-color: #fbedbb; overflow: auto; font-family: Consolas, Verdana;' >
Chat - gpt-3.5-turbo, gpt-3.5-turbo-0301
Moderation - text-moderation-latest, text-moderation-stable
Image - DALL·E 2
Audio - whisper-1
나머지 전부 - Text
</pre>
 
이렇게 간단하게 나뉩니다. 오히려 이걸 /v1/models API로 반환한 값으로는 딱히 분류할 기준이 마땅치 않습니다. 
 
(<a target='tab' href='https://www.sysnet.pe.kr/bbs/DownloadAttachment.aspx?fid=2080&boardid=331301885'>첨부 파일은 이 글의 예제 코드를 포함</a>합니다.) 
 
<hr style='width: 50%' /> 
 
참고로, OpenAI API는 무료로 $18 용량이 주어지고, 이후로는 과금을 해야 합니다. 과금은 "Billing" 메뉴에서 신청할 수 있고 월 정액이 아닌, 쓴 만큼 내는 구조인데 최대 설정의 기본값이 $120입니다. (실수로 엄청난 과금 폭탄을 맞지 않을 수 있습니다. ^^)
 
 
이에 대해서는 Usage 메뉴에 다음과 같은 표로 쉽게 확인할 수 있습니다. 
 
<img onclick='toggle_img(this)' class='imgView' alt='openai_models_3.png' src='/SysWebRes/bbs/openai_models_3.png' /> 
 
위의 과금 신청과 ChatGPT의 월 정액 $20 과금은 완전히 별개입니다. (즉, 따로 신청해야 합니다.)

<hr />[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

</div>

첨부파일

스팸 방지용 인증 번호

4228 (왼쪽의 숫자를 입력해야 합니다.)