Azure OpenAI Service - Azure OpenAI Service 概觀

自從 OpenAI 推出了 ChatGPT 之後,整個 AI 又火熱了起來,大家看到了更多的應用和創意紛紛冒了出來,而微軟也在 Azure 上推出了 Azure OpenAI Service 讓我們可以建立自己的 OpenAI 服務,就在 OpenAI 開放 ChatGPT API 之後,微軟也終於在前陣子也正式公告把 ChatGPT 模型加入 Azure OpenAI Service 裡面,讓我們可以用這一個更強大的模型來建立相關的應用了,接下來會針對 Azure OpenAI Service 把研究和使用的心得陸續寫成系列文章,本文為導覽頁面,方便後續找尋文章。 

基本概念

首先在開始前先來說明一些基本概念,這樣對於我們後面在使用 OpenAI 上會比較理解名詞或是如何使用。

模型

OpenAI 提供了數種 AI 的模型系列,不同模型因為在訓練模型的時候會用不同的資料集和和資料量,所以會有不同的使用場景和預測能力,當然價錢也就會有差別,後面會再詳細介紹有哪些模型。

Token

OpenAI 會將文字細分成 Token 來處理,Token 的計算會根據不同模型會有所差異,而在計費上面便是以 Token 數來計費的。

Prompt (提示) 和 Completions (完成)

這個是很重要的一個概念,在使用 OpenAI 的時候核心就是使用我們提供的 Prompt ,然後 OpenAI 透過模型計算之後產生對應的結果來完成整個情境,所以 Prompt 下的好不好會大大的影響產出的結果。

OpenAI 和 Azure OpenAI

OpenAI 是一家提供 AI 模型的公司,微軟也有投資以及合作共同開發 API,所以基本上在 OpenAI 上和 Azure OpenAI 呼叫 API 是可以快速轉移的,微軟和 OpenAI 會確保相容性。但是在 Azure OpenAI 上因為建置在 Azure 上,所以還會有以下的不同:

  • 企業合規性
  • 整合 AAD
  • 整合 VNet
  • 防火牆設定
  • 多區域可用/災難備援
  • SLA 保證

以上列出部分在 Azure 上使用多出來的好處,對於企業使用上就會更加方便了。

微調 (Fine-tune)

透過 Prompt 也無法讓結果更如預期,可以提供較大量的資料來微調模型,讓回覆可以更符合預期。

官方學習資源

官方應用範例

系列文

後續會針對底下主題分享學習心得以及深入探討:

參考資料