Azure OpenAI Service 03 - Azure OpenAI Service 服務建立和使用

經過前面的文章介紹模型Token 之後,終於可以正式來建立服務來使用 Azure OpenAI Service,本文會說明如何建立服務以及服務有的功能介紹。

實做

申請使用 Azure OpenAI Service

雖然目前 Azure OpenAI Service 已經 GA 了,但是還是得填寫申請表單,才可以授權想要建立服務的訂閱可以使用服務,不然就會得到如下的錯誤訊息,訊息也會提示要去填寫表單申請才行。

表單主要就是詢問要使用服務的用途以及要使用的訂閱等,送出之後目前約需等 10 個工作天,人工審核通過之後就可以收到開通的信件,這時候訂閱就可以建立 Azure OpenAI Service 了。

建立服務

從 Azure Portal 上面點選建立資源,搜尋 Azure OpenAI 就可以搜尋到如下的服務,點選進去建立即可。

建立上也沒有太多的項目需要輸入,就是基本的資源群組、資料中心、名稱和定價層,而定價層目前也只有一個選項可以選擇,都輸入完之後點選建立就可以把服務建立起來了。

建立完成之後可以在金鑰與端點取得呼叫 API 時候會用到的金鑰和專屬的 Endpoint 位址。

建立模型部署

在使用模型之前都會需要建立模型的部署,每個模型僅需要建立一次,而名稱部分除了方便識別之外,也會在呼叫 API 時候用到此名字。點選選單模型部署建立

輸入名稱和選擇模型即可,選完模型之後也會提示選擇的模型適合的情境,所以就算對模型或是命名還不熟悉也還是可以選到合適的模型,儲存之後就會看到模型被建立以及狀態是否完成。

這邊要注意的是未來要刪除 Azure OpenAI Service 的時候,需要把模型部署都先刪除才可以刪除 Azure OpenAI Service,不然會產生錯誤訊息。

03/26 補充

針對 GPT-4 模型,目前需要額外填寫表單來申請,通過之後會收到底下的信件,之後才會在清單內可以使用。(現在不需要另外申請,以包含在最初的申請使用表單內)

定價層

目前定價層也僅有 S0 方案,所以也沒得調整。

網路功能

網路功能就相對重要一點了,它可以整合現有的虛擬網路或是設定防火牆來保護我們建立起來的 Endpoint 安全性,可以限制特定 IP 或是虛擬網路內的服務才可以存取的到,對於企業使用上需要較高的安全性,Azure OpenAI Service就比 OpenAI 多了這項額外的功能。

受控識別

透過受控識別,可以讓我們除了使用金鑰,還可以透過受控識別來驗證和存取 API,對於需要整合 AAD 的使用者就可以更有彈性的限制和控制權限。

成本分析

Azure OpenAI Service 也有把 Cost Management 整合到選單上,可以快速的察看目前服務所耗費的費用,但是我手上有開通的訂閱都沒辦法正常使用 Cost Management,所以沒辦法展示更詳細的圖表。

監視 Azure OpenAI 服務

使用 Azure OpenAI Service 的另一個好處就是有完整的監視功能,可以透過記量來檢視 API 的呼叫和設定警示,避免使用上超出成本。而在計量裡面可以使用的計量維度可以參考官方的文件,就不一一說明了。

結論

本文快速的介紹了如何申請使用授權和基本功能的介紹以及在 Azure OpenAI Serive 特有的功能說明,希望對於想要使用 Azure OpenAI Service 的朋友能有初步的認識。

參考資料