黯雲端記事錄

前面介紹了一些常見的服務計費挑選以及透過 Azure Advisor 來查看節省成本的建議，接下來就是透過購買保留項目來達到節省成本的操作，後面就來介紹保留項目有哪些項目以及如何套用以及一些實務上要注意的項目。

微軟近期逐漸把 AI 整合到各項產品，並且都掛上 Copilot 的名稱，當然不意外的在 Azure 上也是，就在前陣子也公布了 Microsoft Copilot for Azure 這項服務，但是也不意外的還在預覽階段，需要提出申請才可以使用，通過申請之後也稍微測試了一下，稍微整理一下體驗的心得，讓感興趣的朋友可以瞭解這產品究竟可以做到哪些事情。

OpenAI 在上個月 DevDay 上 公布了新的模型 GPT-4 Turbo with Vision，它可以讓 GPT4 模型可以認得圖片，可以讓 GPT-4 的應用場景又變的更多元了，而微軟也在本週也把此模型上到 Azure 上了，而且可以搭配 Azure AI Vision (Azure Computer Vision) 達成辨識影片的功能，後面就來介紹實際建置要注意的點和測試的結果。

有時候 Microsoft Entra (AAD) 使用者會因為一些因素需要重新設定 MFA，比如說手機遺失、換新手機、忘記密碼等，這些情境都有可能沒辦法用原本裝置來取的 MFA 的驗證資訊，因此就會需要請 IT 人員來協助重置 MFA 來重新設定 MFA，步驟很簡單，所以就做一下記錄。

最近在評估和測試微軟推出的 Windows 365 Cloud PC，它可以快速的為企業建置雲端電腦，且也可以方便的管理，公司有授權的員工就可以在何時何地連上去處理工作，對於會需要再外面跑業務或是 WFH 的員工只需要有電腦就可以連上去，這時候要特別注意的當然就是安全性，必須適當的限制，不然何時何地跟不限機器都可以連上也等於開很大一個洞在那邊等人家連，這時候就可以透過條件式存取來設定，而本文要介紹的就是針對 IP 來限制存取，只有指定的 IP 才可以連的上。

Whisper 是 OpenAI 推出的一個語音辨識的模型，而在 Azure OpenAI Service 也推出了這一個模型，所以我們也可以透過 Azure 使用這一個模型來做語音辨識了，後面就來介紹這個模型跟實做串接的程式。

CsvHelper 套件是我蠻喜歡用來讀寫 CSV 檔案的一個套件，可以很簡單的上手，又可以讀取資料時候直接轉成強型別，最近再處理一堆數字類型的資料因為有些資料使用科學記號的方式呈現，預設會解析失敗，後來找到一些解法就稍做記錄一下，避免之後又遇到。

OpenAI 有提供獨立的 ChatGPT 服務，那如果我們想要使用 Azure OpenAI Service ，又想要有類似 ChatGPT 一樣的站台，這時候就可以用 BetterChatGPT 這一個開源的 UI來架設自己的 ChatGPT 站台，並且使用自己的 ChatGPT 模型來執行，雖然也是可以直接用已架設好的服務直接使用，但是透過 App Service 架設自己的站台，還可以加上一些驗證或是防火牆設定等，才可以達到我們要的私有站台，後面就來說明如何建構自己的私有站台囉！

在之前文章「App Service 實做身份識別存取 KeyVault (二)」有針對 DefaultAzureCredential 做介紹，最近遇到一個情境是我已經用其他方式取得了 AccessToken，想直接轉成驗證的類別，但是內建的實做卻沒有一個是單純用 Token 來建立 AzureCredential，剛好有找到解法，就做一下記錄，避免之後還會用到。

現在開發上習慣 Api First，久了之後難免會修改原本的 Api 方法或是推出新的版本，這時候如果要維持方法的名稱一樣，透過傳入版號來決定要執行的版本，目前常見的方式是網址會帶版號 (ex: /api/v1/sample) 或是在 Query String 加上版號參數 (ex: /api/sample?v=1.0)，而這些要如何實做，找了一下發現到一個方便的套件，可以很快速的完成這一個需求，後面就來簡單介紹一下這個套件的用法。

OpenAI 在前陣子公布了新的模型版本 (gpt-4-0613 、gpt-3.5-turbo-0613 ) 以及新增了 Function Calling 的功能，Function Calling 這個功能可以讓我們預先定義好函示名稱和回傳的參數結果，模型會判斷聊天內容是否符合設定的函示，是的話就會把聊天內容取出函示所需要的參數並且回傳 Json 格式的資料，方便我們接收到之後可以給函示來處理，使用 Function Calling 的好處在於不需要針對每個對話的提示詞多加上說明要回傳的格式，也只會回傳 Json 格式的結果，不會包含多於文字，變成我們要另外處理才可以正確取出要的 Json 內容，如此一來我們寫聊天機器人或是外掛程式的時候就不用針對使用的傳的訊息預先判斷再加上特定提示詞來保證回傳結果，可以完全透過模型的判斷即可。而 Azure OpenAI Service 雖然沒第一時間就支援，但是也在稍晚也推出新版的模型，後面就來說明要如何實做以及測試的結果。

Azure OpenAI Service 除了文字的模型之外，也有產生影像的模型 DALL·E ，我們一樣可以透過提供提示詞之後取得 AI 回應的圖片結果，本文就來介紹如何在 Azure 上面使用這一個模型。

上個月 OpenAI 宣布了 ChatGPT 支援外掛，因此讓 ChatGPT 可以瀏覽網頁或是使用不同的資料來源來加強回應的結果，而在前幾天微軟也在 Azure OpenAI Service 上推出了新的功能，讓我們可以使用自己的資料集，背後就是透過 Azure 認知搜尋 (Azure Cognitive Search) 這一個服務，它可以針對我們的資料來源做索引，然後提供搜尋的服務，因此我們可以做出自己的知識庫之後，提供給 Azure OpenAI Service 使用，讓回覆的結果更精確。

前面介紹過使用 Cost Management 這服務來察看服務費用和分析，也陸續針對常見的服務分別介紹了定價層和如何選擇以及和成本相關的注意事項，再來就要介紹一個免費的服務 Azure Advisor，它會針對所有 Azure 資源做健檢並給出評分，健檢的內容包含了成本、安全性、可靠性、效能等項目，而其中成本的項目會幫我們分析服務的使用並給出合適的建議和調整。

在雲端上最多人使用的服務應該就是  VM 了，初期將服務上雲，最簡單的方式還是把現有地端環境的 VM 複製備份到雲端是最快速的方式了，加上避免大幅度調整程式配合雲端 Paas 服務，大部分人還是會選擇使用 VM，所以本篇文章來介紹 VM 的費用解析和如何挑選合適的機器。

OpenAI 可以讓我們很方便快速的串接跟做出一些相關的應用，用使用的很開心之餘，還是要面對一下費用，不然一不小心可能就讓費用超出預算太多了，比如前陣子一個熱門的專案 Auto-GPT 只需要給它初始的目標，它就會自動的對話然後產生出結果，因為它會自動的一直呼叫 API 來產生最後的結果，所以可能一次的結果就呼叫了很多次的 API 導致產生的費用超出想像，所以還是瞭解一下計算方式以及費用，就比較容易在成本和預算的考量下挑選出最適合的模型。

雖然微軟或 OpenAI 都有提供 PlayGround 可以方便我們測試 OpenAI ，但是最後還是得串接 API 來客制化或整合 OpenAI 到現有程式或產品中，一開始在常識的過程都只能直接呼叫 REST API 或是只有 Python 套件，身為懶惰的開發人員當然不想自己包套件去呼叫 REST Api，最近在找資料過程發現微軟也終於推出 prerelease 版的 SDK 套件 Azure OpenAI client library for .NET，雖然還在 Preview 階段，但是還是記錄一下使用的經驗

前面介紹了如何申請和建立服務以及建立模型的部署，都完成之後，我們就可以正式的來使用 OpenAI 了，本文將會透過 Azure OpenAI Studio 來測試我們建立的模型部署，Azure OpenAI Studio 是微軟針對 OpenAI 提供的 GUI 介面，讓我們可以方便快速的測試和使用 OpenAI，在測試完成之後後續可以再透過 API 來整合或是開發相關的應用，就可以加快驗證想法的可行性和調整 Prompt 的內容。

經過前面的文章介紹模型和 Token 之後，終於可以正式來建立服務來使用 Azure OpenAI Service，本文會說明如何建立服務以及服務有的功能介紹。

在使用 OpenAI 的時候，Token 是會影響到呼叫的模型可接受的上限和回應結果以及計費時候也是以 Token 數量來計算，所以如何計算 Token 在要正式部署服務時候就很重要了，而不同模型間計算的方式也有所不同，本文後續就針對 Token 來做深入的探討和測試。