Tag: C++

最近看了 Semantic Kernel 的應用介紹，整理一些筆記心得。 Introduction Semantic Kernel 是微軟的開源 SDK，是一個簡單好用的工具。當你想在現有的應用程式上開發跟 AI 相關功能的時候，Semantic Kernel 可以用很簡單的方式導入 AI service (也就是 OpenAI、AzureOpenAI、HuggingFace 將 LLM 打包成的 API)。目前支援 C#、Python。 Overview 如上圖，可以分成兩個部分解釋 Semantic Kernel 的架構，Brain (大腦)跟 Body (身體)。大腦包含兩個部分 Models (語言模型)、Memory (長短期記憶)。身體指的就是 Plugins，應用程式裡包含的功能，這裡分為兩種：Semantic Functions (自然語言函式，也就是 Prompts)、Native Functions (程式語言函式 Ex:C#)。 Brain — Models 大語言模型(LLM)，就是經過大量資料訓練出來的模型，類似於人類大腦，它能夠回答問題、寫文章、寫翻譯…。知名的 LLM 有 GPT-3.5、GPT-4、LLaMa…。LLM 非常多種，根據不同資料訓練出來的模型，他們會在某些領域上表現的比較好。像是 GPT-4 – 主要支援聊天功能、Curie – 支援語音文字轉換、Davinci – 支援圖像視覺生成。OpenAI 跟 Azure… Read more