Tag: semantic kernel

  • Semantic Kernel 簡介

    最近看了 Semantic Kernel 的應用介紹,整理一些筆記心得。 Introduction Semantic Kernel 是微軟的開源 SDK,是一個簡單好用的工具。當你想在現有的應用程式上開發跟 AI 相關功能的時候,Semantic Kernel 可以用很簡單的方式導入 AI service (也就是 OpenAI、AzureOpenAI、HuggingFace 將 LLM 打包成的 API)。目前支援 C#、Python。 Overview 如上圖,可以分成兩個部分解釋 Semantic Kernel 的架構,Brain (大腦)跟 Body (身體)。大腦包含兩個部分 Models (語言模型)、Memory (長短期記憶)。身體指的就是 Plugins,應用程式裡包含的功能,這裡分為兩種:Semantic Functions (自然語言函式,也就是 Prompts)、Native Functions (程式語言函式 Ex:C#)。 Brain — Models 大語言模型(LLM),就是經過大量資料訓練出來的模型,類似於人類大腦,它能夠回答問題、寫文章、寫翻譯…。知名的 LLM 有 GPT-3.5、GPT-4、LLaMa…。LLM 非常多種,根據不同資料訓練出來的模型,他們會在某些領域上表現的比較好。像是 GPT-4 – 主要支援聊天功能、Curie – 支援語音文字轉換、Davinci – 支援圖像視覺生成。OpenAI 跟 Azure… Read more