何謂生成式人工智能?
當吾輩輸入此問,則文圖視頻等皆可生成。此謂生成式人工智能。
其生成之由何在?
乃用一模型以生成之。即模型受輸入,憑此,則生輸出。
所謂模型者何?
其本,模型不过一数学之式。其为多维之式也。浩瀚之多元模态数据(文、音、视、图等)将受训以得所需之数学之式。欲达所求之境,则行逆传之术。
120b之模型,谓其式有,120亿之参数。生成式人工智能中常用之模型类型为LLM
何谓大语言模型乎
大语言模型者,其要在于预测后续之字。若吾以hello为输入,呈于gpt模型,则据其所学之数据,当预测并示以次字。吾所获者,Hello,How can I help you today?是也。
应非一时生成并发送。将逐一生成并发送,如流般(以SSE事件为之)。
何以预知次字?
上例中,吾以"hello"为入,何故得"Hi, how can i help you today"而非"hi"或"world"等?
所入之辞,模型或示诸可能之字,如
嗨,世界,你好,如何助君?等等。每词皆予分值(最频之概率)。得分最高者,即为所出。若分数高(0.2),世界(0.4),你好(0.1),如何助君(0.7),最高为0.7,故“如何助君”得之。
可否调适此模,以控其出?
此可由调适下列参数而得
1. 温度
2. Top- K
3. Top - P
温度
温度者,制其生成也,或实或虚。其值介于0至1之间。近于零,则偏实;近于1,则偏虚。
高温之例
2.顶-K
K者,所还之符文数也。至若启示,猫坐于 ---- 上下列字词,乃预测k值不同之情形。
三、顶-
阈限之百分率将立。于所预之词中,取其累积概率分近于阈限之百分率者。
为乎此旨。猫,且top_p为0.7


















