是百川智能推出的新一代開源大語言模型,，采用2.6萬億Tokens的高質量語料訓練，在權威的中文和英文 benchmark 上均取得同尺寸領先的效果,。該版本為70億參數(shù)規(guī)模的Chat版本,。

是百川智能推出的新一代開源大語言模型,，采用2.6萬億Tokens的高質量語料訓練,，在權威的中文和英文 benchmark 上均取得同尺寸領先的效果,。該版本為130億參數(shù)規(guī)模的Chat版本,。

是由Meta AI研發(fā)并開源的一系列文本生成模型，預訓練版本 Llama2 是在 2 萬億 token 上訓練的。其中,，13B的模型可在4張A100顯卡上進行微調,。

是由Meta AI研發(fā)并開源的一系列文本生成模型，包含基礎預訓練和微調對話版本,，參數(shù)為 7B,、13B、70B,。微調版本 Llama2-chat 是在 100 萬人類標記的數(shù)據(jù)上訓練的，針對對話用例進行了專門優(yōu)化,。相比于 Llama 1,，Llama 2 的訓練數(shù)據(jù)多了 40%，上下文長度翻倍,，并采用了分組查詢注意力機制,。

是由Defog研發(fā)、基于Mistral-7B微調的語言模型,，用于將自然語言問題轉換為SQL語句,。

在ChatGLM2-6B的基礎上進行INT4 量化，6G 顯存支持的對話長度由 1K 提升到了 8K,。