6B模型指的是一個具有60億參數的模型。這種模型之所以適合社區使用，是因為它在FP16精度下進行微調大約需要14GB顯存，但在INT4量化後，顯存需求降低到7GB，這使得即使是消費級別的4080顯示卡也能夠容納，因此非常適合社區以及想要研究大模型的從業者。相比之下，更大的34B模型需要超過20GB的顯存才能部署和推理，這樣的顯存需求只有4090級別的顯示卡才能滿足，因此34B模型是目前單機能部署的最大上限的模型。考慮到社區用戶的算力以及模型的性能和效果，發布6B和34B模型是合理的選擇。既不能太大，以至於社區用戶無法處理；也不能太小，以至於模型效果不佳且不具備湧現能力。大模型的湧現能力對於提高模型本身的語言理解、生成和邏輯推理等方面具有重要意義，值得進一步探索和研究。