小型語言模型分析程式碼的優點是容易佈署，也較不會偷偷把一些和現狀不符的記憶摻入推論過程。但，一方面，有些程式碼的過程實在複雜，模型很常漏掉一些流程。也因為知識不足，難以瞭解一些特別的程式關聯。例如 code generator 產生的 code 和 source 之間的關聯。因此，需為 code base 搜集一些相關知道，寫成文件讓模型可以學習和查詢。透過知識庫的建立，能模型能在該 code base 發揮更好的效率。