小林位於關山村北方，日據時期行政區域歸屬阿里關即今關山村範圍。
　　　　　　阿里關為清朝時期關隘之地，清代設關隘的目的，在於區隔與原住民活動範
　　　　　　圍，避免產生衝突與紛擾。由於關隘阻礙平埔社群流動平埔族入墾小林的時
　　　　　　間，可能遲至光緒十二年之後，才有族民隨著清朝開山軍隊居住。

　　　　　　　　小林村名的由來，據村內耆老表示是取自當時負責小林的日本警察姓名，
　　　　　　其村落形成與日本開發山林樟腦政策有關。日據時期日本先將散居小林附近平
　　　　　　埔族民集居派出所周圍，之後為開發三民鄉樟腦利益，將原居阿里關、甲仙、
　　　　　　杉林等地平埔族民遷住三民鄉邱坪。