小史店镇已有千年历史,北宋时置闸山县,治所于寺门(今寺门村),元初而废。1994年10月撤乡建镇。
小史店本名“小赊店”,起自淮河古渡--北午渡口至荆襄平原之陆路驿道必经于此,现驿站遗迹犹存。旧时,来往于北午渡口和赊店重镇的丝绸、盐担及茶药客商均须在此小憩,因小镇民风淳朴,童叟无欺,又小于西南90华里的赊旗店(今社旗县),故被冠以'小赊店'美称。后因口讹笔误,随演变为现名。
这里自古以来是商贾、兵家必经之地,千百年来,历经沧桑,几经兴衰。明未清初,战祸不止,商旅不行,民生凋弊;康乾时期,渐转复苏,乡民多以丝蚕、中草生药为业;民国初年,中草生药市场尚与省内禹州、百泉齐名,柞茧丝绸远销海内外;抗日战争时期,寺门药市、丝绸商行、惨遭日本战机轰炸,死亡商贾数百,财帛无计,此业再难复兴。