据福山《杨氏家谱》和莱山区午台南塂、冶头村《杨氏家谱》及小杨家老茔地始祖杨怀玉碑文记载:杨姓先祖来之江南凤阳府,属吴国开国皇帝杨行密的后人,望族弘农杨氏在江浙地区杨行密、杨汝谷、杨士变先祖的一个支系,族系是叔向的后裔。明孝宗弘治元年(公元1488年),杨氏一世祖杨雄、杨昇、杨祯三兄弟由安徽凤阳府洼子村来到福山皂户头村落户。因村近海,常受风沙侵蚀,先祖杨祯重孙杨怀玉,系杨氏四世祖,于明世宗嘉靖26年(公元1548年),举家迁到夹鹿山后的山夼居住,取村名杨家夼,也叫水沟村。因此处山多、水少、交通不便,迁至响水河边居住,将村更名响水河村。随先祖迁出皂户头的杨承贵兄弟迁到杨家台子,还有的迁到莱山区午台、南塂等村。清朝时期,四世祖杨怀玉重孙杨士栋,系杨氏五世祖,让其四个儿子延禄、延荣、延华、延菁迁到响水河源头居住。由于杨氏人丁兴旺,繁衍的后代人口众多,先祖们就将响水河村分为两个自然村,居住在响水河源头杨延禄、杨延荣、杨延华、杨延菁所在的村,取名小杨家村,居住在响水河边的四世祖杨怀玉及后代所在的村,取名大杨家村。清末到民国时期,董、吕、张、王等姓相继迁入,各姓氏和睦相处。
小杨家村90%为杨姓,其字辈:怀、世、凤、亻、士、延、文、学、丕、汝、德、方、茂、秉、志、永、正、万、富、元、善、田、锡、玉、庆、光、忠、吉、贤、建、宏、宗、秀、家、宝、厚、禄、尚、云、泽、福、明、玄、金、全、弘、大、昌、盛。
小杨家村系山东省烟台市福山区管辖。