在本村明德小学读书。民国元年(1912年)考入广东陆军小学校(原广东陆军小学堂)第五期，升汉口初级军校，1919年毕业于保定陆军军官学校第六期。

毕业后在北洋军阀吴佩孚部当见习排长。1921年回广东，在陈炯明部下任连长。1923年7月任粤军第四军第六警备司令部(驻新兴县城)训练员。

1927年，在海南岛任国民革命军第十一师第三十三团代理团长，镇压海南岛的中共组织的活动。是年底率部驻防罗定，并任第三十三团团长。1928年调驻新兴县。是年12月，叶在新兴县派出军警人员拆毁新兴县城郊的岳帝庙、文天祥祠、县城内的关帝庙、龙兴寺等。