武七到处吆喝着出卖苦力：“出粪，锄草，拉砘子来找，管黑不管了，不论钱多少。”为了多挣钱，他把自己的长辫子剃掉，净得京钱一吊，作为他兴办义学的基金。他没有工做的时候，就到各地去要饭。因为他总是唠唠叨叨的“义学长，义学短”，乡邻以为他害了什么“义学症”，就又把“义学症”作为他的第二个诨号，他无动于衷：“义学症，没火性，见了人，把礼敬，赏了钱，活了命，修个义学万年不能动。”他行乞时，把要来的钱都积存起来，要来的干粮，自己只吃碎烂的，好的完整的拿去卖了，变成现钱积存下来，作为义学的基金；甚至捡菜根、芋尾来吃，以节省他要来的菜和饭。他说：“吃得好，不算好，修个义学才算好。”“食菜根，食菜根，我吃饱，不求人，省下饭，修个义学院。”“吃芋尾，吃芋尾，不用火，不用水，省下钱，修个义学不费难。”
为了积攒钱，武七在山东、江苏、河北、河南一带行乞，并做过各种各样的农活、杂耍、手艺：推磨、推碾、割麦、浇园、挑担、拉车、纺线、竖鼎、做马骑、吃蛇蝎、捻线头、轧棉花、做媒红、给农民小额贷款买地买牛 ……武七积来的钱又被姐夫骗去后，他就打听当地可以信任的士绅，跪求那些住在深宅大院里的举人、进士，求他们帮自己存款。他可以不顾家人亲友，但若乡亲真有困难，如三十八岁那年，鲁西北大旱，赤地千里，到处有人饿死，武七就买了四十担红高粱，托绅士替他办理赈济灾民的工作。又如农民张春和外出十年没有音讯，生死下落不明，家里婆媳二人的生活全靠媳妇张陈氏做针线活或要饭来维持，武七听说后，就送给她们十亩地。
就这样，经过了三十年的努力，在他五十岁的时候，武七觉得有力量办学的时候，他跪请进士杨树芳先生，一位急公好义的绅士来替他筹划兴办义学的事。杨非常惊喜同情，但以不孝有三来劝武七成家，武七说：“不娶妻，不生子，修个义学才无私。 ”杨表示愿意出面帮忙，并向当地的绅耆募集不足资金。武七搬砖、买木料、亲自做工，在杨树芳等人的主持下，不到一年时间，崇贤义塾于 1888年春天开学。从二十一岁立志，到武七五十七岁时亲眼看见义学开学，过去了整整三十年。武七亲自劝说穷苦人家的孩子上学，七十几个学生分经学、蒙学两班。武七跪请杨树芳为学董，主持义塾一切。但他并不放松，跪请睡懒觉的教师，跪求学生不要调皮旷课。
最重要的是，武七仍自律苦行。义塾创办之初，他准备丰盛的筵席招待教师，请学董和热心赞助的绅士们作陪，他自己并不入席，而是站在客厅外面，向来客磕头致谢。他说：“我不敢同老师和诸位先生们坐在一起，我站在门外，觉得心安，觉得快乐。 ”他跟学生们一样分得一斤馍馍，一碗大锅菜，仍舍不得吃，跑到庄外的砖窑上换了几块新砖回来，自己仍吃些残菜剩饭。义塾成立后，虽然已经实现了他的心愿，但他依旧过着漂泊无定的流浪生活，到处去要饭，仍旧住破庙。学生们劝他别再要饭了。他说：“我办义学的目的，不是为了个人的生活享受，完全为了使我们这群穷孩子们有机会念书！我过的生活自己并不觉苦，只要你们努力学习，我比什么都快乐。”
