武训原本没有正式名字，他和鲁迅笔下的阿Q一样，都是那种“穷得连名字都没有”的贫民。因在家族同辈兄弟中排行第七，故名武七。武训这个名字实际上是个赐名，在他老年时，朝廷为嘉奖他的兴学义举而给他取名为“训”，以示朝廷对他创办义学来训导贫苦学生的支持和鼓励。
武七自小家境贫苦，7岁丧父，随母亲乞讨为生。每次随母亲路过学堂的时候，幼小的武七都要驻足良久，他总是被里面的朗朗读书声深深吸引。然而在当时，就武七的家庭条件而言，上学只是一个遥不可及的梦而已。
14岁后，武七多次到大户人家当佣工，经常受到欺侮。辛辛苦苦干完三年，到了领工钱的时候，大户人家伪造了一本假账，欺武七不识字，谎称所有工钱早已支付完毕。武七据理争辩，却被诬为“讹赖”，并遭到家丁的毒打。气得他口吐白沫，大病一场，在破庙里一连三天不食不语。思量之余，武七方悟以往受尽欺辱，皆因吃了不识字的亏。他又想，周围像他这样的穷人还有很多，如果不念书，穷人永远没有出路，于是他萌发了兴办义学的念头。
穷且益坚，不堕青云之志。一旦建立了自己的目标，武七便以贯穿其一生的苦行和执着来实现这个目标。自古以来，学堂除了官办，就是民间殷实人家集资兴办。以赤贫之身而兴义学之举，旷古未闻，其难度可想而知。一个乞丐，不图名，不为利，抱有这样的大志，固然值得佩服，然而，这个志向对他来说是不是过于“远大”？他将于什么方式实现？
1859年，21岁的武七开始着手实施他的伟大计划，到各地去行乞集资。他头发脏乱，面目污黑，烂衣遮体，但却很快乐，一边走一边唱着自己编的歌谣，四处乞讨，“边乞边佣”。几年下来，这个苦并快乐着的乞丐，足迹所至，遍及山东、河北、河南、江苏等地。
每次讨得较好的衣物和饭食，他就设法卖掉换钱。而自己则像一个苦行僧一样，只吃最粗劣的食物，边吃还边唱：“吃杂物，能当饭，省钱修个义学院。”他有时还像个江湖杂耍艺人一样表演锥刺身、刀破头、扛大鼎等节目，甚至吃毛虫蛇蝎、吞石头瓦砾，以取赏钱。他还将自己的辫子剪掉，只在额角上留一小辫，装扮成戏里的小丑模样，以获得别人的施舍。
武七白天乞讨，晚上纺线绩麻，边做活边唱：“拾线头，缠线蛋，一心修个义学院；缠线蛋，接线头，修个义学不犯愁。”在农忙时还经常给富人打短工，并随时编出各种歌谣唱给众人听。另外，他还为人做媒红，当信史，以获谢礼和佣钱。
经过多年的辛劳，武七终于积少成多，存了一笔数目可观的钱。由于他居无定所，钱款无处存放，就打算找一富户人家来存放。他打听到本县有一位举人杨树坊，为人正直，名声很好。武七觉得这个人值得信赖，于是跑到杨府求见。由于他是乞丐，主人拒而不见，他便在大门口一跪就是两天，最后终于感动了杨举人。武七把乞讨积钱、兴义学之事原原本本叙述一遍，杨举人大为感叹。杨举人不但答应帮他存钱，并且表示要助他办学。
随着款项的增多，武七开始典买田地，备作学田。同时他以三分息给他人放贷，以获得更多的资金。在他49岁时，武七已置田230亩，积资3800余吊。这在当时已经算是有相当的财力了，可是他依然没有放弃自己的乞丐身份去选择享受，他继续过着赤贫的生活。这时他觉得时机已经来临，决定创建义学，于是他向杨举人提出建义学之事，杨举人说不孝有三，无后为大，武七应先娶妻生子，武七唱道：“不娶妻，不生子，修个义学才无私。”杨表示愿意出面帮忙，并向当地的绅耆募集不足资金。武七搬砖、买木料、亲自做工，在杨树坊等人的主持下，1888年，武七花钱4000余吊，在堂邑县柳林镇东门外建起第一所义学，取名“崇贤义塾”。从21岁立志，到武七51岁时亲眼看见义学开学，过去整整三十年。在这三十年里，他受尽苦难，但始终坚定地一步步迈向目标。学校建成后他亲自到当地有学问的进士、举人家跪请他们任教，并到贫寒人家跪求他们送子上学。当年招生约50余名，依循惯例分为蒙班和经班，学费全免，经费从武七置办的学田中支出。武七跪请杨树坊为学董，主持义塾一切。
最重要的是，武七仍自律苦行。义塾创办之初，他准备丰盛的筵席招待教师，请学董和热心赞助的绅士们作陪，自己并不入席，而是站在客厅外面，向来客磕头致谢。他说：“我不敢同老师和诸位们坐在一起，我站在门外，觉得心安，觉得快乐。”他跟学生们一样分得一斤馍馍，一碗大锅菜，仍舍不得吃，跑到庄外的砖窖上换了几块新砖回来，自己仍吃些残菜剩饭。义塾成立后，虽然已经实现了他的心愿，但他依旧过着漂泊无定的流浪生活，到处去要饭，仍旧住破庙。学生们劝他别再要饭了，他说：“我办义学的目的，不是为了个人的生活享受，完全为了使我们这群穷孩子们有机会念书！我过的生活自己并不觉苦，只要你们努力学习，我比什么都快乐。”
每逢开学第一天，武七都要先拜老师，次拜学生，这种仪式持续多年。每次置宴招待老师，他都请当地名绅相陪，而自己则站立门外，专候磕头进菜，待宴罢吃些残渣剩羹便匆匆而去。
平时，他常来义塾探视，对勤于教课的老师，他叩跪感谢；对一时懒惰的老师，他跪求警觉。有一次老师睡午觉睡过了头，学生在学堂内打闹，武七径直来到老师的房前，跪下高声唱道：“睡觉，学生胡闹，我来跪求，一了百了。”老师十分惭愧，以后再也不敢疏懒。对贪玩、不认真学习的学生，他下跪泣劝：“读书不用功，回家无脸见父兄。”就这样，义塾老师对他十分敬惮，而学生也不敢有丝毫懈怠，大家都严守学规，努力上进，学有所成者甚众。
1890年，武七与寺院合作，在馆陶县杨二庄兴办了第二所义学。1896年，武七又靠行乞积蓄，并求得临清官绅资助，用资3000吊在临清县御史巷办起第三所义学。武七一心一意兴办义学，为免妻室之累，他一生不娶妻、不置家。其兄长亲友多次求取资助都被他拒绝，他唱道：“不顾亲，不顾故，义学我修好几处。”
山东巡抚张曜闻知武七义行，特下示召见，并下令免征义学田钱粮和徭役，另捐银200两，并赐名武七为武训。同时奏请光绪帝颁以“乐善好施”的匾额。武训的绝世奇行轰动朝野，清廷授以“义学正”名号，赏穿黄马褂。从此武训声名大振。
1896年4月23日，武训病逝于御史巷义塾。根据《清史稿》的记载，“（武训）病革，闻诸生诵读声，犹张目而笑”。就这样，武训在众学童朗朗读书声中含笑离开了这个世界，享年五十九岁。
出殡当日，堂邑、馆陶、临清三县官绅全体执绋送殡，遵照武训遗嘱归葬于堂邑县柳林镇崇贤义塾的东侧。各县乡民自动参加葬礼达万人以上，沿途来观者人山人海，一时师生哭声震天，乡民纷纷落泪。
10年后，清廷将其业绩宣付国史馆立传，并为其修墓、建祠、立碑。武训的业绩受到世人的钦敬，许多名家题词，全国出现以武训命名的学校多处，并曾一度将原堂邑县改称武训县。1945年，冀南行署在柳林创办武训师范。
1950年以前，武训的兴学事迹还被列入学校教科书中。全国共有七省三十多处学校以武训名字命名。特别是“大量办义学，急务此为最”的冯玉祥，在1932至1935年间，在山东创办了十五所武训小学。全国甚至出现了武训出版社、武训街这样的名称。江苏南通的一所师范学校还将武训像与孔子像并列。山东民众甚至直呼武训为“武圣人”。在国外，武训被称为“无声教育家”、“平民教育家”。
洋人对孔子的态度是尊敬，而对武训是恐惧。武训乞讨办“义学”的故事传入英租界，英总督感到了一阵阵从未有过的恐惧和震撼。他重新审视了一番世界地图，仰视着这只昂首挺胸的“雄鸡”，喃喃自语道：“他使我看到了一个不死的民族！我们永远不可能战胜它！”是的，只要有这样的义人存在，中华文化就不会亡，中华就不会亡，宇宙乾坤都不会有绝期。
蒋介石说武训“独行空前”，汪精卫说武训“廉顽立懦！”于右任说他“匹夫而为百世师”，蔡元培说“武训提醒我们我国有普及教育的必要”，段祺瑞说：“丐金以兴学难于舍身以卫国是游侠传之，雄而非卑田院之客亿万斯年式以民德”，冯玉祥说：“特立独行百世流芳之风山高水长。”杨虎城说他“风兴百代”，张学良说他“行兼孔墨”。
这个圣者，拒绝了尘世和未来的一切物欲享受：“有你们人世的筵宴口腹之欲我不愿意去，有你们所谓的天堂我不愿意去，有你们所谓的黄金世界里我不愿去。”这个圣徒的精神有如另外一个圣雄，将会让后人长久地惊奇。如爱因斯坦所说：“在未来的时代，极少有人相信，这样一个血肉之躯曾在地球上匆匆走过。”是的，一个血肉之躯的人，要成神，不吃尽人间所有的苦，不放下一切私心杂念，怎么可能成神呢？他虽无宗教信仰，也没有藏在道观或庙里，而是和大家一样生活在社会里，却已在道中，这才是最难得的。他成就的是神是道，而不是像现在的一些人，貌似虔诚地跑到庙里去向佛要这要那，去寻求空虚寂寞后的精神寄托和人身财产的保护。神鄙视这些人胜过于那些根本不信神的人。更多的人读懂了他并不只是代表着“好人”、“善人”，而是人生存在的价值和意义。
1951年，电影《武训传》错遭批判。文化大革命中，其墓被破坏。1986年，国务院办公厅作出为武训恢复名誉的决定。
