黄效伟重生的这个家庭绝对的深蓝色的，祖上就是苏北地区的大地主。祖父黄恒生是当年李鸿章的北洋时期的官派留德军官，从德国德累斯顿军校后出任清廷驻德公使馆武官，在欧洲期间黄恒生结识了孙中山并秘密加入了同盟会。
民国元年黄恒生回国在北洋陆军部任职，后在陆军第三师任参谋，于吴佩孚私交不错。第二次直奉战争后黄恒生回到江苏督军府任高级参谋，江苏陆军参谋长。北伐军征讨孙传芳时黄恒生多次传递出重要情报帮助北伐军击败孙传芳，后又配合北伐军总司令蒋介石整编江苏陆军。现任军委会参议，国民政府中央委员会委员。
黄效伟父亲黄国英早年毕业于上海圣约翰公学，后赴德国慕尼黑皇家工学院留学，获得慕尼黑皇家工学院机械工程系博士学位，先后在德国著名的克虏伯兵工厂和毛瑟兵工厂担保高级工程师。1924年出任孙中山大元帅府参议，广州兵工厂总工程师。28年出任国民军事委员会兵工署研发处主任，被授予少将军衔。
黄效伟的二叔黄国平则是当代中国最著名军事理论家蒋百里的同窗好友，一同从日本陆军士官学校毕业，一同前往德国柏林军校留学。回国后出任保定军校高级教官，陆军部高级参谋，后担任江苏陆军第一师参谋，参谋长，第三师师长。1924年南下广州任黄埔军校筹备委员会委员，黄埔军校教官。北伐军时任第一军第一师参谋长，第三师团长，第一军副参谋长，28年北伐成功后任江苏陆军改编而来的55师少将师长。30年授命组建25军，任25军中将军长。25军下辖江苏陆军改编而来的55师，57师，参加中原大战和围剿江西苏区的战斗，32年初25军驻防南通休整。一二八抗战爆发，25军奉命驰援上海苦战日军近一个月，战斗中25军部被日军炮火击中，黄国平本人身受重伤，战后被军委会授予青天白日勋章一枚。
黄效伟的三叔黄百韬则是祖父当年在北京陆军部时一名下属的儿子，坚毅好学，深受黄恒生喜爱收为义子，后推荐到保定军校就读。黄百韬保定军校毕业后被黄恒生送入陆军大学第五期深造。陆军大学毕业后进入江苏陆军第三师历任参谋，混成旅参谋长，旅长。1924年黄百韬跟随义兄黄国平南下广州成为黄埔军校教官。北伐时任第一军第一师参谋，第三师三团团长和师长。28年任江苏陆军改编的57师少将师长，参与了中原大战和围剿苏区。32年跟随25军参加一二八抗战，战后被国民政府颁发宝鼎勋章！32年出任军委会德国军事顾问团高级参谋，军委会裁军办公室主任，33年被派往德国柏林军校深造两年，同时被委任为驻德国大使馆武官，协助大使朱家骅处理中德军事技术交易。35年末回国出任25军参谋长。
