1884年6月，中法战争吃紧，法国军队以封锁上海吴淞要挟，让招商局的船没法通过。李鸿章就同招商局总办马建忠商量，马建忠奉命去和美国旗昌洋行商量。旗昌洋行行长史密特和他是朋友，答应招商局的船挂美国旗。李鸿章写了两张合同，明的合同是招商局出卖给美国人，暗的合同是请求悬旗。
合同签后第三天，中法战争开始，招商局的船挂了美国旗，出入自由。外边谣言说是马某将招商局卖给美国人发了6000万大财。次年，中法战争结束后，李鸿章派建忠去天津办理交涉，收回招商局财产。马相伯奉命到全国各地调查访招商局账目，马相伯对天津、烟台、汉口、厦门、上海、广州各埠招商局财产，花了二年多时间。招商局亏空达1200余万两，都是一本烂账，提出《改革招商局建议》，写了报告给李鸿章。马相伯在广州，眼看香港为英国占去后，商业发达，就向两广总督张之洞建议：“张总督，老夫以为把香港对过的九龙辟为商埠，建筑市场，招引中外商人到彼交易，修一条铁路直达广州，这样可把香港的生意夺过来。”
张之洞点头道：“满好满好！”可并末采纳。这年冬天，马相伯乘轮船北返，触礁遇险，滞留厦门，台湾省巡抚刘铭传得知后电邀他来台湾。马相伯劝刘铭传借外款开发台湾经济。刘铭传怕担向外人借款的责任，不敢接受。马相伯看到刘铭传不是真心留他作事，而是天天要他陪着下围棋，不足共事，就离开台湾，回天津交差。李鸿章见马相伯，十分关心地问：“马公，各地招商局究竟有多少财产？”马相伯直叹气：“都是一笔烂账呵，招商局亏空有1200余万两银。”李鸿章有点吃惊：“亏空这么多？”“商局之弊，非改弦更张，难期振兴。”马相伯将自己花了几天整理成的《改革招商局建议》呈上，“喏，这是老夫的报告，请中堂过目。”李鸿章粗粗翻了一遍：“好，好，等总理衙门定夺。”但总理衙门对招商局兴衰抱观望态度，未予理会。马相伯又谈起辟九龙为商阜和修铁路直通广州的建议。李鸿章听了虽然点头：“这是个好主意，但两广是张之洞所辖，我不好直接出面上报，此事还需张总督具奏。”这皮球被李鸿章踢得无影无踪。几年后，九龙又被英国割据为商埠。马相伯晓得此事又不了了之，也不便再说。沉默片刻，李鸿章发牢骚说：“军机处命我兴办海军，只给五百万两银子，怎能办得好？”美国旗昌洋行，正联合美法意荷各国，组成对华商业团体，马相伯和这团体组织者美国商人熟识，就说：“李中堂，现在有美国资本家可以借钱给我们，对华商业团体愿意借钱给中国振兴实业。”李鸿章听了，高兴起来，“可借多少？可借多少？”马相伯道：“至少有五千万才有发展希望。”李鸿章听了数字这么大，吃了一惊：“有个两千万就行了。”马相伯连连摇头：“不够，不够，至少要二千五百万。”李鸿章点头道：“那就二千五百万。”马相伯和住天津的美国商人接洽后商定，决定中美合资组织官办银行，资本四千万，以两亿两为开发中国，统一币制，发行纸币，整理中央和地方金融，建设铁路，整理黄河，安置电话等企业投资，中国方面以李鸿章为代表，美国方面以钢铁大王范得比为代表，总行设在天津，上海和各省设分行，各项新政经费都由此行出纳。查账权，由中美双方分别负责。议定后，李鸿章派马相伯赴美国和美国银行家洽谈。马相伯犹豫片刻说：“李大人，老夫看还得奏明朝廷。”李鸿章不悦：“难道我一个北洋大臣兼通商大臣，连和洋人商订借款的权都没有么？你去好了，我会打电报给美国大总统的。”马相伯乘轮船抵达美国旧金山，美国海关已得到总统电报，对他行李按外交代表惯例免验。他到达纽约时，美国总统特派侍从武官迎接。美国金融界正盘算输出资本，对中国清廷还有点吃不透，马相伯精通数国语言，英语纯熟，谈吐不凡，折服了高傲的洋人，银行界各巨子都纷纷和马相伯相会。马相伯将大家商订的数字并起来一算，高达五亿两，知道李鸿章无这般魄力答应，而美国人的盛情又不可推却，就同美方商定，以五千万两作为正式借款，以三亿为美方存款，存款以三厘起息。消息传出，其他各国争相加入，马相伯兴致勃勃将商谈结果电告李鸿章。一时清廷沸腾，顽固派群起弹劾，百般攻讦，慈禧谕军机大臣：“李鸿章与美商订约合股开华美银行，此事流弊甚多，断不可行。现文章论劾，众议沸腾。该督如果有与美商订约之事，著即罢议，迅速复奏，毋再迁延不咎。”李鸿章只好复电马相伯：“办法正当，朝廷大哗，舆论沸腾，群矢集我，万难照准。”马相伯接到电报，像迎头一盆冷水，开办银行事只好作罢，就悄然离美赴欧，浏览英法考察商务，参观剑桥大学。马相伯是退出教会后结婚，天主教会叫他去向罗马教皇说明理由，他又去罗马觐见教皇宗良十三世，亲手摸过教皇戒指。并到各国都会大教堂宣讲，阐述理由，因此轰动世界，成了大演说家。马相伯回到天津向李鸿章报告了赴美借款之事，心里有点气：“蛮好的一桩事，全给搞掉了。”李鸿章直叹气：“朝廷不想好，有什么办法？”
马建忠跟着李鸿章搞洋务自强救国，屡遭挫折，又被李鸿章斥责“办事一味空阔，未能处处踏实”。他就于1893年离开李鸿章幕府，闲居上海眉寿里，以著译为业。
马建忠留学法国，精通英、法文字以及希腊、拉丁文。在帮办洋务中深切体会到，外国公使傲视京师，欺凌清廷，外国强占中国口岸，对抗中国官员，外国大小商人盘踞租界，削弱中国工商业，各种外国传教士散布在中国境地，蛊惑中国民众，都是因为中国的官员苦于中西语言不通，不能遍览外国书籍，不了解外国风尚。为了让人们尽快地掌握语言工具，以便于学习固有的文化，同时了解西方，有效地开展外交活动，不受到欺凌，他开始著述《马氏文通》。
此时，马相伯从欧美回后，看到推行新政洋务仍然无甚实效，失望之余，谢绝交游，不问政治，埋头书斋，与胞弟建忠切磋琢磨，取四书、三传、史、汉、韩文为历代文词升降之崇，兼及诸子、语、策，为之字节句比，旁征博引，写成《马氏文通》。马相伯认为举例太多，有碍青年读者的时间和精力，就删去三分之二。1898年冬，《马氏文通》由上海商务印书馆出版，竹纸六开本线装，1卷1册，分装10册。从此语法从训诂学中分出成为一门独立的学科，中国人说了几百万年的话，作了几千年的文，可是并不曾知道所谓有系统的文法，直到马建忠的《马氏文通》出版，才有中国第一部有系统的古话文的文法书。
1918年孙中山在《建国方略》中写道：“中国向无文法之学……以无文法之学，故不能率由捷径，以达速成，此犹渡水之无津梁舟楫，必当绕百十倍之道路也。中国之文人，亦良苦矣！自《马氏文通》出后，中国学者乃始知有是学。”
1900年7月，八国联军攻陷北京，直隶总督兼北洋大巨李鸿章从广东到上海，嘱马建忠到衙门协理，马建忠因连夜译电文劳累，热病发作于8月14日晨去世。
马相伯为丧权辱国而痛心，他从欧美回国以后，就有创办新式大学以救国的想法。认为“自强之道，以作育人才为本，求才之道，尤宜以设立学堂为先。”他想开办一所新式中西大学，教授欧美各国新知识，使学生掌握先进科学技术。这时，他弟弟马建忠病故，自己已年逾花甲，怕不能实现办学愿望，就将属于自己名下的祖遗家产——松江、青浦良田3000亩捐给天主教会。但教会接受了他的财产，并不办学。马相伯居住上海徐家汇土山湾，此时蔡元培执教南洋公学，两地有五里之遥。一天清晨，蔡元培专程来到徐家汇天主教会慈母堂，拜访马相伯。蔡元培很诚恳地说：“我意识到拉丁文是欧洲各国语言的根本，各国文的来源，大都出于拉丁。西洋一切古代文化如果不通拉丁文，那就无以了解。”马相伯点头道：“你的看法是对的。”蔡元培知道1896年梁启超来沪办《时务报》，曾向马相伯、马建忠兄弟学习了一年半时间的拉丁文，就说：“梁启超跟过先生学了拉丁文，我冒昧地要求先生也教我拉丁文，请不吝赐教。”马相伯同情维新运动，对梁启超十分器重，曾劝他学习一种欧文且不宜出世太早，于是也对蔡元培劝道：“拉丁文在西洋已成为古董，大学以外，各学校都不大注意。中国学者更没有搞的必要，况且大家都是中年人了，还有繁重的职务在身。学习外国语，如指望更有用，则非较长时间不可呢，我看还是不要动这个脑筋，能懂些英语就行了。”蔡元培求知心切，再三要求，每天步行而来步行而去，马相伯为他诚心所感动，就接受了蔡元培的要求，开始教拉丁文，后来蔡元培又选派24名优秀学生到马相伯处一同学习。1902年11月，南洋公学学生反对学校当局的封建压迫，200余人高呼“祖国万岁”，集体退学。退学学生请示南洋公学特班总教习、中国教育负责人蔡元培协助组织“共和学校”，于是爱国学社成立了。
此时，马相伯教授拉丁文很有成绩，风声所播，云南、陕西、山西等各省有志之士都不远千里来沪求学。人数增加，也有扩大之必要，马相伯就创办学院，定名震旦，“震”为“秦”字的谐音，系古代外国对中国之称呼，“旦”即“早晨”，“震旦”意为中国之曙光。在初创时，既无校舍，又无师资，马相伯凭其社会关系，借天主教徐家汇天文台余屋为校舍，聘耶稣会教士为义务教师。马相伯自任监院（院长），因担心个人势单力薄，不能持久，就请托耶稣会团体主办，以期长远。由于耶稣会在两年前曾接受过马相伯的捐献，同时也想借他所办学校，传播教理，就同意出面支持。马相伯将松江、青浦两县良田3000亩作为学校基金，当时地价值120万元，后为了在卢家湾购地和建校舍，又捐献现洋4万元和英法租界地八处，当时价值10万余元。
当时，震旦有四个特点：一是尚自治，院内各部分实行学生自治制度。在马相伯监督之下，悉归学生管理，称为干事，除项微尘任总干事、郑子渔任会计干事，为固定职务外，其余干事，在学期开始内学生选举，轮流担任。二是导门经，学院学业，仅限二年。马相伯注重开示门经，养成学者自由研究的风气。三是重演讲，学院每逢星期日，马相伯就召集学生进行演说，或主持讨论学术，或研究时事，习以为常。他本善于演说，高谈阔论风趣横生。学生继承他衣钵，出校门后，从事政治革命运动，受用不尽。四是习兵操，规定人人必习兵式体操，并请法国驻沪军人为教官，有时还领学生荷枪实弹到法国兵营打靶，当时有人在道前说他坏话，他也没有停止军训。不久，爱国社受《苏报》案牵连，自动解散，其余学生转震旦。因此，震旦学院的学生具有民主思想。
马相伯继承中国书院传统，吸取外国研究院特点，用名儒师徒传授办法，以60多岁高龄，亲自教授拉丁文、数学、哲学，编写《拉丁文通》、《致知浅说》为教材，视学生为家人子弟，共食同游，循循诱导。马相伯虽世奉天主教，但在院章规定教师上课，不谈宗教；学生在院，不谈政治。要学生专心学业。陕西青年于右任，1904年赶赴河南开封参加会试，这时他的《半哭半笑楼诗钞》问世，洋溢着反清激情的诗篇，引起清廷惊恐，遭通缉。幸得友人相助，他匆匆离开到上海避祸，困处同乡吴仲旗家中，无以为生。马相伯便招他入学。当时《苏报》案发生后，清廷很注意这类人和事，有人认为马相伯这样做法，不利于学校，马相伯却毫不畏惧。于右任入学震旦时，马相伯为避开当局找麻烦，替他改名“刘学裕”（留学于的谐音）登记注册。从此，于右任到马相伯门下，并很快成了马家弟子。当时革命学生中还有张鼎丞、李青崖、徐朗西、叶仲裕等。针对当时求学为做官的一种恶劣风气，马相伯说“予意古之学者，学而为人；今之学者，学而为官。今之学校，专在学位。课本而外，别无所求；分数既足，即可求官，举国学子，趋忙于干禄一途，无怪西人目中国为官国。予创震旦，故欲诸生习实学而转授国人，为学干禄者戒。”
在日本东京的梁启超，听到震旦学院成立的消息，十分高兴，写了《祝震旦学院之前途》一文：“吾闻有震旦学院设，吾喜欲狂。吾今乃始见我国得一完备有条理之私立学院，吾喜欲狂。该学院总教习为谁？则马相伯先生，最精希腊、拉、美、法、意文字者也。”
