1904年的春天，由武昌高等小学堂保送，李四光踏上了去日本留学的征程，实现了他离家深造、将来报效祖国的愿望。
要出国留学了，李四光回到家乡向父母辞行。父母告诉他许多求学和做人的道理，他都一一记在心里。告别了家乡父老，随后立即赶到上海同其他18位伙伴会合。为了节省旅费，他们19人乘坐的是货轮，住的是统舱。
当轮船驶出吴淞口，进入东海时，李四光和同学们凭栏运眺。看见这水天一色、波涛起伏的大海，心里有说不出的高兴。湛蓝的海面，是如此辽阔。他想海底是个什么样子呢？海水里面有多少生物？所有这些，使他对海洋产生了无限的感情和眷恋。
轮船越过东海，驶入太平洋，到达横滨，再转乘汽车到达东京。在这里，中国留学生总会湖北分会为迎接这批新学员，早已作了各种安排。李四光等19名同学，初次在异国他乡，受到同胞兄妹的热情接待，使他们的民族感情油然而生。
李四光离开家乡时，乡亲们给他饯行，吃了一些甲鱼类的大荤菜，在船上开始泻肚，到了日本也没有好。医生说他是患痢疾，于是住进了传染病院，一段时间后病情才有所好转，但还是经常复发，日本医生嘱咐他，今后不要吃荤，从此他一生吃素，最多也只吃鸡蛋和鱼类。这就是李四光吃素不吃荤的秘密。
李四光从医院出院后，按留学生监督的指定，先进入日本弘文学院普通科学习。这个学校是日本专为中国留学生开设的一所普通中学。初到日本的留学生，一般都要先在这个学校学习日语、数学、物理、化学等课程。3年毕业后，再进入其他专门学校学习。当时，弘文学院有10多个班，分别是以中国地名来命名的，每个班都有40—50名学生。
在日本，李四光的生活非常简朴，经常用暖水瓶泡熟生大米而成大米粥，用咸菜下饭。这样就不去用食堂吃饭了，把节省下来的钱寄给国内的两个弟弟和两个妹妹上学读书。
1907年，李四光从弘文学院毕业以后，按他的志愿，进入了大阪高等工业学校，学习造船机械。他的愿望是学好了造船专业，回国后就可以制造中国自己的舰船，建立强大的海军，保卫祖国。
当时，能进入高等学校学习是很不容易的事。据资料记载，当时在日本学习的中国留学生很多，仅1906年，湖北留日学生就有1 366人，而进入高等学校学习的只有96人，只占0.7%。其中学法政、高等师范、高等商业者为89人，学实业专科的只有7人。大阪高等工业学校每年仅吸收10名中国留学生。据官方说，1907年，在日本等候进入高等专门学校的学生竟有1 000多人。所以李四光能进入大阪高等工业学校学习，是很不容易的。
大阪高等工业学校，是历史悠久的一所高等学府，创建于1899年，设有机械、应用化学、窑业、酿造、采矿冶金、造船、船用机械、电气等8个专业，学制3年。1907年，李四光考入这所学校时，全校有400多名学生，在船用机械一年级新生19人中，李四光是班上唯一的外国留学生。
大阪高等工业学校很正规，要求严格，课程设置较多。第一学年开有数学、物理学、无机化学、力学、材料强弱论、船用机械、制图、实修（相当于机械加工）、英语等；第二学年增加了冶金学和造船学等；第三学年又增加了电气工学、水力学、工业经济、工场建筑法、簿记等。每周学时39—42小时。李四光虽然底子薄，在国内只读了一年半的新学，到日本的弘文学院，学了3年的普通课程，基础较差。但是，他采取了把精力集中到几门主课上的办法，结果取得了较好的成绩。例如，第一学年，物理成绩为全班第一；第三学年的实修（机械加工）成绩全班第二；英语是全班第四。
值得一提的是，李四光在日本期间，除了求学以外，还对祖国的革命也很关心。他经常去留学生会馆，赴集会，听讲演，在这里他认识了富有民主革命思想的宋教仁、马君武，受到了很多民主革命思想的熏陶，开始走上了革命的道路。当时在日本的中国留学生中，剪不剪掉自己头上的长辫子，成为革命与不革命的标致。那些具有民主思想的人认为，长辫子是民族压迫的象征，是一种耻辱，是长尾奴；而封建思想顽固的人，则生怕丢了辫子，将来见不得人，当不成官。李四光一到东京，就把盘在自己头上的辫子剪掉了，在留日学生中也引起了一定的反响。
在日本留学期间，李四光认识了辛亥革命的领导人孙中山先生。那是1905年8月13日的一天，留日学生、华侨等10 000多人，在东京富士大楼举行欢迎孙中山的盛大集会。当时只有16岁的李四光也参加了，当他听孙中山讲演时，心里不断地叫好，有时兴奋得不停地鼓掌。这年的8月20日，中国革命同盟会在日本正式成立了，李四光也参加了中国革命同盟会。
在一间秘密的小屋子里，孙中山会见了李四光。他看李四光的年龄小，慈爱地摸着他的头笑着说：
“你这样小，也要参加革命？”
“是的，要革命，不要改良！”李四光严肃地回答道。
“那你能为革命做些什么工作呢？”孙中山又问道。
“凡是我能做到的，我一定尽力”。李四光回答。
孙中山满意地点点头，同意接受他为同盟会的会员。孙中山说：
“你年纪这样小就要革命，很好，有志气。”还送给李四光8个字：“努力向学，蔚为国用。”
孙中山亲自领着李四光，左手端着一杯水，右手中指顶着杯底，表示忠诚到底的意思，走进一间小屋子，举行了入会宣誓仪式。就这样，李四光成为孙中山在日本建立同盟会时的第一批会员。
1910年春，在日本留学6年的李四光回国了。回国后，他先是在上海一个兵工厂里任工程师，后来到武昌工业学校任教师。1911年，辛亥革命爆发了，李四光毅然参加了革命队伍。1912年2月，被湖北军政府推为实业部部长。此时，李四光年仅22岁。
李四光看不惯那些由封建豪绅、官僚政客摇身一变而成的革命党人，看不惯那些虚伪面孔，看不惯新上台的资产阶级统治者相互争权夺利。于是，他辞去了实业部部长的职务，要求再次出国留学。临时总统黎元洪，怕青年知识分子造他的反，采取尽量送他们出国留学的政策。再加上1912年蔡元培先生担任南京临时政府的教育部长，正在选拔和培养人才，教育部保送李四光和一批青年到英国留学。于是，李四光又获得湖北省的官费，到英国去留学了。
