赵尚志的童年时期，祖国东北的人民外受帝国主义的铁蹄蹂躏，内受封建军阀的压迫和剥削，处于水深火热之中。在辛亥革命的影响下，东北人民掀起了反对日本军国主义和东北军阀的激烈斗争，赵尚志的父亲赵子服也在家乡投入了自治运动。1917年初，他带领愤怒的群众打死了几个抢掠百姓、强奸民女的官兵，被迫和长子逃离家乡，到天津避难。其家被官兵洗劫焚烧一空，年幼的兄弟姐妹随母亲住在亲戚家的马棚里，过着悲惨的生活。
后来，赵子服经同乡介绍，到哈尔滨一个资本家开设的“吕家大柜”里当了账房先生。1919年春，赵尚志随家迁居哈尔滨。为了生活，他的大哥去苏联做工，二哥到一个俄侨家当车夫，年仅11岁的赵尚志也不得不走向社会去谋生。他给俄侨老板当过佣人，在哈尔滨道胜银行当过信差，在一家银匠铺当过学徒，先后5年，受尽了资本家的凌辱和欺压。坎坷的经历，使赵尚志成长为一个吃苦耐劳、具有倔强性格和反抗精神的少年。
赵尚志跟随父亲读过3年私塾，因生活困难而辍学。后来，在苏联做工的大哥寄钱接济家用，家境稍有好转，赵尚志才重新得到求学的机会，经过半年补习，于1925年2月考入哈尔滨许公工业学校。他深知自己读书不易，所以学习特别勤奋。在俄国十月革命和“五四”以来进步思想的影响下，他在学校里串联进步同学组织了秘密读书会，阅读了孙中山、李大钊的著作和鲁迅、高尔基的作品，还经常看《晨报》、《拓荒者》、《现代学生》等报刊。他和同学们一起谈论学习体会，探索救国的道理和青年的出路，常常到深夜。他还与工大、医专、法大的进步学生经常来往，并通过哈尔滨工业大学的进步学生吴宝太，结识了中共哈尔滨特别支部书记吴丽石和负责青年工作的干部彭守朴。
1925年“五卅”惨案后，哈尔滨市的大中学校学生和东北各大中城市的学生一样，冲破了反动军阀的控制，纷纷起来开展反帝爱国斗争，声援上海工人和学生。这时，赵尚志在吴丽石的直接领导下，积极参加了斗争。他们组织宣传队带领学生进行街头讲演，揭露英、日帝国主义的野蛮暴行，号召支援上海工人和学生的正义斗争，开展抵制日货运动；并且组织了沪案后援会，开展募捐活动，把大量捐款寄往上海，救济受难的工人和学生。1925年夏，经彭守朴的介绍，年仅17岁的赵尚志光荣地加入了中国共产党。
赵尚志入党后，工作更为积极。他不分昼夜、废寝忘食地在哈尔滨各学校中做革命宣传，组织学生开展反帝反封建军阀的斗争，引起了反动当局的注意，经常有便衣特务跟踪，使得全家人为他担心。母亲对他更是放心不下，劝他停止活动，暂时躲避，而赵尚志却处之泰然。有一天，他又回来得很晚，比他小两岁的妹妹好不容易把他等了回来，边哭边对他说：“哥哥，你是不是革命党？老师说是革命党就要被抓去枪毙，我害怕……”赵尚志微笑着对妹妹说：“不要害怕，哥哥干的是爱国的事，你要相信哥哥。”
为了吸收更多的学生参加革命斗争，赵尚志根据党组织的指示，在许公工业学校发起组织学生会。6月末的一天，他在哈尔滨西菜市场后边草地上召开的学生会筹备会上发言说：“我们必须同全国各地学生一样，要组织起来，只有组织起来，才能更有力量地去跟帝国主义进行斗争。”在这次会议上，他被推选为学生会副会长。这是哈尔滨市最早的学生会组织。反动统治阶级把学生的革命行动视为“大逆不道”，从东省特区教育厅厅长到许公学校校长一起出动，要扼杀学生会组织。狡猾的校长熊某，在一次早会上，讲了一通什么“自治之道为立身之本，是修养之基”的美言之后，还假惺惺地请学生会代表上台讲演。年幼的赵尚志未能识破其伎俩，跳上讲台，慷慨激昂地讲述了学生会的宗旨和成立经过，号召同学们积极参加学生会的活动。他的讲演博得了同学们的热烈掌声。熊校长也佯作笑容，假意拍手赞同。但不久赵尚志等3人被叫到校长室，挨个盘问。熊校长对他们进行利诱和威胁，让他们宣布解散学生会，“埋头读书，不要图谋不轨”。赵尚志等拒绝了这个“命令”。熊校长便以“不守校规”的罪名，宣布把赵尚志和另外两名学生开除，并亲自将他们3人赶出校门。目睹这一情况的一位同学对当时的情景作了这样的描述：“过了两个小时，他们从校长室回到了教室。满面怒容的校长跟在后边，透过眼镜怒视着他们。这3个学生回到自己书桌前从容地收拾书籍，丝毫没有匆忙急迫的样子。这种沉着无疑是对校长无声的抗议。熊校长气急败坏，举起拳头喊叫：‘你们这样放肆，我就叫警察来的。’但这3个学生从容地把书挟在腋下，一声不响地从教室走出去。他们压下了胸中的愤怒，态度非常安详潇洒，真是不愧为战士的风度。全校的同学、教师看着他们从校门走出的样子，都是默默无言。”
赵尚志被无理开除出许公学校后，在《黄埔潮》上看到了介绍黄埔军校的文章，便下决心为革命去学军事。当这个志愿得到了党组织的批准之后，他又耐心地说服父母，取得了家庭的同意。中共哈尔滨特支书记吴丽石为他写了介绍信，并亲自给他筹款做路费。
赵尚志千里迢迢来到广州，已经是11月初，黄埔军校的招生考试早已结束，不再办理补考手续。这一意想不到的情况，并没有动摇他学习军事的决心。他天天到学校去恳求，终于得到了许多革命教师的同情，经校方批准，被接受为第五期入伍生。赵尚志的文化基础较差，体质也弱，入学初，他课程学习跟不上，训练也很吃力，特别是骑马训练时，他动作迟钝，总落在别人后边。但他毫不气馁，付出了加倍的精力和时间，各门课程很快都取得了良好的成绩。他还积极参加了课外政治讨论会，每次发表意见，都有独到见解，因而受到教师和学生的重视。他加入了中国共产党领导下的青年军人联合会，同蒋介石支持下的军事法西斯组织——“孙文主义学会”进行了针锋相对的斗争。1926年3月，蒋介石策动了反苏反共的“中山舰事件”，开始逮捕共产党员。在周恩来的领导下，赵尚志积极参加了张贴反对蒋介石逮捕共产党员抗议书和营救被捕共产党员的活动。同年5月，蒋介石提出“整理党务案”，要求黄埔军校学生表明党籍，不准跨党。赵尚志毅然退出黄埔军校，按照党的指示，返回了东北，先后在哈尔滨、长春、沈阳等地从事革命活动。曾两次被捕入狱，在狱中进行了坚决斗争。1931年“九·一八”事变后经中共组织营救出狱，任中共满洲省委军委书记。
