克里米亚战争俄国一败涂地，暴露了农奴制度和沙皇专制的腐朽。恩格斯说：“沙皇政府在全世界面前给俄国丢了丑，同时也在俄国面前给自己丢了丑。前所未有过的觉醒时期开始了。”亚历山大二世意识到俄国再不改革就会走投无路。1857至1858年，沙皇着手农奴制改革，国民教育和市政管理改革也在拟议。俾斯麦在俄国朝野一片改革声中抵达彼得堡，他受到俄国宫廷的欢迎。
沙皇亚历山大二世是普鲁士摄政王的外甥，因为亚历山大的母亲皇太后是威廉亲王的姐姐，太后少年时也和俾斯麦的母亲威廉明妮一块儿玩过游戏。在克里米亚战争中俾斯麦主张亲俄的中立为俄国人称道。所以亚历山大二世把俾斯麦当做一位家族的大使来看待，俾斯麦在皇宫受到的宠幸使其他的外国使节很觉眼红。俾斯麦也很讨太后、沙皇以及整个宫廷上下的喜欢，有位4岁的小公主指着俾斯麦说：“他是一个可爱的宝贝。”而说另一位将军“是臭的！”太后生病，俾斯麦常随侍左右，与太后闲聊使他从这里听来的消息，比从宫廷的正常渠道和用侦探手段得到的情报都要详细准确得多。俄国首相戈尔查科夫是个爱虚荣的老政客，俾斯麦在他面前装成谦虚谨慎的弟子辈。
俄国皇室奥洛夫亲王的儿子小奥洛夫在克里米亚战争中身负重伤九死一生，在养病时以研究宗教和文学来消磨时光。俾斯麦向他请教东正教，他也就不客气一口答应了。“要谈东正教，我看最好先从您所知道的施莱尔马赫和叶卡特琳娜二世这两个人谈起。”俾斯麦就是通过接触这些人了解驻在国国情的。
俾斯麦来俄国不久觉得不顺心，他没有军事经历，至今还是个后备军少尉，当他随沙皇登上检阅台，在将军或至少是校官的各驻俄使节们的面前感到羞惭。尤其使他不顺心的是，在对俄国的态度上，他与朝廷是有政见分歧的。朝廷此时希望结交西方以加强普鲁士的地位，而他认为如果普鲁士不设法使强大的东方邻邦对它持友好的态度，它永远也不可能完成统一德国的任务，也永远不会成为一个欧洲大国。
俾斯麦虽然亲俄，却不服俄罗斯水土。出使俄国3年，有一年多是个十足的病夫。1859年，俾斯麦返乡治病、疗养，前后6个月。次年元月回彼得堡，3月听说摄政王要物色新外交大臣，他又马上回柏林，甚至和自己的老对头芬克握手言和。这一职位他心计已久。然而，摄政王不信任他，他在柏林待不下去。6月他返回任所，俄国宫廷和上流社会都对他冷落了。
早已精神失常的威廉四世1861年初终于死了，等了30年的63岁的摄政王向全国宣布登基而成为威廉一世。此时，国内政局混乱，自由党攻击他的陆军计划，王后好干政，两夫妇因政见不同常有争吵。威廉心烦，想让位给30岁的儿子。这使保守党大为震惊。倘若如此，太子受夫人影响，普鲁士将涂上自由派色彩。幸有陆军大臣罗恩作威廉的主心骨。罗恩觉得自己势孤力薄，想援引俾斯麦做他们一派的主帅。罗恩1859年晋升为中将兼军队改组委员会委员。威廉深知俾斯麦有能力，但认为他亲法不谨慎，王后也不容他，所以不想重用他。国王首席军事顾问爱德华·冯·曼托菲尔是已故首相的堂弟，但罗恩知道他是那种没有什么政治头脑的军人，又因这位将军生性固执，树敌甚多，任国王近臣委实不妥。罗恩频频进言，国王拟任俾斯麦为内务大臣，俾斯麦大失所望，他指望当首相或外长。故俾斯麦电报都懒得发一个，写了封信说，不想领情，由信使慢悠悠地带回柏林。6月底俾斯麦回柏林时，罗恩告诉他国王连内务大臣都不想给他了。
10月普鲁士宫廷倾巢而出，为威廉一世加冕就道柯尼斯堡。这是遵循1701年第一位普鲁士国王在彼加冕的惯例。俾斯麦头带假发身着蓝色军礼服谈笑风生地参加大典。这次国王对俾斯麦似乎显得礼遇有加，俄国来宾看在眼中。不久俄国驻柏林公使馆援引罗恩的话向戈尔查科夫通报说：“俾斯麦是未来的大人物。”
11月1日，俾斯麦返彼得堡住所。他发现自己又成了俄国宫廷和俄罗斯上流社会的宠儿。俾斯麦在给他妹妹的信中表示“很想离开彼得堡”，至于去巴黎、伯尔尼或伦敦对他来说都是无所谓的。1862年3月有电报召他回国。5月10日他返回柏林。但国王对他的任命仍暧昧不明。若不是改任海军部长的罗恩为他宽心打气，他简直觉得自己会要打破饭碗了。
俾斯麦被悬起，是因普鲁士这年爆发了宪法危机。自由派近两年一直与威廉对着干。他们反对军事改革，更不同意为军事改革拨款。5月3日联合邦议会选举，自由派在议会中取得2/3多数，保守派败北。威廉一世对自由派大失所望。曼托菲尔要求军队出面干预，即使冒内战的风险也在所不惜。威廉一世惮于当年“炮弹亲王”的恶名，不敢轻言“动武”。罗恩建议国王成立以俾斯麦为首的内阁，国王在5月下旬考虑过这种可能性，最后还是放弃。5月22日，俾斯麦被任命为普鲁士驻法兰西公使。5月底，俾斯麦抵巴黎里尔街公使馆履任。
