蔣介石主政國民政府時(shí)期，曾派蔣百里考察南北防務(wù)，從山東、河北、山西、河南到湖南、湖北、廣東，以應(yīng)對(duì)可能的國家戰(zhàn)爭。蔣介石還委托蔣百里到廬山，為暑期訓(xùn)練班的各省高級(jí)將領(lǐng)授課。1936年底，蔣百里從歐洲考察軍事回國，飛赴西安向蔣介石匯報(bào)，他對(duì)蔣說：“我剛從國外考察回來，消息比較靈通。目前日本海軍和陸軍為侵華而互相爭功，日本天皇已秘密接見過陸軍大臣，看來明年（1937年）一定會(huì)大舉入侵我國！”
蔣百里的識(shí)見、預(yù)言幾乎是驚人的準(zhǔn)確。1923年，蔣百里與龔浩回北京。途經(jīng)徐州，蔣忽然若有所感：“將來有這么一天，我們對(duì)日作戰(zhàn)，津浦、京漢兩路必被日軍占領(lǐng)。我們國防應(yīng)以三陽為據(jù)點(diǎn)，即洛陽、襄陽、衡陽。”龔聽了這個(gè)神話般的怪論，覺得蔣太敏感，自忖“將來中日兩國開戰(zhàn)，無論怎樣，我們的半壁江山不會(huì)淪于敵手”。
很早的時(shí)候，蔣百里就對(duì)梁漱溟說：“吾知中日之戰(zhàn)，勢(shì)不能免，勝敗之分，一在械，一在人；論械則我不如敵，論人則我多于敵七八倍。然今日軍事在民眾總動(dòng)員，而將士不過十之三。我國系農(nóng)業(yè)社會(huì)，凡農(nóng)民欲以民族主義動(dòng)之不易明了，惟欲破壞其所據(jù)鄉(xiāng)村，則彼以生命相搏，故欲君于教育中注重鄉(xiāng)村……”1937年，他跟梁漱溟談起中日戰(zhàn)爭時(shí)說，中國軍民應(yīng)“控制山東高地與山西高地”、“堅(jiān)守一些山區(qū)不放”。因?yàn)閱慰恐袊约旱牧α繜o法抗得住強(qiáng)敵，大半國土皆要淪陷而不能守，那是沒有問題的，抗且抗不了，要戰(zhàn)勝它就更有待國際大勢(shì)的變化不可了，所以需要西撤，待機(jī)反攻，合盟國之力以求收復(fù)失地。但單是靠他人，而沒有“求諸己”的一面，那怎么能行？須知反攻戰(zhàn)勝敵人的主要條件仍然在中國人自己。他似乎看到了持久戰(zhàn)、敵后游擊隊(duì)。
曹聚仁則提到一件事：“有一天，那是‘一·二八’戰(zhàn)后的第三天，2月1日。他和我們?cè)谝患铱Х瑞^喝茶，翻開那天上海版的《每日新聞》，頭條新聞是日本陸相覲見天皇的電訊。他沉吟了一下，對(duì)我們說：‘2月5日早晨，會(huì)有日軍一師團(tuán)到達(dá)上海參加作戰(zhàn)了。’他何以這么說呢？他說日陸相覲見天皇的意義是報(bào)告日軍正式出戰(zhàn)。依日本當(dāng)前的運(yùn)輸能力，三天之間，可運(yùn)輸一個(gè)師團(tuán)的兵力——四萬戰(zhàn)斗兵及其裝備到上海，所以他估計(jì)這一師團(tuán)，5日可以投入戰(zhàn)斗。（后來，他把這一估計(jì)，告訴了蔡廷鍇將軍。）果然，‘一·二八’戰(zhàn)役，日軍的第一場反攻是從2月5日開始的，他估計(jì)得非常準(zhǔn)確。”
但這樣的天才卻只能做了一個(gè)大時(shí)代的旁觀者。蔣介石雖然器重蔣百里，但從不授予他兵權(quán)。1938年秋，蔣介石任命蔣百里為中國最高軍事學(xué)府陸軍大學(xué)代理校長，仍由自己兼校長。在軍閥、梟雄爭勝的時(shí)代，英雄無用武之地，幾乎注定了蔣百里的個(gè)人悲劇。他趕上了西安事變，跟蔣介石一起做了張楊的階下囚。張學(xué)良想派個(gè)人去南京接洽停戰(zhàn)，又怕南京不接受，問計(jì)于蔣百里。蔣問：“這里的人你最討厭誰？”張學(xué)良回答：“蔣鼎文。”蔣百里說：“那就讓他去。”南京很快停火。牛刀小試只是做了一次參謀顧問的角色。
在那樣的時(shí)代，蔣百里只是一個(gè)象征、點(diǎn)綴，更多的時(shí)候只能做一個(gè)宣傳員，但這一工作他也做得極為出色。比如他從民族特性上勸導(dǎo)國人樂觀，他說，中國民族夙非以武力見長，民族歷史不以武功著稱；但每從自衛(wèi)上發(fā)出力量來，亦能戰(zhàn)勝強(qiáng)敵，也就是說中國不能打侵略戰(zhàn)爭，而長于自衛(wèi)。抗戰(zhàn)初期，國民軍隊(duì)節(jié)節(jié)敗退，形勢(shì)萬分危急。蔣百里在1937年秋冬撰寫了《日本人——一個(gè)外國人的研究》一文，斷言日本黃金時(shí)代已經(jīng)過去，他說：“日本在極小一塊空地中，常能布置出十全的庭園山石，這個(gè)想象力很大的日本民族，悲劇性地自造了一個(gè)國難，以為悲壯的享樂本來是一個(gè)理想的陰影，現(xiàn)在竟變成了事實(shí)的魔鬼。日本的厄運(yùn)，實(shí)在是愛國志士造成的啊！”文章結(jié)語寫道：“勝也罷，敗也罷，就是不要同他講和。”文章轟動(dòng)一時(shí)，激勵(lì)了無數(shù)人的抗日斗志。