安史之乱爆发后，玄宗仓皇出走，李亨在灵武(今宁夏灵武)即位，是为唐肃宗。肃宗即位后，派人四处寻找李泌，恰好李泌也到了灵武。肃宗立刻和他商讨当前的局面，他便分析当时天下大势和成败的关键所在。肃宗很高兴，要给他授任官职，李泌自称山人，坚决推辞，希望以宾客的身份随从。 肃宗也只好授李泌银青光禄大夫的散官，碰到疑难的问题，常常和他商量，称其为先生而不称名。

　　此时，李泌已少吃烟火食。肃宗有一天夜里，高兴起来，找来兄弟三王和李泌就地炉吃火锅，因李泌不吃荤，便亲自烧两颗梨请他食用。三王争取要梨，肃宗也不肯给他们。

　　李泌入朝议论国事，从制书文诰到将相升迁，无所不预，史称其"权逾宰相"。李泌外出时，也陪同肃宗车驾，众人指着他说"穿黄衣的是圣上，穿白衣的是山人隐士"。肃宗听说此事，便赐李泌金紫，任命他为天下兵马大元帅、广平王李俶(后来的唐代宗李豫)的行军司马。 肃宗曾对他说:"你曾经侍从过上皇(玄宗)，中间又作过我的老师，如今下任广平王行军司马，朕父子都借助了你的道义。"军中商议立元帅，人们都注目于建宁王李倓，李泌暗中对肃宗说:"建宁王的确聪明，但广平王是嫡长子，有为人君的气量，难道想要使他做吴太伯吗?"肃宗说:"广平王已被立为太子，何必需要做元帅呢?"李泌说:"假使元帅立功，陛下不使他做君位的继承人，能行吗?太子随从时是抚军，驻守时是监国，如今元帅就是抚军。"肃宗最终听从了他的建议。

　　肃宗在做太子时，宰相李林甫多次以进谗陷害他，肃宗积怨已久。到即位以后，打算将李林甫的遗骸挖出焚烧。李泌认为身为天子却念及旧恨，不能以宽广的胸怀显示于天下，会使那些投靠叛军的人失去改过自新的想法。肃宗大为不悦，说:"你忘了往事吗?"李泌回答说:"臣考虑的不在于这些。上皇统治天下五十年，一朝失意(指玄宗逃亡四川)，南方气候恶劣，而且他已年迈，听到陛下记恨旧怨，将会内心惭愧不乐。万一上皇伤感得病，就是陛下以天下之广大，还不能够安抚亲人啊。"话未说完，肃宗便感悟，下阶抱着李泌的脖子痛哭道:"朕没想到这些。"

　　肃宗询问李泌剿灭叛军的战略，他就当时的情势，定出一套围剿的计划。首先，李泌断定安禄山、史思明等人是一群没有宗旨的乌合之众，目的只在抢劫，"天下大计，非所知也。不出二年，无寇矣。陛下无欲速，夫王者之师，当务万全，图久安，使无后害。"因此，他拟定战略，让朔方大将李光弼守太原，出井陉;郭子仪取冯诩，入河东，隔断盗魁四将，不敢南移一步。又密令郭子仪开放华阴一角，让叛军能通关中，使他们北守范阳、西救长安，奔命数千里，劳损其精兵。而唐军常以逸待劳，剪除其弱卒。再将各路兵马齐聚扶风，与朔方军共同平叛。并命建宁王李倓为范阳节度大使，与李光弼互为犄角，以攻取范阳。叛军失去根据地，必将身死于河南诸将之手。肃宗统统照他的计划行事，后来都不出其所料。这便是李泌的"挫其锐，解其纷"的战略运用。但可惜的是肃宗急功近利，没有听信李泌的建议，致使河北没有彻底肃清。

　　肃宗为了尽快收复都城长安，等到郭子仪筹借到西北军大集合的时候，便对李泌说:"今战必胜，攻必取，何暇千里先事范阳乎!"李泌就说:"如果动用大军，一定想要速得两京，那么贼势一定会重新强盛，我们日后会再受到困扰。我们有恃无恐的强大兵力，全靠碛西突骑、西北诸戎。假如一定要先取京师，大概在明年的春天，就可成功。但是关东的地理环境，与气候等情况，春天来得较早，气候容易闷热，骑兵的战马也容易生病，战士们思春。也会想早点回家，便不愿再来辗转作战了。那么，沦陷中的敌人，又可休养士卒，整军经武以后，必复再度南来，这是很危险的办法。"但肃宗却坚决地不听李泌的战略意见，急于收复两京，由此便出现了郭子仪借回纥兵，随广平王李豫等收复两京的一幕。