退役之旅，瓜迪奥拉接棒巴萨B队教鞭，助力球队攀升西丙之巅。2008年6月5日，拉波尔塔与执教仅一年的瓜迪奥拉握手言欢，接过里杰卡尔德的接力棒，登上巴萨一线队的执教宝座。瓜迪奥拉在职业生涯晚期历经磨难，却也因这份经历而更显稳重老练，以主帅之姿引领巴萨攀登高峰。
瓜迪奥拉接手的“梦三期”巴萨，继承里杰卡尔德的衣钵，普约尔、皮克、阿尔维斯、布斯克茨、哈维、伊涅斯塔、亨利、埃托奥，乃至梅西，这些球员构成了球队的主力框架。战术上，瓜迪奥拉保留了里杰卡尔德的精髓，并引入先进的tiki-taka理念和就地反抢等战术，让球队传球目的性极强，不仅逃避对手逼抢，更能为下一次进攻积蓄力量。
2008/09赛季，瓜迪奥拉率队夺得了西甲、国王杯和欧冠的三冠王桂冠。2009/10赛季，他再接再厉，赢得西班牙超级杯、欧超冠军和世俱杯，成就“六冠王”的壮举。2010/2011赛季，球队再夺西甲冠军，并包揽欧冠、西班牙超级杯、欧洲超级杯和俱乐部世界杯的冠军，实现“五冠王”。然而，2011/12赛季，瓜迪奥拉因更衣室问题、高层关系紧张以及球员内斗，巴塞罗那联赛和欧冠均遭遇失利，瓜迪奥拉在2012年4月27日宣布赛季结束后辞职，称身体透支严重，需要休息。瓜迪奥拉在巴萨四个赛季，247场比赛带领球队赢得14个冠军。首次执教豪门球队即遭遇挫折，瓜迪奥拉的应对和处理方式，或许隐藏着未知的激动情绪。
2013年1月16日，拜仁将教鞭交给瓜迪奥拉，双方签约3年，年薪高达1600万欧元。瓜迪奥拉一度也是曼城的目标。首赛季，拜仁成功卫冕德甲冠军，但在欧洲冠军联赛四强遭遇皇马，首回合0-1落败，次回合主场0-4惨负，创瓜迪奥拉执教以来最大失利。德国媒体对瓜迪奥拉的打法进行了猛烈批评，认为拜仁拥有诺伊尔、博阿滕、拉姆、蒂亚戈、穆勒、格策等顶级球员，却因瓜迪奥拉的控球打法而败给了皇马的快速反击。2014/2015赛季，拜仁再次进入欧冠四强，但不幸被巴塞罗那淘汰。2015/16赛季，拜仁在欧冠四强止步于马德里竞技，连续三年在欧冠被西甲三强痛击，队内也存在“反瓜联盟”，穆勒、里贝里、小猪和格策等人均表达过对瓜迪奥拉的不满。尽管拜仁并非巴萨，瓜迪奥拉虽有才能但影响力不及巴萨时期，以国内双冠王、联赛三连冠，三季共6座冠军奖杯的成绩结束任期，并最终加盟曼城。
2016/17赛季，瓜迪奥拉与曼城签订了一份为期三年的合同，合约期至2019年夏天，年薪高达1500万英镑。瓜迪奥拉带领曼城开局六连胜，但随后球队状况波动，最终以23胜9平6负积78分的成绩位列联赛第三。2017/18赛季，瓜迪奥拉开启“买买买”模式，引进沃克、门迪、达尼洛等球员，曼城夺得英超冠军，并成为英超历史上唯一一支达到100分积分的球队，但在欧冠八强赛上被利物浦淘汰。2018/2019赛季，瓜迪奥拉再次带领曼城夺得英超冠军，成为首支英格兰的“本乡三冠王”球队。但在欧战，曼城被热刺逼平，止步八强。2019/20赛季，曼城丢掉英超冠军，欧冠以1-3负于里昂，连续三年止步八强。2020/21赛季，曼城重夺英超冠军，欧冠也历史性打进决赛，但0-1不敌切尔西丢掉冠军。
无论是在巴萨还是曼城，瓜迪奥拉都遭遇过球星质疑。亚亚-图雷曾被认为是世界上最好的后腰之一，但他也承认瓜迪奥拉是他的克星，两次离开球队都是被瓜迪奥拉赶走。图雷一度质疑瓜迪奥拉种族歧视，后来加盟青岛黄海踢中甲，并帮助球队冲超。图雷表示：“我国球迷最让人称道的地方在于他们懂得尊重球员，当我我在球场上踢球时，并不会因为我是黑人而被球迷嘘或者不尊重，这比谁都不尊重的欧洲球迷要好多了！”
