Seine sängerische Laufbahn begann 2002 in St. Gallen (Mazolino Pedruzzi in Max von Schillings Mona Lisa) und 2003 an der Wiener Kammeroper (Osmin in Mozarts Zaide).
Von 2003 bis 2009 war Raab Ensemblemitglied der Volksoper Wien und gab dort eine Vielzahl von Rollen. Im Sommer 2004 sang er den Kezal in Klosterneuburg. In St. Gallen gastierte er 2005 in Zar und Zimmermann und 2009/2010 in Der Mann von La Mancha. 2005 sang er den 2. Gefangenen (Fidelio) sowie 2006 den Harlekin in Schulhoffs Flammen im Musiktheater an der Wien.
Am Landestheater Bregenz gastierte er als Drunken Poet in Fairy Queen und, 2007 als John Shears in Benjamin Brittens Paul Bunyan. 2009 sang Markus Raab den Sarastro am Musiktheater Friedrichshafen. 2012 in Vaduz, 2014 sang er den Sparafucile am Vorarlberger Landestheater und den Gonzo in Trans Maghreb bei den Bregenzer Festspielen. 2016 folgte der Falstaff in Niccolais Lustige Weiber von Windsor in Vaduz und 2017 Alfred Doolittle in Loewes My fair Lady.
2017 gab er sein Debüt als Rocco in Beethovens Fidelio in Biberach an der Riß. Seit 2017 ist er am Landestheater Linz tätig.