Na zijn afstuderen aan Yale verhuisde Phillips naar Atlanta, Georgia, waar hij werkte als leraar remedial reading en wiskunde in het Fulton County Juvenile Detention Center. Hij vulde zijn salaris aan door bij te klussen als ober toen hij een baan kreeg bij WXIA-TV, de lokale NBC-zender. In 1980, na minder dan twee jaar als verslaggever, schrijver en producer in Atlanta, werd Phillips aangenomen door ABC News als een redacteur voor het Washington, D.C., nieuws bureau. In 1982 begon hij verhalen te verslaan als on-air correspondent voor ABC, waar hij belangrijke gebeurtenissen versloeg zoals de oorlog in Libanon, de uittocht van Vietnamese bootvluchtelingen in het midden van de jaren tachtig, en de verkiezingscampagne van Rajiv Gandhi na de moord op zijn moeder, Indira Gandhi. In 1986 werd Phillips gepromoveerd tot vaste medewerker van het ABC nieuwsmagazine 20/20. Vanaf dat jaar was hij ook plaatsvervangend presentator bij Good Morning America en sportverslaggever bij ABC’s World News Sunday.
Phillips beëindigde zijn twaalfjarige relatie met ABC in 1992 en ging werken voor NBC News als co-anchor met Jane Pauley bij Dateline NBC. Terwijl hij bij NBC News was, presenteerde Phillips ook Weekend Magazine met Stone Phillips. Hij leidde een lange lijst van opmerkelijke interviews tijdens zijn tijd bij NBC. Daaronder was het eerste netwerkinterview met Lynndie England, de soldaat van het Amerikaanse leger, over haar rol in het Abu Ghraib gevangenis schandaal. Andere interviews waren met de beruchte seriemoordenaar Jeffrey Dahmer, de Russische president Boris Jeltsin, en Bernhard Goetz (een man die vier zwarte tieners neerschoot in de metro van New York City). Dit laatste leverde Phillips een Emmy Award op voor “Outstanding Interview”. Phillips was co-anchor van Dateline NBC vanaf het begin tot 2 juli 2007, toen NBC zijn contract van 7 miljoen dollar niet verlengde.
Op 17 oktober 2005 was Phillips te gast bij de première-aflevering van The Colbert Report. Phillips’ delivery was een deel van de inspiratie voor comedian Stephen Colbert’s persona in The Daily Show with Jon Stewart. Op 18 december 2014 zou Phillips opnieuw verschijnen in de laatste aflevering van The Colbert Report.
Met ingang van 2012 droeg Phillips bij aan reportages voor het PBS NewsHour. In 2013 rapporteerde hij over het watergebruik op golfbanen voor The Golf Channel.
In mei 2013 produceerde en presenteerde Phillips Moving with Grace, een documentaire die werd uitgezonden op PBS-stations en die zijn inspanningen en die van zijn broers en zussen om zorg te bieden aan hun ouder wordende ouders chroniqueerde. Het onderzocht ook verschillende problemen waarmee andere babyboomers in soortgelijke omstandigheden worden geconfronteerd.