Nach seinem Abschluss in Yale zog Phillips nach Atlanta, Georgia, wo er als Förderlehrer für Lesen und Mathematik in der Jugendstrafanstalt von Fulton County arbeitete. Er bessert sein Gehalt mit einem Nebenjob als Kellner auf, als er eine Einstiegsposition bei WXIA-TV, der lokalen NBC-Filiale, erhält. Nach weniger als zwei Jahren als Reporter, Autor und Sendeproduzent in Atlanta wurde Phillips 1980 von ABC News als Redakteur für das Nachrichtenbüro in Washington, D.C., eingestellt. Ab 1982 berichtete er als Korrespondent für ABC über wichtige Ereignisse wie den Libanonkrieg, den Exodus vietnamesischer Bootsflüchtlinge Mitte der 1980er Jahre und den Wahlkampf von Rajiv Gandhi nach der Ermordung seiner Mutter Indira Gandhi. 1986 wurde Phillips zu einer regelmäßigen Rolle im ABC-Nachrichtenmagazin 20/20 befördert. Seit diesem Jahr war er auch Ersatzmoderator bei Good Morning America und Sportmoderator für ABCs World News Sunday.
Phillips beendete 1992 seine zwölfjährige Beziehung zu ABC und wechselte zu NBC News, wo er als Co-Moderator mit Jane Pauley bei Dateline NBC arbeitete. Während seiner Zeit bei NBC News moderierte Phillips auch das Weekend Magazine mit Stone Phillips. Während seiner Zeit bei NBC führte er eine lange Liste bemerkenswerter Interviews. Dazu gehörte das erste Interview des Senders mit Lynndie England, der Soldatin der US-Armee, über ihre Rolle im Gefängnisskandal von Abu Ghraib. Zu den weiteren Gesprächspartnern gehörten der berüchtigte Serienmörder Jeffrey Dahmer, der russische Präsident Boris Jelzin und Bernhard Goetz (ein Mann, der vier schwarze Teenager in der New Yorker U-Bahn erschossen hatte). Für letzteres erhielt Phillips einen Emmy Award für ein herausragendes Interview. Phillips war Co-Moderator bei Dateline NBC von Anfang an bis zum 2. Juli 2007, als NBC seinen 7-Millionen-Dollar-Vertrag nicht verlängerte.
Am 17. Oktober 2005 war Phillips Gast in der ersten Folge von The Colbert Report. Phillips‘ Vortrag war Teil der Inspiration für die Persönlichkeit des Komikers Stephen Colbert in der Daily Show mit Jon Stewart. Am 18. Dezember 2014 trat Phillips erneut in der letzten Folge von The Colbert Report auf.
Ab 2012 berichtete Phillips für die PBS NewsHour. Im Jahr 2013 berichtete er für The Golf Channel über den Wasserverbrauch auf Golfplätzen.
Im Mai 2013 produzierte und moderierte Phillips Moving with Grace, eine Dokumentation, die auf PBS-Sendern ausgestrahlt wurde und seine Bemühungen und die seiner Geschwister um die Pflege ihrer alternden Eltern dokumentierte. Der Film beleuchtete auch verschiedene Probleme, mit denen andere Babyboomer in ähnlichen Situationen konfrontiert sind.