Dopo la laurea a Yale, Phillips si trasferì ad Atlanta, Georgia, dove lavorò come insegnante di lettura e matematica al Fulton County Juvenile Detention Center. Stava integrando il suo stipendio con un secondo lavoro come cameriere quando ha ottenuto un posto come giornalista alla WXIA-TV, l’affiliata locale della NBC. Nel 1980, dopo meno di due anni come reporter, scrittore e produttore radiotelevisivo ad Atlanta, Phillips fu assunto dalla ABC News come redattore per l’ufficio notizie di Washington. Nel 1982, ha iniziato a scrivere storie come corrispondente in onda per la ABC, coprendo eventi importanti come la guerra in Libano, l’esodo dei boat people vietnamiti a metà degli anni ’80, e la campagna elettorale di Rajiv Gandhi dopo l’assassinio di sua madre, Indira Gandhi. Nel 1986, Phillips è stato promosso a un ruolo regolare nella rivista di notizie ABC 20/20. A partire da quell’anno, ha anche servito come conduttore sostituto a Good Morning America e come conduttore sportivo per ABC’s World News Sunday.
Phillips ha concluso la sua relazione di dodici anni con ABC nel 1992, unendosi a NBC News per servire come co-conduttore con Jane Pauley su Dateline NBC. Mentre era alla NBC News, Phillips ha anche condotto Weekend Magazine con Stone Phillips. Ha condotto una lunga lista di interviste degne di nota durante il suo periodo alla NBC. Tra queste, la prima intervista di rete con Lynndie England, il soldato dell’esercito americano, sul suo ruolo nello scandalo della prigione di Abu Ghraib. Altri includevano il noto serial killer Jeffrey Dahmer, il presidente russo Boris Yeltsin, e Bernhard Goetz (un uomo che sparò a quattro adolescenti neri nella metropolitana di New York). Quest’ultimo ha fatto guadagnare a Phillips un Emmy Award per l’eccezionale intervista. Phillips è stato co-conduttore di Dateline NBC dalla sua nascita fino al 2 luglio 2007, quando la NBC non ha rinnovato il suo contratto da 7 milioni di dollari.
Il 17 ottobre 2005, Phillips è stato ospite nella prima puntata di The Colbert Report. La consegna di Phillips è stata parte dell’ispirazione per il personaggio del comico Stephen Colbert in The Daily Show con Jon Stewart. Il 18 dicembre 2014, Phillips sarebbe apparso di nuovo nell’episodio finale di The Colbert Report.
A partire dal 2012, Phillips stava contribuendo rapporti alla PBS NewsHour. Nel 2013, ha riferito sull’uso dell’acqua dei campi da golf per The Golf Channel.
Nel maggio 2013, Phillips ha prodotto e ospitato Moving with Grace, un documentario in onda sulle stazioni PBS che ha raccontato i suoi sforzi e quelli dei suoi fratelli per fornire assistenza ai loro genitori anziani. Ha anche esplorato vari problemi affrontati da altri baby boomer in circostanze simili.
Si tratta di una serie di problemi di salute.