Når han blev færdiguddannet fra Yale, flyttede Phillips til Atlanta, Georgia, hvor han arbejdede som lærer i læsning og matematik på Fulton County Juvenile Detention Center. Han supplerede sin løn ved at arbejde sort som tjener, da han fik en nyhedsstilling på begynderniveau på WXIA-TV, den lokale NBC-partnerorganisation. I 1980 blev Phillips efter mindre end to år som reporter, skribent og tv-producer i Atlanta ansat af ABC News som redaktør for nyhedsbureauet i Washington, D.C., efter mindre end to år. I 1982 begyndte han at skrive historier som korrespondent for ABC og dækkede store begivenheder som krigen i Libanon, udvandringen af vietnamesiske bådflygtninge i midten af 1980’erne og Rajiv Gandhis valgkampagne efter mordet på hans mor, Indira Gandhi. I 1986 blev Phillips forfremmet til en fast rolle i ABC’s nyhedsmagasin 20/20. Fra samme år var han også vikarierende vært på Good Morning America og sportsanker på ABC’s World News Sunday.
Phillips afsluttede sit tolvårige forhold til ABC i 1992 og kom til NBC News for at være medvært sammen med Jane Pauley på Dateline NBC. Mens han arbejdede for NBC News, var Phillips også vært for Weekend Magazine with Stone Phillips. Han gennemførte en lang række bemærkelsesværdige interviews i sin tid hos NBC. Blandt dem var det første netværksinterview med Lynndie England, soldaten fra den amerikanske hær, om hendes rolle i skandalen i Abu Ghraib-fængslet. Andre interviewede bl.a. den berygtede seriemorder Jeffrey Dahmer, den russiske præsident Boris Jeltsin og Bernhard Goetz (en mand, der skød fire sorte teenagere i New Yorks undergrundsbane). Sidstnævnte indbragte Phillips en Emmy Award for fremragende interview. Phillips var medansvarlig for Dateline NBC fra starten til den 2. juli 2007, hvor NBC ikke forlængede hans kontrakt på 7 millioner dollars.
Den 17. oktober 2005 var Phillips gæst i premiereafsnittet af The Colbert Report. Phillips’ levering var en del af inspirationen til komikeren Stephen Colberts persona i The Daily Show with Jon Stewart. Den 18. december 2014 ville Phillips igen optræde i det sidste afsnit af The Colbert Report.
I 2012 bidrog Phillips med reportager til PBS NewsHour. I 2013 rapporterede han om vandforbrug på golfbaner for The Golf Channel.
I maj 2013 producerede og var Phillips vært for Moving with Grace, en dokumentarfilm, der blev sendt på PBS-stationer, og som beskrev hans og hans søskendes bestræbelser på at yde pleje til deres aldrende forældre. Den udforskede også forskellige problemer, som andre babyboomere i lignende situationer står over for.