De eerste aanzet tot de oprichting van het I-House werd gegeven door een toevallige ontmoeting met een eenzame Chinese student op de trappen van Columbia University in 1909. Harry Edmonds, ambtenaar van de YMCA, begon geld in te zamelen om het huis op te richten en zo de betrekkingen tussen studenten uit verschillende landen te bevorderen. Het International House opende zijn deuren in 1924 met geld van John D. Rockefeller, Jr. (die later identieke huizen aan de Universiteit van Chicago en de Universiteit van Californië in Berkeley financierde), en ook van de familie Cleveland Hoadley Dodge. Andere Rockefeller-familieleden die in de raad van beheer hebben gezeten zijn Abby Aldrich Rockefeller. John D. Rockefeller III, David en Peggy Rockefeller, David Rockefeller, Jr., Abby M. O’Neill, en Peter M.O’Neill.
International House was een van de eerste van vele internationale huizen in een wereldwijde beweging om een diverse omgeving te creëren voor internationale studenten die hun opleiding wilden voortzetten. John D. Rockefeller, Jr. bouwde vóór de Tweede Wereldoorlog International Houses in Berkeley, Chicago en Parijs. Andere steden met internationale huizen zijn: Philadelphia, Harrisburg, San Diego, en Washington, D.C., Verenigde Staten; Melbourne, Brisbane, Sydney, Darwin, en Wollongong, Australië; Alberta, Canada; Auckland, Nieuw Zeeland; en Londen, Engeland.
De voorzitter van de Board of Trustees is lange tijd diplomaat en zakenman Ambassadeur Frank G. Wisner. De voorzitter van het uitvoerend comité van de raad is Peter O’Neill. Deze laatste functie is ook vervuld door William D. Rueckert, een lid van de familie Dodge, wiens gulle giften hebben bijgedragen aan de ontwikkeling van zowel het International House als het Columbia University Teachers College. In oktober 2020 benoemde I-House als interim-voorzitter Brian Polovoy, een voormalig partner bij het advocatenkantoor Shearman & Sterling en bestuurslid van 11 jaar. De vorige voorzitter was Calvin Sims, een voormalig Program Officer bij The Ford Foundation en buitenlandcorrespondent voor The New York Times.