Den första impulsen till bildandet av I-House kom när YMCA-tjänstemannen Harry Edmonds, efter ett slumpmässigt möte med en ensam kinesisk doktorand på trappan till Columbia University 1909, inledde arbetet med att skaffa finansiering för att etablera huset i syfte att främja relationer mellan studenter från olika länder. International House öppnade sina dörrar 1924 med finansiering från John D. Rockefeller, Jr. (som senare finansierade identiska hus vid University of Chicago och University of California i Berkeley) samt familjen Cleveland Hoadley Dodge. Andra Rockefeller-familjemedlemmar som har suttit i styrelsen är bland annat Abby Aldrich Rockefeller. John D. Rockefeller III, David och Peggy Rockefeller, David Rockefeller Jr, Abby M. O’Neill och Peter M.O’Neill.
International House var ett av de första av många internationella hus i en global rörelse som syftade till att skapa en varierad miljö för internationella studenter som ville utbilda sig vidare. John D. Rockefeller, Jr. byggde International Houses i Berkeley, Chicago och Paris före andra världskriget. Andra städer med internationella hus är t.ex: Philadelphia, Harrisburg, San Diego och Washington, D.C., USA; Melbourne, Brisbane, Sydney, Darwin och Wollongong, Australien; Alberta, Kanada; Auckland, Nya Zeeland och London, England.
Ordförande för styrelsen är den mångårige diplomaten och affärsmannen ambassadör Frank G. Wisner. Ordförande för styrelsens verkställande kommitté är Peter O’Neill. Den sistnämnda rollen har även innehafts av William D. Rueckert, en medlem av familjen Dodge, vars generösa gåvor bidrog till utvecklingen av både International House och Columbia University Teachers College. I oktober 2020 utsåg I-House Brian Polovoy, tidigare partner på advokatbyrån Shearman & Sterling och styrelseledamot i 11 Years, till tillfällig ordförande. Den tidigare ordföranden var Calvin Sims, tidigare programansvarig vid Ford Foundation och utrikeskorrespondent för New York Times.