Stein pasó su infancia en Viena y en Passy, Francia, y su niñez en Oakland, California. Ingresó en la Society for the Collegiate Instruction of Women (rebautizada como Radcliffe College en 1894), donde estudió psicología con el filósofo William James y se licenció en 1898. Estudió en la Escuela de Medicina Johns Hopkins de 1897 a 1902 y luego, con su hermano mayor Leo, se trasladó primero a Londres y luego a París, donde pudo vivir con medios privados. Vivió con Leo, que se convirtió en un consumado crítico de arte, hasta 1909; después vivió con su compañera de toda la vida, Alice B. Toklas (1877-1967).
Stein y su hermano fueron de los primeros coleccionistas de obras de los cubistas y otros pintores experimentales de la época, como Pablo Picasso (que pintó su retrato), Henri Matisse y Georges Braque, varios de los cuales se convirtieron en sus amigos. En su salón se mezclaban con escritores estadounidenses expatriados a los que ella apodó la «Generación Perdida», como Sherwood Anderson y Ernest Hemingway, y otros visitantes atraídos por su reputación literaria. Sus juicios literarios y artísticos eran venerados, y sus comentarios casuales podían hacer o destruir reputaciones.
En su propia obra, intentó establecer un paralelismo con las teorías del cubismo, concretamente en su concentración en la iluminación del momento presente (para lo que a menudo recurría al tiempo presente perfecto) y en su uso de repeticiones ligeramente variadas y de una simplificación y fragmentación extremas. La mejor explicación de su teoría de la escritura se encuentra en el ensayo Composition as Explanation (La composición como explicación), basado en las conferencias que impartió en las universidades de Oxford y Cambridge y que se publicó como libro en 1926. Entre sus obras más influenciadas por el cubismo se encuentra Tender Buttons (1914), que lleva la fragmentación y la abstracción al extremo.
Su primer libro publicado, Three Lives (1909), las historias de tres mujeres de clase trabajadora, ha sido calificado como una obra maestra menor. The Making of Americans, una larga composición escrita en 1906-11 pero que no se publicó hasta 1925, era demasiado enrevesada y oscura para los lectores generales, para los que seguía siendo esencialmente la autora de líneas como «Rose is a rose is a rose is a rose.» Su único libro que llegó a un público amplio fue The Autobiography of Alice B. Toklas (1933), en realidad la autobiografía de la propia Stein. La representación en Estados Unidos de su obra Cuatro santos en tres actos (1934), que el compositor Virgil Thomson había convertido en ópera, dio lugar a una triunfal gira de conferencias por Estados Unidos en 1934-35. Thomson también escribió la música de su segunda ópera, The Mother of Us All (publicada en 1947), basada en la vida de la feminista Susan B. Anthony. Uno de los primeros relatos cortos de Stein, «Q.E.D.», se publicó por primera vez en Things as They Are (1950).
La excéntrica Stein no era modesta en su autoestima: «Einstein fue la mente filosófica creativa del siglo, y yo he sido la mente literaria creativa del siglo». Se convirtió en una leyenda en París, especialmente después de sobrevivir a la ocupación alemana de Francia y de hacerse amiga de los muchos jóvenes militares estadounidenses que la visitaban. Escribió sobre estos soldados en Brewsie y Willie (1946).