Nasceu em Osaka, em 1899. Os primeiros anos da sua vida foram trágicos, tendo ficado órfão aos dois anos de idade. Formou-se em Letras pela Universidade Imperial de Tóquio, em 1924, e, em 1925, publicou o seu primeiro livro A Dançarina de Izu.
Terra de Neve (1947), Mil Grous (1952), O Som da Montanha (1954), O Lago (1954), A Casa das Belas Adormecidas (1960) e Kyoto (1962) são os seus romances mais conhecidos.
Foi presidente do Pen Club Japonês e ainda um eminente crítico literário, que descobriu e apoiou uma nova geração de escritores, incluindo Yukio Mishima. Em 1968 recebeu o Prémio Nobel de Literatura, vendo assim consagrada internacionalmente a sua obra.