La historia se sitúa en 1882, Japón, en plena era Meiji. El protagonista, Sanshirō Sugata, es un joven que llega a Tokio con el deseo de aprender un arte marcial digno.
Durante su búsqueda, conoce a Shōgorō Yano, un maestro de judo que demuestra su habilidad derrotando a 39 practicantes de jujitsu en un solo enfrentamiento. Impresionado por su técnica y convicción, Sanshirō decide volverse su discípulo.
En su camino también se desarrolla una rivalidad con Higaki Gennosuke, un luchador experto en jujitsu, y se complica con sentimientos hacia Sayo Murai, cuya familia tiene conexión con las artes marciales. Sanshirō deberá aprender no sólo técnicas, sino disciplina, humildad y lo que significa realmente el "camino marcial".