II 13 aprile del 1924 nacque nella prefettura di Fukuoka.

Nel 1950 venne presentato a Morihei Ueshiba, il fondatore dell'Aikido, e divenne uchi deshi (allievo interno al dojo). Egli avrebbe continuato la pratica dell'Aikido per tutta la sua vita.

Insegnò regolarmente all' Hombu dojo e in altri dojo. Condusse inoltre svariati stage per gradi superiori in tutto il Giappone.

Tra il 1977 ed il 1995 fu invitato a condurre stage in Europa, principalmente in Francia, Germania ed Inghilterra; I' Università di Meinheim, in Germania, istituì un vero e proprio corso di Aikido e cominciò ad invitarlo regolarmente.

Sporadicamente il maestro Yamaguchi fu chiamato anche in Brasile, Argentina ed Uruguay, nonché a New York e nelle Hawaii per insegnare Aikido.

II 24 gennaio del 1996 il Maestro morì nel suo letto dopo aver fatto lezione fino a due giorni prima.

Alla cerimonia funebre organizzata dalla sua famiglia presero parte più di 1000 persone.

Dopo di essa vennero organizzate delle grandi dimostrazioni in memoria del Maestro a Kamakura, a Katsuta e alle Università di Meiji e Nagoya.