Acredita-se que a arte do bastão mais curto foi desenvolvida pelo grande espadachim Muso Gonosuke, há aproximadamente quatro séculos atrás, após uma derrota em combate pelo famoso Myamoto Musashi, que utilizava espadas de madeira (bokken, bokutô) para seus combates.

De acordo com a histórica tradição, Gonosuke se retirou para um templo Shinto e, após longo período de treinamento árduo, de muita purificação e meditação na arte do bastão, desenvolveu um notável domínio sobre sobre o Jo. Seu estilo foi denominado de Shindo Muso Ryu, foi então que desafiou Musashi para um novo confronto. O método criado por Gonosuke possibilitou penetrar na forte postura do estilo de Musashi.

Gonosuke Sensei praticou firme e continuamente até desenvolver os golpes básicos que resultaram em 20 técnicas, que mais tarde foram combinados e aperfeiçoados, sendo criadas as formas básicas (Kata).

Os Katas básicos do Jo Jutsu, que posteriormente vieram a fazer parte do Jo Do (nome adotado por algumas escolas), incluem a utilização de sequências com outras armas, como Bo (bastão longo), Bokken e Tanto (faca).