Originalmente de Tóquio, Japão, Yamada ficou interessado em Aikido através do primo de seu pai, Tadashi Abe, que treinou na Aikikai Hombu Dojo e era amigo de Koichi Tohei. Ele entrou no Hombu Dojo como um uchi deshi em 1955 com a idade de 17 anos. Sua exposição aos ocidentais e capacidade de falar inglês fluente fez dele uma escolha natural para ensinar aos ocidentais. Foi pela primeira vez aos Estados Unidos em 1964 para fazer uma demonstração de Aikido na Feira Mundial de 1964 em Nova York. Embora a original New York Aikikai tenha sido fundada em 1961 e dirigida por Yasuo Ohara, quando Yamada mudou-se para Nova York, ele assumiu a direção da organização e mudou o dojo ao seu endereço na 18th Street, local de sua localização até os dias de hoje.
Naqueles dias não havia nenhum outro professor de Aikido do Japão (com exceção do original fundador NY Aikikai Yasuo Ohara), na costa leste de os EUA, e Sensei Yamada viajava semanalmente para Boston, com freqüentes viagens a Philadelphia e pontos bem ao sul, desenvolvendo o Aikido nos EUA. Em 1966, parte da carga ficou aliviada quando ele convidou Mitsunari Kanai para assumir o grupo de Boston. Ao longo do tempo os estudantes de Yamada têm crescido e atingiram níveis tão elevadas como sétimo dan. Em 1988 Yamada convidou Seiichi Sugano para se juntar ao dojo, tornando-se um dos poucos dojo fora do Japão com dois shihan oitavo dan permanentes.
Em 2004, o New York Aikikai celebrou o seu 40º aniversário com um acampamento de verão na Colgate University com muitos shihan e contando com a presença do próprio Doshu Moriteru Ueshiba. Yamada mantém um ensino ativo e realiza de seminários nos EUA, América Latina, Rússia, França, Alemanha e muitos outros pontos ao redor do mundo.
Sensei Yamada é bem conhecido por sua técnica de base clara e forte. Além de sua capacidade técnica, ele também possui um dom para transmitir o seu conhecimento. Seus alunos tornaram-se alguns dos praticantes mais conhecidos e de mais alto nível nas Américas.
Sensei Yamada é o presidente da Federação de Aikido dos Estados Unidos e presidente da América Latina Aikido Federation. Em janeiro de 2011, Sensei Yamada aceitou um convite para se tornar o patrono do AikiKai Austrália. Ele é o autor, dentre outros, do livro Aikido completo, e fez várias fitas de treinamento do aikido, incluindo o "Power and the Basics" série, que descreve os requisitos para testes de classificação de todos os níveis.
Com a perda de seus colegas Akira Tohei em 1999, Mitsunari Kanai, em 2004, e Seiichi Sugano e Nobuyoshi Tamura em 2010, Sensei Yamada, hoje aos 77 anos, é um dos únicos representantes da última geração de estudantes diretos de Morihei Ueshiba.
