Debido a la preocupación permanente de los padres de la enseñanza del Nihongo (idioma japonés) desde la temprana edad, fue creado en abril de 1934 el Jardin de Infantes FUTABA (se denomina así a las dos primeras hojas de una semilla que acaba de germinar). Como primera maestra es designada la Sra. Yoneko Shimabukuro, al comienzo de las clases, a las cuales asistian 6 alumnos, se dictaban los días domingo en el hogar del Sr. Gensuke Shimabukuro. Luego el jardin de Infantes se estableció en un local de la Cooperativa de Floricultores.

Teniendo como base el Jardin Futaba, los Sres. Itaru Utsunomiya, Manpei Sakamoto, Itiyu Aizawa, Jinitro Yasukawa, Koosei Shimizukawa, Toosa Sato, Kuiitiro Takahashi, Tosio Maruoka, Kilo Ikeda, Gensuke Shimabukuro, y Noh Murayama fundan FUTABA SHO GAKKO. La escuela comienza sus actividades en abril de 1937, siendo sus primeras docentes Otome Kawashima y Yoneko Shimabukuro. Las clases se dictaban cuatro veces por semana, teniendo como materias Comportamiento Social, Lengua, Álgebra y Música. 

Por la gran concurrencia de alumnos, en el año 1941 se crearon anexos de la Academia se crearon anexos de la Academia en las localidades de Talar de Pacheco y Los Polvorines. 


Los grupos familiares fueron creciendo y se hizo necesaria la adquisición de un lugar adecuado para el funcionamiento de FUTABA SHO GAKKO. Con el esfuerzo de pioneros y benefactores, en septiembre de 1944 se inaugura el predio adquirido ubicado en Avenida Mitre al 1600. El traslado de Futaba sho gakko permite el reinicio de las actividades del jardín de infantes que había quedado momentaneamente suspendido por falta de espacio. 

Lamentablemente, como consecuencia de la segunda guerra mundial, por disposición del gobierno, se suspenden las actividades de Futaba Sho Gakko, y el inmueble que fuera adquirido con el esfuerzo de los pioneros fue destinado al funcionamiento de la Escuela Industrial San Miguel. Sin embargo, la enseñanza no se detiene y se sigue impartiendo en casas particulares en pequeños grupos.

Una vez normalizada la situación internacional posterior a la guerra, en marzo de 1949 se reinicia la enseñanza del Nihongo en la sede de la Unión de Floricultores en la calle Hipólito Irigoyen al 1800, esta vez con el nombre de Academia de Idioma Japonés de Jose C. Paz. Los ex alumnos de Futaba Sho Gakko se vieron en la necesidad de fundar una Asociación con el objeto de conservar el patrimonio de la Academia y de mantener unidos a los jovenes. De esta manera en Febrero de 1949 quedó fundada la Asociación Atlética General Sarmiento. La Asociación propulsó la práctica del béisbol praticipando en todos los torneos organizados en ese entonces por el Club NIPPAR, con el tiempo se afilió a la Liga Metropolitana de Béisbol. No solo era béisbol el deporte que impulsaba la Asociación sino que el atletismo también era estimulado. En el aspecto social, se comenzó a distinguir con la organización de festivales artísticos con la participación de Jóvenes.

Finalizada la Segunda Guerra la cantidad de Inmigrantes de origen japonés que llegó a la Argentina fue de mucha consideración. Así también la Ciudad de José C. Paz se fue poblando de más japoneses. La educación de niños y jóvenes en la cultura de origen fue una constante preocupación de la colectividad. La única aula en donde funcionaba la Academia de Idioma se vio desbordada por la cantidad de alumnos, por esta razón y también por los padres de los niños recientemente llegados de Japon que solicitaban un lugar de reunión y esparcimiento, se decidió a propuesta del entonces presidente de la Comisión Cooperadora Sr. Ryo Watanabe la formación de una comisión para construir en José C. Paz un edificio para satisfacer la conjunción de necesidades de los integrantes de la colectividad. Esta nueva institución que albergaría la Academia y a la vez un lugar para las actividades sociales se denominó CÍRCULO CULTURAL JAPONÉS (José C. Paz Bunka Kyokai), el cual fue fundado el 29 de mayo de 1958, siendo su primer presidente el Sr. Itaru Utsunomiya. La inauguración oficial del nuevo edificio se realizó en abril de 1961. El Círculo Cultural además de albergar a la Academia de Idioma realizó actividades culturales a tal punto que en el 10º Aniversario pudo inaugurar un salón mayor que consta de 30 Pts. de largo por 13 mts. de ancho. En este salón se han llevado a cabo diferentes actividades culturales, entre las que se destaca el Festival de Canto, que surgió como forma de enlazar la cultura Japonesa con la Argentina a través de la música. Estos festivales se fueron realizando de manera ininterrumpida desde su inauguración por más de treinta años. 

Pero muchos años funcionaron las dos instituciones, el Círculo Cultural y la Asociación Atlética , siendo algunos socios exclusivos de la Asociación y otros del Círculo pero en su mayoría socios de ambas instituciones, los directivos de dichas entidades trabajaron para una unificación que finalmente llego en el año 1983, dando lugar a lo que hoy se conoce como Asociación Japonesa Sarmiento. 

Esta nueva institución fue creciendo a lo largo de los años, aportando a la vida cultural de la ciudad de José C. Paz. En 1984, tras la fusión de la Academia de Idioma, adopta el nombre de Sarmiento Nihongo Gakko. Iniciada la década del ochenta día a día se observaba el incremento de Sansei (tercera generación), o alumnos de padres no descendientes de japoneses, la enseñanza del idioma japonés que hasta entonces se realizaba como una enseñanza de una lengua materna utilizada dentro de sus hogares, no era suficiente ni apropiado para su correcto aprendizaje, dado que en la mayoria de los alumnos en sus hogares ya no se utilizaban cotidianamente. Ante esta nueva situación, a partir del año 1983 se incrementan sustancialmente las horas de clases y se incorpora como materia Música, Dibujo, Enseñanza mediante videos, además de la lengua Japonesa. Posteriormente, en el mismo año se incorpora la enseñanza de Educación Física, con el fin de fomentar la amistad entre los alumnos, lograr un cuerpo sano, y aprovechando así las instalaciones del campo de deportes que fue adquirido en el año 1949 con el esfuerzo de diversos benefactores de la colectividad. No obstante las mejoras ya introducidas, a partir del año 1988 se producen nuevos cambios consistentes en incremento de horas de clases (9 horas semanales), separacion de alumnos por niveles (hasta el momento de una única maestra enseñaba en una misma aula a alumnos de diferentes niveles), preparación de materiales didácticos apropiados a cargo de los docentes, incorporación de clases para adultos y para adolescentes, etc.