Nació como Nakagami Shōnosuke en Kyōbashi Yazaemon-chō en Edo (Tokio actual) en 1859. Su padre, el comerciante Nakagami Seijirō, murió en 1876 y Gekkō se fue a trabajar a una tienda de faroles. en Kyōbashi Yumi-chō.

Gekkō fue autodidacta en el arte y comenzó a decorar porcelana y rickshaws y a diseñar volantes para los cuartos de placer. Su estilo temprano muestra la influencia del pintor Kikuchi Yōsai.  Alrededor de 1881 tomó el apellido Ogata ante la insistencia de un descendiente del pintor Ogata Kōrin. Pronto estuvo diseñando grabados e ilustrando libros y periódicos. En 1885, Gekkō  conoció a los eruditos en arte Ernest Fenellosa y Okakura Kakuzō. En 1888, se casó con una estudiante de arte suya, Tai Kiku, su segundo matrimonio, y cambió su apellido por el de Tai. Fue juez en la Asociación Japonesa de Pintura Juvenil , que ayudó a fundar en 1891. La Primera Guerra Sino-Japonesa fue objeto de varios trípticos que diseñó en 1894-1895.  A partir de la década de 1890, Gekkō ganó varios premios de arte, tanto nacionales como internacionales. Fue uno de los primeros artistas japoneses en ganar la atención internacional.