Al monje indio Bodhidharma (siglos V y VI) se le atribuye la introducción del budismo en China y se le llama el «primer ancestro» o «primer patriarca» del chan chino y el zen japonés. Es famoso por un diálogo posiblemente apócrifo con el emperador chino Wu de Liang (464–549). En su primera reunión, el emperador Wu, que había gastado grandes sumas de dinero en la construcción de templos budistas, le preguntó a Bodhidharma cuánto mérito había acumulado su generosidad. Donar a monásticos es una de las muchas buenas obras que se cree que generan mérito, lo que hace más probable un renacimiento favorable. Pero Bodhidharma respondió: “Sin/No mérito”. (Nota: “no” aquí es el carácter chino wu [Jp. mu], que tiene un significado especial en la práctica Zen y filosofía.) Asombrado, el emperador Wu preguntó: «¿Quién eres tú para cuestionar el mérito de tales hechos?» Bodhidharma respondió: «No sé» o «No saber». Bodhidharma estaba diciendo que aunque existe el mérito, su alcance no puede ser conocido o sondeado debido a su vacío fundamental. Cuando respondió “No saber”, estaba señalando la naturaleza infinita e inefable de nuestro ser, así como la importancia de abrirnos a los misterios de la vida.
El Sexto Patriarca del Zen, Huineng, vivió en China en el siglo VIII, seis generaciones después de Bodhidharma. Era un leñador analfabeto del que se dice que alcanzó la iluminación al escuchar a alguien cantar el Sutra del diamante, una importante escritura budista Mahayana. Huineng luego ingresó a un monasterio, donde trabajó en un molino de arroz. El abad, que estaba envejeciendo, convocó un concurso para encontrar a su nuevo sucesor. El estudiante más avanzado escribió un poema describiendo la mente como un espejo que necesita ser limpiado de polvo a través de un entrenamiento mental constante. Pero el poema de Huineng declaraba todo lo contrario: “La naturaleza de Buda está siempre limpio y puro; ¿dónde hay lugar para el polvo?» Huineng estaba rechazando la noción de que la iluminación se logra gradualmente, afirmando en cambio que está a nuestro alrededor, aquí y ahora. Ganó el concurso y, como heredero del abad en el dharma —sucesor designado—, ayudó a difundir el concepto zen del despertar espontáneo.
Hay muchas otras figuras zen históricas que son recordadas por sus ideas, poesía, arte o estilos de vida únicos, o por establecer nuevas escuelas y prácticas. Entre ellos: Dongshan Liangjie (807-869), fundador de la escuela Caodong del budismo Chan en China; Linji Yixuan, fundador de la escuela Linji del budismo Chan; Wumen Huikai (Jp., Mumon Ekai), conocido por su colección de koans y comentarios zen del siglo XII; Myoan Eisai (1141–1215), al que se le atribuye haber traído Rinzai Zen y té a Japón desde China; Eihei Dogen (1200-1253), fundador de la escuela Soto de zen japonés.