Gaynes encarnó al despistado y desternillante Lassard en las siete películas de la franquicia: Loca academia de policía (1984), Loca academia de policía 2: Su primera misión (1985), Loca academia de policía 3: De Vuelta a la Escuela (1986),Loca academia de policía 4: Los ciudadanos se defienden (1987), Loca academia de policía 5: Operación Miami
Beach (1988), Loca academia de policía 6: Ciudad sitiada (1989) y Loca academia de policía: Misión en Moscú (1994).
En la serie Punky Brewster (1984-1986) Gaynes interpretó a Henry Warnimont, un hombre viudo al que le cambia la vida cuando se encuentra a una niña abandonada (Soleil Moon Frye) y se convierte en su padre adoptivo.
Ese papel lo consiguió tras intervenir en, posiblemente, su película más notable: Tootsie(1982), donde interpretaba a uno de los que sentía una gran atracción por Dorothy Michaels, el personaje travestido de Dustin Hoffman.