La chiesa da cui la parrocchia prende nome è all'inizio di via san Gregorio Armeno, ed è chiamata "all'Olmo" per un albero che anticamente le era davanti.

Fu fondata - pare - ai tempi di Costantino (IV secolo) oppure dal vescovo Agnello, che resse la chiesa napoletana dal 672 al 694.

Il suo nome originario era "san Gennaro ad diaconiam", perché era una delle chiese a cui il vescovo assegnava un diacono per la distribuzione delle elemosine ai poveri, alle vedove ed agli orfani.

In origine i riti si celebravano in greco ed in latino, fino al XIV secolo, quando tutta la città si uniformò al rito latino, abolendo quello greco.L'ospedale della diaconia fu attivo fino al 1440.

Attualmente è in attesa di restauro perché in precarie condizioni. E si spera di poterla al più presto riaprire per restituire alla città e ai fedeli una chiesa di così alto interesse storico.

Sarebbe auspicabile che enti, associazioni, banche o imprenditori ne prendessero a cuore la rinascita.

Dal 1944 l'attività parrocchiale è stata trasferita presso la chiesa dei santi Filippo e Giacomo, ubicata nella vicina via san Biagio dei Librai.