Sotto il dominio di Roma Melfi perse importanza in favore della nuova colonia di Venosa. Questa località era infatti collocata in una posizione più favorevole lungo il nuovo percorso della via Appia, l’importante strada consolare che attraversava gli Appennini e l’Ofanto proprio in questa zona, per proseguire in pianura verso il porto di Brindisi. La collina di Melfi fu perciò abbandonata, riducendosi a un piccolo insediamento rurale abitato da genti lucane ormai romanizzate che Plinio il Vecchio definì, con un po’ di razzismo, turmae agrestium.
Nel territorio circostante sorsero diverse e importanti ville romane, come quella della gens Cornelia dove era custodito il bellissimo sarcofago di Emilia oggi esposto nel Museo Nazionale del Melfese, o la masseria sull’Ofanto della gens Horatia, in cui nacque l’omonimo celebre poeta latino.
Quando però il centro dell’Impero si spostò in Oriente Melfi tornò a essere importante, diventando il fulcro di una lunga linea di difesa edificata dall’esercito del basileo a protezione della provincia pugliese, dapprima contro i Goti e poi contro i Longobardi.
Originari della fredda Scandinavia, i barbari dalle lunghe barbe avevano invaso quasi tutta l’Italia e si erano proiettati verso sud lungo l’Appennino. Dalle città di Salerno, Capua e Benevento, sotto la guida di duchi e principi sanguinari chiamati Pandulf, Landulf o Waimar, dominarono con pugno di ferro i territori conquistati, mantenendosi rigidamente separati dalle popolazioni soggiogate, con le quali non volevano mescolarsi.
Al sud i Longobardi resistettero anche ai Franchi di Carlomagno, che erano scesi fino a Roma per sostituirsi a loro. Da Benevento governavano su Acerenza, sul santuario di San Michele del Gargano e anche su Melfi, servendosi di funzionari chiamati gastaldi. A loro dobbiamo parole dal suono aspro come graffio, banca, balcone, ricco, zanna, stinco, casta o scaffale, oppure antiche usanze come il Morgen Gaf o dono del mattino: una dote che il marito doveva versare alla moglie dopo la prima notte di nozze.
Nel 1018 Melfi fu però riconquistata dall’esercito dell’imperatore romano di Costantinopoli. Lo guidava il catapano Basilio Boioannes, governatore di tutte le province italiche. La città a quel tempo occupava il solo quartiere di San Lorenzo e fu fortificata con la costruzione di una cinta muraria a difesa della guarnigione militare. Una delle porte principali, che si apriva verso nord e portava a Troia, un’altra roccaforte lungo il confine bizantino, si chiama ancora oggi troiana.
Melfi divenne così caput et ianua Apuliae, cioè estremo avamposto e porta d’accesso alla Puglia greco romana ma anche, in senso più ampio, linea di confine e punto di contatto tra Oriente e Occidente del mondo conosciuto. A sud-est la millenaria civiltà romana, con la sua architettura, la sua arte, il diritto, l’uso diffuso della lingua greca e l’organizzazione ecclesiastica suddivisa in una federazione di vescovati con pari dignità.
A nord-ovest, la crescente potenza dei nuovi stati barbari, con al centro il reich franco germanico fondato da Carlo Magno, l’adozione della lingua latina, il monachesimo benedettino e l’imposizione della supremazia del vescovo di Roma, definito papa e capo di tutta la Chiesa, al di sopra degli altri vescovi. Il mondo sarebbe presto cambiato, uno scisma era in arrivo e Melfi stava per giocare una partita da protagonista.