Non si conosce la data della sua fondazione. All'interno dell'attuale perimetro della città sono presenti testimonianze archeologiche datate al VI-V secolo a.C. (ritrovamenti nel rione dei Cappuccini, presso il cinquecentesco monastero di Santa Maria delle Grazie) ma le prime notizie documentate della sua esistenza, risalgono all'epoca dei longobardi, con la presenza di una cittadella fortificata attestata nell'849. Fu in seguito, tra il IX ed il X secolo, roccaforte araba e successivamente città fortificata (kastron) bizantina.
In seguito fu contea della famiglia normanna dei Sanseverino e sede di comestabilia (comando militare). Dal X secolo è sede dell'omonima diocesi.
Nel XV secolo vide la presenza di una consistente comunità ebraica e, nel XVI secolo di una comunità albanese, in concomitanza della presenza, alla guida del feudo, di Erina (o Irina) Castriota Scanderbeg, moglie del principe Pietro Antonio Sanseverino e nipote dell'eroe albanese Giorgio Castriota Scanderbeg. La sua importanza nel XVII secolo è testimoniata dalla menzione, unica città lucana, nella raccolta di stampe e vedute del Theatrum urbium praecipuarum mundi di G. Braun e F. Hogemberg, pubblicata a Colonia tra il 1572 e il 1618. La stampa di Tricarico è del 1605.
La moderna Tricarico è una città d'arte che conserva un consistente patrimonio artistico e storico-architettonico ed è sede di uffici e servizi comprensoriali, tra i quali l'Ospedale cui è collegato il Centro di eccellenza della Riabilitazione della Provincia di Matera.
L'origine del toponimo è controversa e sono state fatte diverse ipotesi:
- dal greco treis = tre ed akros, akris = vetta, monte, vertice ossia "città dalle tre vette";
- dal latino tricaricum da intendersi come "posta su tre colli".
- dal greco treis kari kora o treis kariaris, da intendersi come "città delle tre grazie" o "città graziosa";
- dal latino trigarium (il termine indica il luogo dove si allenavano gli aurighi che montavano la triga, ossia un carro trainato da tre cavalli).
La derivazione latina sarebbe coerente con il fatto che da Tricarico passa la via Appia, verso il porto di Brindisi, anche se le testimonianze archeologiche del VI-V secolo a.C. ritrovate nei pressi del monastero di Santa Maria delle Grazie rendono plausibile una fondazione ed un toponimo di più antica origine.