De oudste vermelding van deze steeg is uit 1553. Hij had toen nog geen naam. In 1656 wordt hij aangeduid als Peerloopzeersteeg. Hier vlak bij woonde iemand, Peer genaamd, die erg moeilijk liep, vandaar. De wordingsgeschiedenis van de steeg is onduidelijk. Aanvankelijk liep hij dood tegen het water van de Gampel en de Mark. Misschien was hier een kleine kade. Pas in 1618 werd hier een brug gebouwd over de Gampel. De eerste keer dat de naam Rosemarijnstraetken voorkomt is in 1644. Vaak werd het tweede gedeelte van dit straatje de Kromme Elleboog genaamd.
Misschien is het straatje pas ontstaan nadat een plein tussen de Tolbrug en de Haagdijk is volgebouwd en de Tolbrugpoort zijn functie in het midden van de zestiende eeuw had verloren en werd gesloopt.
Rozemarijn is een oud middel voor de versterking van het geheugen en het is een symbool voor vriendschap en trouw. Men gaf takjes aan geliefden die op reis gingen en droeg kransen bij bruiloften. Op begrafenissen werden takjes rozemarijn op de graven gelegd om te symboliseren dat de overledene niet zou worden vergeten.
Vuil straatje?
J.H. Hoeufft schreef in zijn Proeve van Bredaasch taaleigen: 'Rozemarijn-straatje wordt te Breda een der vuilste en morsigste achterstraatjes genaamd. Daar men in andere steden veeltijds dergelijke straten een onbeschaafden naam geeft, heeft men hier denzelven door eene fijne scherts, van een welriekend kruid, bij tegenoverstelling, ontleend.' Dit is inderdaad in de toponymie een bekend verschijnsel. Een onvruchtbaar stuk grond heet bijvoorbeeld het Paradijs.
Heel veel steden hebben in het oude centrum een Rozemarijnstraat of -steeg. Behalve Breda zijn dat Bergen op Zoom, Willemstad en Den Bosch en verder weg bijvoorbeeld Amsterdam en Arnhem.