Pontos helye körül mindmáig heves vita dúl, de az bizonyos, hogy a Forum Romanum alsó részén lévő rostráról jól látszott, amint az elítélteket letaszítják róla. Feltehetően a Capitolium sziklacsúcsának kiugró része volt, de mivel ennek magassága mindössze huszonnégy méter, a tarpeji szikla közvetlenül valamilyen hegyes sziklákkal bélelt mélyedés fölött helyezkedhetett el, mivel nem tudunk olyan esetről, hogy a zuhanást bárki is túlélte volna.
Hagyományosan itt végezték ki a római polgárjogú hazaárulókat és gyilkosokat: vagy lelökték őket, vagy rákényszerítették, hogy ugorjanak a mélybe. A néptribunusok különös előszeretettel fenyegették meg az akadékoskodó senatorokat, hogy ledobatják őket a tarpeji szikláról.