После трех студийных альбомов и многочисленных туров Blue ?yster Cult выпустили свой первый концертный альбом On Your Feet or On Your Knees в 1975 году. Альбом представляет собой сборник из 12 концертных записей выступлений, состоявшихся в Соединенных Штатах в 1974 году. Он содержит по три песни с каждого из ее первых трех альбомов, по одной оригинальной инструментальной композиции и две кавер-версии: I Aint Got You (Billy Boy Arnold, The Yardbirds) и Born to Be Wild (Steppenwolf). Это был первый золотой диск в США, ставший самым продаваемым альбомом группы и навсегда закрепивший за ней статус одной из самых значимых концертных рок-групп. Альбом On Your Feet or On Your Knees выпущен ограниченным тиражом в 1500 индивидуальных пронумерованных копий на серебристо-черном мраморном виниле в гильзе gatefold и включает 4-страничный буклет.