GN'R「Appetite for Destruction」ワールドツアーから「Use Your Illusion」ワールドツアーに掛けて、「Knockin' on Heaven's Door」のイントロとして Slashがギターを奏でていたのは、Alice Cooperのカヴァー曲「Only Women Bleed」(オリジナルは'75年作「Welcome to My Nightmare」に収録)。時折Axlがヴォーカルで参加することもあった。
ライヴ初演は'88年2月12日Phoenix公演で、以降は「Use Your Illusion」ワールドツアー終了迄ほぼ全てのショウでプレイされた。また「Knockin' on Heaven's Door」がショウ中盤のアコースティックセットに組み込まれるようになる'93年2月以降、レギュラーセットから姿を消すが、同年5月24日Athens公演で同曲をアコースティックでフルヴァージョン演奏する珍しい機会もアリ。
また同曲はのちにSlashのレパートリーと化し、Slash's Blues Ballの'96-98年ツアーではレギュラーセットに定着。Teddyがヴォーカルをとり、フルコーラスを演奏していた。
そしてAlice Cooperの'96年6月2日Mexico City公演にSlashがゲスト出演、同曲で共演した模様が'97年発表のライヴアルバム「A Fistful of Alice」に収録されている。