GN'R「Lies」アナログR面2曲目に収録された「Used to Love Her」は、元々は歌詞にある通り、「I Used to Love Her, But I Had to Kill Her」と題されていた。また、'88年12月10日の東京公演でのライヴヴァージョンが「Live Era '87-'93」にて発表された。
ライヴ初演は'87年10月30日NYC公演でのアコースティックヴァージョン。オリジナルのエレクトリックヴァージョンでは同年12月19日Madison公演が初演で、「Appetite for Destruction」ワールドツアー中にはレギュラーセットに定着していたが、「Use Your Illusion」ワールドツアー中では'91年6-8月にプレイされた他、'93年2-7月の「Skins N'Bones」ツアーにてアコースティックヴァージョンが復活。
その後は長らく演奏されなかったが、'06年5月19日NYCのクラブで深夜、Rosario Dawsonの誕生日を記念しておこなわれたサプライズギグで約13年ぶりにピックアップ。また同年のツアー中、Izzyが同行した際のショウを中心に度々ピックアップされ、共演している。
なお余談だが、L7の'92年作シングル「Monster」で同曲の高速カヴァー「Used to Love Him」を発表している。