В серпні 1909 року місце, на якому повинен був стояти пам’ятник княгині Ользі, було урочисто освячене. Оголосили конкурс. Перший проект-переможець конкурсу – робота скульптора Ф.П.Балавенского, з часом відхилили, але Балавенській все ж таки став співавтором проекту И.П.Кавалеридзе.
Красивий пам’ятник проіснував не довго.
В отмездку за те, що княгиня зайняла місце поета, пам’ятник отримав назву «Жахливого твору». До того ж, діяльність Військово-історичного суспільства звинуватили за зв’язки з «чорносотенцями». У 1919 році статуя княгині Ольги була скинута з п’єдесталу і, розколена надвоє, була закопана під самим пам’ятником, а в березні 1923 року були демонтовані статуї апостолів і просвітителів.
У 1926 році на місці пам’ятника був розбитий сквер.
В 1996 році викопавши з-під клумби статую княгині, пам’ятник був відновлений по старих ескізах, по тих же, по яких при таких несприятливих обставинах в 1911 році був зведений. Частину оригінальної скульптури зараз можна побачити в саду на Андріївському спуску, біля музею скульптора Кавалерідзе.