Вскоре после Полтавской битвы, в ознаменование победы, Петр I издал указ о сооружении на поле Полтавской битвы Петропавловского монастыря с нижней церковью в честь Сампсона Странноприимца (поскольку битва состоялась 27 июня, в день преподобного Сампсония). Невзирая на приказ Петра I о неотложности сооружения монастыря и монумента, а также выделении средств для строительства, дело подвигалось очень медленно.
В 1840 году, по предложению генерал-губернатора графа Строганова, был проведен конкурс проектов на строительство церкви. Из числа представленных проектов преимущество было отдано проекту архитектора Ж.-Ж. (Иосифа Ивановича) Шарлеманя (1782-1861). Фундамент церкви был заложен 27 июня 1852 года. Ее строительство, которое велось под надзором местного архитектора Хоруженко, было закончено в 1856 году. Церковь освящена 15 июля 1856 года. Построенная по образцу старославянских византийских храмов, была небольшой, кирпичной, прямоугольной в плане, о пяти главах (центральным куполом и четырьмя маленькими декоративными куполами), простой архитектуры
В конце ХІХ века в Полтаве была создана отдельная комиссия, которая признала необходимым значительно расширить Сампсониевскую церковь. В 1890 году архитектор Н. Никонов выполнил проект реконструкции церкви. Работы начали под присмотром губернского архитектора И. Неймана. Все четыре стены, кроме углом, разобрали и переделали на полукруглые своды (арки), они объединяли среднюю часть с боковыми пристройками, вследствие чего обновленная церковь получила форму креста. Внешний цоколь облицевали гранитными плитами. С западной стороны пристроили большое крыльцо на столбах. Пол в храме выложен разноцветной плиткой. Дубовый резной иконостас исполнен по проекту Н. Никонова в московской мастерской Астафьева. Иконы написаны в мастерской художника Малышева. Росписи стен и куполов исполнил художник Малашечкин. В конце сентября 1895 года работы по реконструкции храма были завершены, и 1 октября 1895 года его заново освятили.
Во время подготовки к 200-летнему юбилею Полтавской битвы Сампсониевская церковь получила новые изменения. По проекту полтавского епархиального архитектора С.Носова с западной стороны к ней была достроена входная часть с колокольней. Во время последней реконструкции существенно изменился не только экстерьер, но и интерьер церкви. Стены, своды потолка и внутренние поверхности центрального барабана купола были покрыты сплошным слоем высокохудожественных декоративно — растительных и сюжетных росписей, выполненных в стиле В.Васнецова. Деревянный иконостас был заменен на одноярусный, изготовленный из мрамора. Полоса карнизного завершения декорирована византийской мозаикой. После последней реконструкции внутри справа и слева на стенах нартекса установили мраморные доски с текстом, который гласит, что проект иконостаса и росписи храма исполнил художник А. Сокол, а мраморные работы Е. Менционе.
Художественно — образные характеристики росписей и иконостаса Сампсониевского храма дают все основания классифицировать их как уникальный высокохудожественный образец храмового монументального искусства.
Церковь действовала до 1930 года (с 1925 року УАПЦ). После прекращения богослужений разобрали колокольню над входной частью. В годы нацистской оккупации Полтавы церковь вновь открыли, но уже в 1949 году ее сняли с регистрации, как исторический памятник. Помещение передали музею для «размещения панорамы Полтавской битвы», но долгое время здесь был склад управления кинофикации. В начале 90-х годов ХХ века Сампсониевскую церковь вернули православной общине.