Бастион этот был построен в XVI веке, в 1579-1580 годах. Он является частью Рогатой крепости, которая представляет собой комплекс укреплений на берегу Выборгского залива. У бастиона, как это требовалось для сооружений подобного рода, очень толстые стены, в которых мог укрыться гарнизон солдат. На улицу Выборгскую выходят бойницы — всего шесть на трёх этажах.
В 1700 году было решено подновить все укрепления, в том числе и бастион, так как началась Северная война, и укрепления могли пригодиться в битвах против войск Петра I, но в итоге работы так до конца и не довели, чем Петр I воспользовался, когда искал слабые стороны Рогатой крепости. В результате в 1710 году Выборг был взят и присоединён к России.
В середине XIX века Рогатую крепость, будто бы мешавшую застройке города, было решено разобрать, что и вскоре и сделали, а бастион Панцерлакс сохранили, чтобы он напоминал о тех днях, когда Выборг стал российским городом, и оставался памятником оборонительных сооружений Швеции XVI века.
В 1930 году архитектор У. Гольдберг построил на валу бывшего бастиона конструктивистское здание для размещения в нём художественного музея Выборга и художественной школы, в которых сейчас располагается филиал Эрмитажа.