Евангелическая кирха

Впервые поселение немецких колонистов Мюльхаузен упоминается в 1350 году в связи со строительством церкви. Мельница на речке Байсляй (река Резвая) впервые упоминается в 1372 году.

В 1414 году Мюльхаузен был разорен польским нашествием, населенный пункт сильно пострадал во времена войны 1454-1466 годов. В 1460-х годах великий магистр Тевтонского ордена Людвиг фон Эрлихсхаузен пожаловал в качестве платы за оказанные Ордену услуги имение Мюльхаузен командиру наемников Даниелю фон Кунхайму, сначала в качестве залога, а с 1474 года как собственность.

В 1560-1590 годах настоятелем кирхи Мюльхаузена был священник Каспар Хенненбергер. Под покровительством герцога Прусского Ханненбергер впервые в истории составил карту всей территории Пруссии, которая была издана в 1576 году в масштабе 1:400 000.

В Мюльхаузене жила дочь церковного реформатора Мартина Лютера - Маргарита, вышедшая замуж за Георга Вильгельма фон Кунхайма, внука Даниеля фон Кунхайма. С 1645 года Мюльхаузен стал собственностью семьи фон Кальккштайн.

Население Мюльхаузена в 1910 году составляло 585 человек, в 1933 году - 968 человек, в 1939 году - 941 человек. До начала Второй мировой войны в Мюльхаузене существовали церковь, школа, мельница, два трактира, несколько магазинов и ремесленных предприятий.

25-27 января 1945 года Мюльхаузен был занят воинами 159-й стрелковой Витебской Краснознамённой орденов Суворова и Кутузова дивизии 5-й армии 3-го Белорусского фронта.

В 1946 году Мюльхаузен был переименован в поселок Гвардейское. Новое название дано по предложению участников Великой Отечественной войны, проживавших в этом населенном пункте.