Особый нагрудный знак «Гвардия» был учрежден 21 мая 1942 года Указом Президиума Верховного Совета СССР «О введении для военнослужащих гвардейских частей и соединений Красной Армии и Военно-Морского Флота гвардейских военных званий».
В России гвардия была создана Петром I из «потешных войск» в составе Преображенского и Семеновского полков, официально получивших название гвардейских в 1700 году. В то время гвардией традиционно называли отборную, привилегированную, лучше других обученную и экипированную часть войск.
Гвардейские полки участвовали во всех исторически значимых сражениях XVIII-XIX веков, на полях которых гвардейцы показывали образцы героизма, мужества и самоотверженности.
В 1918 году вместе с расформированием царской армии были упразднены и гвардейские части.
Второе рождение гвардия пережила во время Великой Отечественной войны 1941-1945 г.г.
Осенью 1941 года за массовый героизм, мужество личного состава, высокое воинское мастерство, проявленные в ходе кровопролитных боев Смоленского сражения под Ельней, четыре стрелковые дивизии (100-я, 127-я, 153-я и 161-я) получили наименование «гвардейских».
В дальнейшем это звание присваивалось воинским частям, кораблям, соединениям и объединениям советских Вооруженных сил, отличившимся в боях в период Великой Отечественной войны, с вручением воинскому формированию гвардейского знамени, а личному составу — гвардейского нагрудного знака. Для Военно-Морского Флота специальные гвардейские атрибуты были учреждены 19 июля 1942 года, а после войны гвардейский знак стал единым по оформлению.
После окончания Великой Отечественной войны присвоение гвардейских наименований не производилось, но при реорганизации войск в целях сохранения боевых традиций гвардейских частей, кораблей, соединений и объединений их почетные звания переходили к достойным правопреемникам — лучшим воинским коллективам видов и родов войск.
Эта традиция была продолжена и в Вооруженных Силах современной России.
В настоящее время более 100 воинских частей и соединений армии и флота имеют почетное наименование «гвардейских». Наследники боевой славы, носящие сегодня на груди отличительный знак, свято чтут заповедь своих предшественников — «гвардия не сдается и не отступает».