Медаль «За отличную службу по охране общественного порядка» учреждена Указом Президиума Верховного Совета от 1 ноября 1950 года. В Положение о медали вносились изменения Указами Президиума Верховного Совета от 12 октября 1963 года и 18 июля 1980 года, а в описание медали – Указом Президиума Верховного Совета от 5 сентября 1960 года.
Автор медали – художник П.М. Веременко. Лицевая и оборотная стороны медали по окружности имеют выпуклый бортик.
На лицевой стороне медали, в центре, надпись рельефными буквами в пять строк «За отличную службу по охране общественного порядка». В верхней части медали изображена выпуклая пятиконечная звёздочка. На оборотной стороне медали, в центре, выпуклой формы – герб СССР. В нижней части медали рельефные буквы – СССР (первого образца до внесения изменений).
Медаль при помощи ушка и кольца соединяется с пятиугольной колодочкой, обтянутой синего цвета шёлковой муаровой лентой шириной 24 мм с двумя красными полосками посередине ленты шириной 1 мм каждая и красными полосками по краям ленты шириной 5 мм каждая.
Медалью «За отличную службу по охране общественного порядка» награждались:
За храбрость и самоотверженность, проявленные при ликвидации преступных групп или задержании уголовных преступников;
За смелые, умело проведенные действия по предупреждению готовящихся или раскрытию совершенных уголовных преступлений;
За активную работу по устранению причин и условий, способствующих преступным проявлениям;
За умелую организацию работы органов внутренних дел, частей и подразделений внутренних войск по охране общественного порядка и борьбе с уголовной преступностью;
За безупречное несение службы в органах внутренних дел, в частях и подразделениях внутренних войск;
За активное участие в охране общественного порядка и проявленные при этом храбрость и самоотверженность, активную борьбу с хулиганством, пьянством, хищением социалистической и личной собственности граждан, с нарушениями правил советской торговли, спекуляцией, самогоноварением и другими правонарушениями, приносящими вред обществу.
Медаль получали главным образом сотрудники милиции, военнослужащие ВВ, а также члены ДНД и отдельные граждане за перечисленные выше действия. Награждение медалью производилось приказами Министра ГБ и Министра Внутренних дел, от имени Президиума ВС СССР.
Первые награждения медалью «За отличную службу по охране общественного порядка» состоялись 25 апреля 1951 года. В числе первых награждённых этой медалью были подполковник М.А. Янин, ст. лейтенант милиции А.М. Ведяшкин, мл. сержант О. Баранбаев и др.
Медалью за новые отличия в охране общественного порядка могли награждать повторно.
Всего медалью награждено около 47.000 человек.
Указом Президента РФ № 442 от 02 марта 1994 г. была учреждена медаль «За отличие в охране общественного порядка», которая заменила советскую медаль «За отличную службу по охране общественного порядка».