Первые упоминания о празднике восходят к IV веку. Согласно Священному Преданию христианской церкви, праздник сначали стали отмечать в Риме, епископы записи которого ведут своё преемство от апостола Петра.
29 июня (по юлианскому календарю) 258 года в Риме было совершено перенесение мощей апостолов Петра и Павла. Со временем содержание этого события было утрачено, и день 29 июня стал рассматриваться как день общего мученичества святых Петра и Павла. Об этом пишет Блаженный Августин: «В один день совершаем память страдания обоих апостолов этих, хотя они пострадали в разные дни, но по духу и по близости страданий своих они составляют одно».
Около 324 года, при императоре Константине в обеих столицах Римской империи: в Риме и Константинополе, были построены первые храмы в честь первоверховных апостолов. С этого времени праздник стал особо значимым, великим, а литургия торжественной.
Возвышение праздника не случайно и связывается с тем, что после первых трёх веков преследования христиан, христианство наконец-то обрело статус легальной (разрешённой) религии, и перед христианской церковью встала задача массового обращения в христианство языческого населения огромной империи. Поэтому служение апостолов, как образец проповеди, вышло на первый план у учителей и отцов церкви. В Православной церкви празднику предшествует Петров пост, что лишний раз подчёркивает его важность в годовом богослужебном круге.