Алексей Миронович родился 1 апреля 1925 года в деревне Борок Псковской губернии. Трудовую деятельность начал в 1941 году и работал до ноября 1942 года учетчиком тракторной бригады Кинделинской МТС Чкаловской области.

С ноября 1942 года учился в Рижском, затем Уфимском военном пехотном училище. В связи с началом Орловско-Курской операции 9 июля 1943 года курсантов военного училища отправили на фронт. Началась служба в составе 1-й Московской гвардейской мотострелковой дивизии, входившей тогда в 11-ю армию Брянского фронта. В сентябре 1943 года на Курской дуге, в период ожесточенных боев, гвардии рядовой А. М. Рыбаков был принят в члены ВКП(б).

Потом был Прибалтийский фронт и участие в операции «Багратион» по освобождению Белоруссии. В конце 1943 года Алексей Миронович воевал под Невелем и Новосокольниками, получил ранение и контузию. После лечения в госпитале был демобилизован.

После демобилизации год работал преподавателем математики Студеновской неполной средней школы Чкаловской области. В 1945 году был избран секретарём Железнодорожного райкома ВЛКСМ города Чкалова.

В 1946 году А. М. Рыбаков вернулся в Великие Луки, где поступил на работу инспектором третьего паровозного отделения железнодорожной станции. Учился заочно в Московском техникуме железнодорожного транспорта, который окончил в 1949 году.

С 1948 года А. М. Рыбаков на партийной работе: инструктор отделения дороги, обкома партии, заведующий промышленно-транспортным отделом горкома КПСС, второй секретарь, а с 1966 года первый секретарь Великолукского горкома КПСС. В 1965 году заочно окончил Ленинградский институт инженеров железнодорожного транспорта по специальности инженер-механик.

В ноябре 1971 года А. М. Рыбаков был избран первым секретарём Псковского обкома КПСС, где проработал по июнь 1987 года. Затем был освобождён от этой должности в связи с уходом на пенсию.

А.М. Рыбаков отдал много сил и энергии развитию народного хозяйства области, города Великие Луки. По его инициативе была проведена реконструкция ряда промышленных предприятий, учреждений культуры, здравоохранения.

Избирался депутатом Верховных Советов СССР и РСФСР, областного и городского Советов народных депутатов. Воинское звание — полковник.

После ухода на заслуженный отдых много времени уделял общественной работе, патриотическому воспитанию молодежи. Избран членом Псковского областного совета ветеранов войны и труда. Являлся Председателем Консультативного совета и руководителем кадровой комиссии Псковского обкома КПРФ.

Алексей Миронович Рыбаков был награждён орденом Ленина, орденом Октябрьской Революции, орденом Трудового Красного Знамени, орденом Отечественной войны I степени, орденом «Партийная доблесть», медалями «За отвагу», «За участие в Курской битве», «За освобождение Белоруссии», «В ознаменование 100-летия со дня рождения Владимира Ильича Ленина», «Тридцать лет Победы в Великой Отечественной войне 1941—1945 гг.», «70 лет Победы в Великой Отечественной войне» и еще 5 медалей. Он Почётный гражданин г. Великие Луки, Почётный гражданин г.Гера (Германия).