Петр Иванович родился в Вологде 1 октября 1712 г.
Вскоре семья переехала в Москву. Здесь молодой Рычков обучался иностранным языкам (немецкому и голландскому), бухгалтерии и торговому делу. Службу начал в 1730 году правителем стекольных заводов в Ямбурге под Петербургом. После четырех лет пребывания на заводах он, владевший иностранными языками и бухгалтерией, при содействии И.К. Кирилова был принят на службу в Петербургскую портовую таможню переводчиком и помощником бухгалтера. Затем в 1734 г. по рекомендации и под началом того же Кирилова Петр Рычков приступил к работе в Оренбургской экспедиции, занимаясь поначалу правлением канцелярских дел. С 1737 работает в Оренбургской комиссии под руководством крупнейшего историка и географа В. Н. Татищева.
Судьбе было угодно, чтобы с Оренбуржьем оказался связанным почти 43-летний период его жизни. Полюбив дикий край, Рычков работает увлеченно, много ездит, изучает архивы. Кстати, сегодня архивы, особенно Тургайские, Оренбургские и Екатеринбургские, хранят немало сведений и о его деяниях.
Главными научными трудами П. И. Рычкова, принесшими ему широкую известность, являются «История Оренбургская» и «Топография Оренбургская». В этих трудах П. И. Рычкова собран почерпнутый из различных источников богатый фактический материал по истории народов Южного Урала и прилегающих к нему областей, об их занятиях, быте, взаимоотношениях; обстоятельно освещена деятельность Оренбургской экспедиции; даются справки о строительстве крепостей, переселении русских на Южный Урал и хозяйственном освоении ими этого края, развитии земледелия, имущественном состоянии и повинностях крестьян. Большой интерес представляют собранные Рычковым данные о возникновении яицкого казачества и основании Яицкого городка — первого города на Южном Урале. П.И. Рычков приводит сведения о появлении многих населенных пунктов, указывает даже время сооружения и характер отдельных, наиболее значительных зданий, подробно останавливается при этом на торговле.
В 1741 Рычков возглавил Географический департамент, созданный при Оренбургской комиссии. В 1752 по инициативе П. И. Рычкова группа геодезистов во главе с прапорщиком И. Красильниковым приступает к составлению новой генеральной карты Оренбургской губернии и десяти частных карт. Составление первого атласа края было завершено в 1755.
В качестве пояснительной записки к Атласу Рычков пишет капитальный труд «Топография Оренбургская».
Работая в канцелярии Оренбургского края, Рычков заведовал перепиской своих начальников, выполнял по службе функции бухгалтера, секретаря, помощника губернатора, а порой исполнял и обязанности губернатора. Начальников же в его бытность сменилось немало.
Известно, что такие выдающиеся правители Оренбургского края, как Кирилов, Татищев, Неплюев, относились к Рычкову доброжелательно и тепло. Они ценили его, дорожили им как специалистом, хорошо знавшим край.
Старания М. В. Ломоносова 29 января Академическое собрание присвоило П.И. Рычкову почетное звание члена-корреспондента.
15 (26) октября того же 1777 г. в возрасте 65 лет Рычков умер. Похоронен в селе Спасское близ г. Бугульмы (ныне в составе Татарстана) в сельской церкви. К настоящему времени следы погребения Рычкова не сохранились.