汶上的出名，最早是源于94年重建宝相寺的塔基。宝相寺最早建于北魏，后由宋真宗改名为宝相寺当时的考古队无意中发现了藏于地下的地宫，出土了极为稀有的舍利子和佛牙。据报道，光是修葺此处古刹，国家就花费了足足7个亿。塔中还修缮了一条极其壮观的礼佛大道，门前的佛像低眼蹙眉，似乎让这座古塔多了一丝神秘的气息。
宝相寺各处的栏杆都由汉白玉石砌成，红瓦红墙与金色的建筑尖顶融作一体，更是让人感觉到此处佛教气息的浓厚。春日时寺庙旁的迎春伴着温煦的春风盛开，连同此刻的礼佛也多了一丝虔诚的意味。往更深处走，有一处太子灵踪塔。塔从底层往上呈圭形，四个方向设立的龛内也供奉着佛像。此地的佛教气息算是非常纯粹的了。寺内有一博物馆，名为中都博物馆。展厅内列满了汶上挖掘出土的历代文物以及塔里出土的各种圣物。
汶上有一片明清风格的建筑群，当地称为文庙建筑群。单层的绿瓦覆在房顶，曲起的拱顶与四面的屋檐上涂上了各类物鸟兽的彩绘。深处有几座学堂，似乎是旧时授课的场所。东西两侧各有数栋祠堂，院里尽是不同模样的碑匾，几座祠堂边上耸立着几株参天的古树，好有一副书院派的纸墨清香。
另一种具有元代风格的建筑——关帝庙则坐落在汶上县的尚书路上。元代中期，此地长期干旱无雨，此地百姓每日祈求关帝下雨，后来又集资建立了这所关帝庙。关帝庙正门向南，顶铺琉璃瓦，匾幅分明，气势宏伟，古朴庄重。主殿内墙上画着连片的壁画，给这片庄严庙带来了一丝情趣。
自汶上城区往北行至过道，再往前就有一处3A级景区。这个景区名为陈闸村，景区内空气清新，种植了极为丰富的树木花卉。其绿化的面积相比县城内要更为密集。通常每年七、八月份的时候，陈闸村的莲花湖湿地最适合游客们游览观赏，景区内也有农家乐等可以为游客提供餐饮休息等服务，是适合生态旅游的好地方。
汶上白石镇小楼村还有一处不算大的山石，石头上刻着52字的铭文，似乎是南北朝时北齐国之人所刻。其中除了隶书还有楷书，小篆以及行书参杂期间，是当地并不多见的具有极高书法价值的文物。作为不可多得的史料之一，此处也值得旅客前来观赏一番。
