พิพิธภัณฑ์เรือพื้นบ้านแห่งแรกของประเทศไทยตั้งอยู่ภายในวัดยาง ณ รังสี บริเวณศาลาการเปรียญ (หลังเก่า) จัดแสดงเรือพื้นบ้านที่เคยเป็นพาหนะทางน้ำของชาวเมืองลพบุรีกว่า 60 ลำ อาทิ เรือหมู เรือบด เรือกระแชง เรือชะล่า เรือผีหลอก เรือพายม้า เรือมาด เรือสำปั้นหรือสามปั้น เรือเข็มหรือเรือโอ่ เรือยาว เรืออีโปง เรือเอี้ยมจุ๊น ฯลฯ เรือบางชนิดก็ยังคงใช้อยู่จนถึงปัจจุบัน ที่น่าสนใจคือบรรดาเรือหาดูยาก เช่น เรือมาด เรือยาวลำใหญ่ ซึ่งเป็นเรือในสมัยสมเด็จพระนารายณ์มหาราชอยู่ 1 ลำ ส่วนเรือที่หาดูได้ยากที่สุดในประเทศไทย คือ เรือเข็ม, เรือหางเหยี่ยว, เรือชะล่า และเรืออีโปง เป็นต้น คุณค่าของพิพิธภัณฑ์แห่งนี้ยังอยู่ที่ศาลาการเปรียญ (หลังเก่า) ซึ่งเป็นที่ตั้งของพิพิธภัณฑ์เพราะเป็นศาลาการเปรียญไม้ทรงไทย สร้างตั้งแต่ปี 2470 พื้นที่หน้าจั่วด้านหน้าและด้านหลังของศาลาแกะสลักไม้ลายนูนปิดทองประดับกระจกเป็นรูปเทพารักษ์นั่งในซุ้มลายทองสลักเป็นรูปเทพพนมประกอบลายก้านขดมีเครื่องประดับหลังคาเป็นช่อฟ้านาคเลื้อยบันไดด้านทิศใต้และทิศตะวันตกลงศาลาท่าน้ำหลังจากเที่ยวชมพิพิธภัณฑ์แล้วอย่าลืมเข้าไปดูประติมากรรมหินทรายประดิษฐานอยู่ภายในพระอุโบสถของวัดยาง ณ รังสี
