เรือนจำจังหวัดยโสธร เป็นหน่วยราชการบริหารงานส่วนภูมิภาค สังกัดกรมราชทัณฑ์ กระทรวงมหาดไทย เท่าที่ทราบและปรากฏหลักฐานเรือนจำจังหวัดยโสธร สร้างและจัดตั้งขึ้นเมื่อปี พ.ศ.2482 มีฐานะเป็นเรือนจำอำเภอ สังกัดอำเภอยโสธร จังหวัดอุบลราชธานี พัศดีเรือนจำคนแรก คือ ร.ท.ฉุน สุดประเสริฐ ต่อมาเมื่อวันที่ 1 มีนาคม 2515 กระทรวงมหาดไทย ได้ประกาศยกฐานะอำเภอยโสธรขึ้นเป็นจังหวัด เรือนจำอำเภอยโสธรจึงได้รับการยกฐานะ เป็นเรือนจำจังหวัด เมื่อวันที่ 1 มีนาคม 2515

เรือนจำชั่วคราวที่อยู่ในความดูแลของเรือนจำจังหวัดยโสธร มีจำนวน 2 แห่งคือ

1.เรือนจำชั่วคราวบ้านบาก มีพื้นที่ จำนวน 200 ไร่

2.เรือนจำชั่วคราวหัวโล้ มีพื้นที่ จำนวน 24 ไร่ 1 งาน 32 ตารางวา