ตามตำนานอุรังคธาตุ กล่าวว่า ท้าวพญาทั้งห้าผู้เป็นใหญ่ ได้แก่พญาสุวรรณภิงคาร เจ้าเมืองหนองหานหลวง พญาคำแดง เจ้าเมืองหนองหานน้อย พญาจุลณีพรหมทัต เจ้าเมืองจุลนีพรหมทัต พญาอินทรปัตถ์ เจ้าเมืองอินทปัตถนคร และพญานันทเสน เจ้านครศรีโคตรบูรณ์อันเป็นที่ตั้งของพระธาตุ ได้สร้างอูบมูงขึ้นเพื่อประดิษฐานพระอุรังคธาตุ ตามพุทธพยากรณ์ โดยก่อสร้างด้วยดินดิบ (อิฐดิบ) ฐานพระธาตุพนมได้ขุดลงไปจนเป็นอูบมุง (อุโมง) เพื่อบรรจุพระบรมสารีริกธาตุ กระดูกส่วนหน้าอก เมื่อก่อด้วยดินดิบเสร็จแล้ว จึงได้ก่อไฟเผาพระธาตุเป็นเวลากว่าหลายวัน อิฐจึงได้แห้งสนิทจรดกัน ในพระธาตุพนม บรรจุพระอุรังคธาตุ (กระดูกส่วนหน้าอก) ของพระพุทธเจ้า ซึ่งประมาณ พ.ศ. 8 พระอุตรเถระและพระโสณเถระ สมรทูตของพระเจ้าอโศกมหาราช ได้อัญเชิญมา และพระมหากัสสปะเถระได้นำมาประดิษฐานไว้บนภูกำพร้า ได้รับการบูรณะปฏิสังขรณ์ พระธาตุพนมได้รับการบูรณะและอุปถัมภ์โดยกษัตริย์แห่งล้านช้าง

• พ.ศ. 2223-2225 และเป็นรูปแบบที่นิยมในอีสาน
• พ.ศ. 2233 พระครูโพนเสม็ด (ญาคูขี้หอม) ปฏิสังขรณ์พระธาตุให้สูงขึ้น
• พ.ศ. 2483 รัฐบาลได้บูรณะให้สูงขึ้น
• พ.ศ. 2518 องค์พระธาตุพนมชำรุดล้มลง ทางราชการได้ดำเนินการก่อสร้างขึ้นใหม่ ให้คงสภาพเดิม
• พ.ศ. 2522 การบูรณะโดยภาครัฐและเอกชน

เมื่อปี พ.ศ. 2485 วัดพระธาตุพนมฯ ได้รับการยกฐานะเป็น พระอารามหลวงชั้นเอก ชนิดวรมหาวิหาร" ในวันที่ 11 สิงหาคม พ.ศ. 2518 เวลา 19.38 น. ด้วยเหตุที่มีฝนตกพายุพัดแรงติดต่อมาหลายวันและความเก่าแก่ขององค์พระธาตุ พระธาตุพนมจึงได้ล้มทลายลงมาทั้งองค์ ประชาชนทั้งประเทศได้ร่วมบริจาคทุนทรัพย์และรัฐบาลได้ก่อสร้างองค์พระธาตุขึ้นใหม่ตามแบบเดิม การก่อสร้างนี้เสร็จสิ้นเมื่อวันที่ 23 มีนาคม พ.ศ. 2522 นอกจากจะบรรจุพระบรมสารีริกธาตุในองค์พระธาตุดั่งเดิมแล้ว ยังมีของมีค่ามากมายนับหมื่นชิ้นบรรจุและประดับไว้ในองค์พระธาตุอีกด้วย โดยเฉพาะฉัตรทองคำบนยอดพระธาตุ ซึ่งมีน้ำหนักมากถึง 110 กิโลกรัม

ในพ.ศ.8 พระอุตรเถระและพระโสณเถระ พระเจ้าอโศกมหาราช ยังไม่ประสูติเลยพระเจ้าอโศกมหาราช (เทวนาครี: अशोकः, อังกฤษ: Ashoka the Great; พ.ศ. 240 - พ.ศ. 312 ครองราชย์ พ.ศ. 270 - พ.ศ. 311) ทรงเป็นจักรพรรดิแห่งจักรวรรดิโมริยะ ผู้ปรีชาสามารถพระองค์สุดท้ายของราชวงศ์ ทรงปกครองแคว้นมคธ มีพระราชธานีชื่อว่า ปาฏลีบุตร (ปัจจุบันเรียกว่า ปัฏนะ Patna) ทรงเป็นพระโอรสของพระเจ้าพินทุสารแห่งราชวงศ์โมริยะ พระมารดานามว่าศิริธรรม พระเจ้าอโศกมีพระโอรส และธิดา 11 พระองค์

ใครว่าพระอุตรเถระและพระโสณเถระ สมรทูตของพระเจ้าอโศกมหาราช ได้อัญเชิญพระอุรังคธาตุมานั้นไม่จริง เพราะระยะเวลาหากกัน ตั้ง 200 กว่าปีที่ท่านทั้งสองจะเกิด คนที่เป็นคนนำพระอุรังคธาตุมานั้น คือ พระมหากัสสปะ คนเดียวกันกับพระมหากัสสปะเถระที่เป็นประธานทำสังคายนาพระไตรปิฎกครั้งแรก หลังจากที่ท่านทำสังคายนาแล้วจึงได้อัญเชิญพระอุรังคธาตุมาประดิษฐานที่ดอยกปณคีรี หรือภูกำพร้า สมัยก่อนเป็นภูหรือดอย เดี่ยวๆ ที่ราบของภูพานในสมัยก่อนนั้น แม่น้ำโขงเป็นที่สัญจรไปมาของเรือสำเภาที่ไปมาค้าขายของคนอินเดีย จีน หลังจากที่พุทธองค์ได้ตรัสบอกพระมหากัสสปะว่า หลังจากที่เราปรินิพพานไปแล้ว ให้นำพระอุระส่วนหัวอกของเราไปปดิษฐานที่ภูกำพร้า เพราะพระพุทธเจ้าในอดีตหลังจากที่ท่านประรินิพพานแล้วก็ทรงนำเอาพระอุระมาประดิษฐานที่นี่เหมือนกัน เพื่อเป็นที่เทวดา นาค คนธ์ มนุษย์ได้ สักการะบูชา สืบไป ฉะนั้นพระธาตุพนมจึงเป็นพระธาตุที่บรรจุพระบรมสารีริกธาตุที่เก่าแก่ที่สุดในภูมิภาคเอเชียตะวันออกเฉียงใต้และในประเทศแถบสุวรรณภูมิเสียอีก ใครบอกว่าพระเจดีย์ที่เก่าแก่คือ พระปฐมเจดีย์ที่ จังหวัดนครปฐมนั้นไม่จิง และที่พระเจดีที่จังหวัดนครศรีธรรมราชนั้นก็ไม่จิง เพราะพระเจดีย์พ่งเข้ามามีอิทธิพลก็ต่อเมื่อพระพุทธศาสนาได้เข้ามาแล้วแล้วเท่านั้น แต่เจดีย์ทั้งสองพึ่งสร้างในสมัยพระอุตรเถระและพระโสณเถระ ที่พระเจ้าอโศกมหาราช ทรงส่งมาแล้วหรือหากมันคลาดเคลื่อนก็แต่ อาจสร้างหลังจากที่ท่านทั้งสองประดิษฐานพระศาสนาไปแล้วกว่าร้อยปีประมาณนี้ ใครที่บอกว่าพระเจดีย์ที่สร้างในแถบสุวรรณภูมิที่เก่าที่สุดไม่ใช่พระธาตุพนมฯ ข้อมูลนั้นไม่ถูกต้องอย่างแน่นอน หรือนักโบราณคดีนั้นศึกษาไม่เพียงพอหรือมั่วซั่ว เพราะข้อมูลที่เราพบและเอกสารหลักศิลาหรือศิลาจารึกที่เก็บไว้ในพระเจดีย์ ในตอนที่พระธาตุพนมพังลงมานั้น ข้อมูลทุกอย่างสั่นคลอนการศึกษาของนักโบราณคดีไทยและเทศอย่าง จนรับไม่ได้กับการศึกษาที่มีมาก่อนหน้านั้น นักโบราณคดีของไทยมีการศึกษาที่ทำให้ข้อมูลทางโบราณของไทยนั้นเสือมค่าลงมาก จากสิ่งที่มีมานานนับพันปี กลับตีค่าลงมาเป็นแค่วัตถุโบราณที่มีมาไม่เกิน 500 ปีเท่านั้นเอง เป้นไปได้ว่านักโบราณคดีนั้นต้องการให้วัฒนธรรมในแถบอีสานให้กลายเป็นวัฒนธรรมที่เกิดที่หลังในแถบภาคกลางของไทย จริงๆ แล้ววัฒนธรรมโบราณที่เก่าแก่ที่สุดในประเทศไทย คือ วัฒนธรรมในแถบภาคอีสานนั้นเอง ที่นักโบราณคดีไทยไม่ประกาศแบบนันก็เปนเพราะจะไปทำให้ข้อมูลที่ตนเองศึกษามาก่อนหน้านั้นลดความน่าเชื่อถือลง จึงกุข้อมูลที่ไม่จริงหรือบอกข้อมูลที่ตรงลงไปแก่คนที่ไทยที่ไร้วิจารณญาณ