ท่านมหาโมคคัลลานะ เป็นบุตรพราหมณ์ผู้เป็นนายบ้านชื่อว่า โกลิตะ มารดาชื่อนางโมคคัลลี แต่เดิมชื่อว่า โกลิตะ ตามโคตรแห่งบิดา และถูกเรียกชื่อเพราะ เป็นบุตรนางโมคคัลลีว่า โมคคัลลานะ พอเข้ามาบวชในพระพุทธศาสนาแล้ว พวกภิกษุเรียกกันว่า พระโมคคัลลานะ ทั้งนั้นท่านเกิดใน โกลิตคามไม่ห่างจากเมืองราชคฤห์
สมัยเป็นเด็กได้เป็นสหายที่รักใคร่กันกับอุปติสสมาณพ ผู้มีอายุคราวเดียวกัน และตระกูลของทั้งสองนั้นมั่งคั่ง สมบูรณ์ด้วยโภคทรัพย์และบริวารเท่า ๆ กัน มีความคุ้นเคยสนิทสนมกันมาตั้งแต่บรรพบุรุษ เมื่อโกลิตมาณพเจริญวัยขึ้นก็ได้ำปศึกษาเล่าเรียนศิลปะด้วยกันกับอุปติสสมาณพ แม้จะไปเที่ยวหรือไปทำธุระอะไรก็มักจะไปด้วยกันอยู่เสมอ
จนกระทั่งเข้ามาบวชในพระพุทธศาสนาก็บวชพร้อมกัน ต่างกันแต่ว่าได้ดวงตาเห็นธรรมครั้งแรกนั้นไม่พร้อมกัน เรื่องราวต่าง ๆ ก่อนอุปสมบทคล้าย ๆ กับพระสารีบุตรตามที่ได้บรรยายมาก่อนหน้านี้
หลังจากอุปสมบทแล้ว ๗ วัน ได้ไปทำความเพียรอยู่ที่บ้านกัลลวาลมุตตคาม แขวงมคธ เกิดความอ่อนใจนั่งโงกง่วงอยู่ พระบรมศาสดาเสด็จไปที่นั่น ทรงสั่งสอน และแสดงอุบายสำหรับระงับความง่วง ๘ ประการ คือ
๑. โมคคัลลานะ เมื่อเธอมีสัญญาอย่างไร ความง่วงนั้นย่อมครอบงำได้ เธอควรทำในใจถึงสัญญานั้นให้มาก จะละความง่วงนั้นได้
๒. หากยังละไม่ได้ เธอควรตรึกตรองพิจารณาถึงธรรมตามที่ตนได้ฟังและได้เรียนมาแล้วด้วยใจของเธอเอง จะละความง่วงได้
๓. หากยังละไม่ได้ เธอควรสาธยายธรรมตามที่ตนได้ฟังและได้เรียนมาโดยพิสดาร จะละความง่วงได้
๔. หากยังละไม่ได้ เธอควรยอนหูทั้งสองข้างและลูบด้วยฝ่ามือ จะละความง่วงได้
๕. หากยังละไม่ได้ เธอควรลุกข้นยืน ลูบนัยน์ตาด้วยน้ำ เหลียวดูทิศทั้งหลาย แหงนดูดาวนักษัตรฤกษ์ จะละความง่วงได้
๖. หากยังละไม่ได้ เธอควรทำในใจถึงอาโลกสัญญา คือความสำคัญในแสงสว่าง ตั้งความสำคัญว่ากลางวันไว้ในใจ ให้เหมือนกันทั้งกลางวันและกลางคืน มีจิตใจแจ่มใสไม่มีอะไรห่อหุ้ม ทำจิตอันมรแสงสว่างให้เกิด จะละความง่วงได้
๗. หากยังละไม่ได้ เธอควรอธิษฐานจงกรม กำหนดหมายว่าจะเดินกลับไปกลับมา สำรวมอินทรีย์ มีจิตไม่คิดไปภายนอก จะละความง่วงได้
๘. หากยังละไม่ได้ เธอควรสำเร็จสีหไสยาสน์ คือนอนตะแคงเบื้องขวา ซ้อนเท้าเหลื่อมกัน มีสติสัมปชัญญะ ตั้งใจว่าจะลุกขึ้น พอเธอตื่นแล้วควรรีบลุกขึ้น ด้วยการตั้งใจว่าจะไม่ประกอบสุขในการนอน จะไม่ประกอบสุขในการเอนหลัง จะไม่ประกอบสุขในการเคลิ้มหลับ
ครั้นตรัสสอนอุบาย สำหรับระงับความง่วงอย่างนี้แล้ว ทรงสั่งสอนให้สำเหนียกอย่างนี้ว่า "เราจักไม่ชูงวง (คือการถือตัว) เข้าไปสู้ตระกูล จักไม่พูดคำที่เป็นเหตุให้คนเถียงกัน เข้าใจผิดต่อกัน และตรัสสอนให้ยินดีด้วยที่นั่งที่นอนอันเงียบสงัด และควรเป็นอยู่ตามลำพังสมณวิสัย
เมื่อตรัสสอนอย่างนี้แล้ว พระโมคคัลลานะกราบทูลถามว่า "โดยย่อข้อปฏิบัติเพียงเท่าไร ภิกษุชื่อว่าน้อมไปแล้วในธรรมที่สิ้นตัณหา มีความสำเร็จล่วงส่วนเกษมจากโยคะธรรม เป็นพรหมจารีบุคคลยิ่งกว่าผู้อื่น มีที่สุดกว่าผู้อื่น ประเสริฐสุดกว่าเทวดาและมนุษย์ทั้งหลาย
พระบรมศาสดาตรัสตอบว่า "โมคคัลลานะ ภิกษุในธรรมวินัยนี้ไดเสดับแล้วว่า ธรรมทั้งปวงไม่ควรยึดมั่นถือมั่น เธอทราบชัดธรรมทั้งปวงด้วยปัญญาอันวิเศษ ย่อมกำหนดรู้ธรรมทั้งปวงได้ เธอได้ประสบเวทนาอย่างใดอย่างหนึ่ง เป็นสุขก็ดี เป็นทุกข์ก็ดี มิใช่สุขมิใช่ทุกข์ก็ดี เธอพิจารณาเห็นว่าไม่เที่ยง พิจารณาเห็นด้วปัญญาเป็นเครื่องหน่าย เป็นเครื่องดับ เป็นเครื่องสละ คืนในเวทนาทั้งหลายนั้น เมื่อพิจารณาเห็นดังนั้น ย่อมไม่ยึดมั่น ถือมั่น สิ่งอะไร ๆ ในโลกไม่มีความสะดุ้งหวาดหวั่น ย่อมดับกิเลสให้สงบได้ด้วยตนเอง และทราบชัดว่า ชาตินี้สิ้นแล้ว พรหมจรรย์ได้อยู่จบแล้ว กิจที่จะต้องทำได้ทำสำเร็จแล้ว กิจอื่นที่จะทำอย่างนี้อีกมิได้มี ว่าโดยย่อข้อปฏิบัติเพียงเท่านี้แหละ ภิกษุได้ชื่อว่าน้อมไปแล้วในธรรมเป็นที่สิ้นตัณหา"
ท่านพระโมคคัลลานะได้ปฏิบัติตามโอวาท ที่พระบรมศาสดาตรัสสั่งสอน ก็ได้สำเร็จเป็นพระอรหันต์ในวันนั้น
ครั้นได้สำเร็จเป็นพระอรหันต์แล้ว พระโมคคัลลานะได้เป็นกำลังสำคัญของพระบรมศาสดาในการดำเนินกิจการต่าง ๆ ตามที่พระองค์ทรงดำริให้สำเร็จเพราะท่านเป็นผู้มีฤทธิ์มาก จึงได้รับการยกย่องจากสมเด็จพระบรมศาสดาว่า "เป็นผู้เลิศกว่าภิกษุทั้งหลายในทางเป็นผู้มีฤทธิ์" และทรงยกย่องว่าเป็นคู่พระอัครสาวก คู่กันกับพระสารีบุตรในการอุปการะภิกษุผู้เข้ามาบวชในพระธรรมวินัย
ดังกล่าวในประวัติพระสารีบุตรว่า สารีบุตรเปรียบเหมือนมารดาผู้ยังบุตรให้เกิด โมคคัลลานะเปรียบเหมือนนางนมผู้เลี้ยงทารกที่เกิดแล้ว สารีบุตรย่อมแนะนำให้ตั้งอยู่ในโสดาปัตติผล โมคคัลลานะแนะนำให้ตั้งอยู่ในคุณเบื้องบน ที่สูงกว่านั้น ด้วยเหตุนี้จึงมีคำยกย่องว่าพระสารีบุตรเป็นพระอัครสาวกฝ่ายขวา พระโมคคัลลานะเป็นพระอัครสาวกฝ่ายซ้าย
พระธรรมเทศนาของพระโมคคัลลานะไม่ค่อยจะมีที่เป็นโอวาทให้แก่ภิกษุสงฆ์มีเพียงแต่อนุมานสูตร ซึ่งว่าด้วยธรรมินทำให้คนเป็นผู้ว่ายากหรือง่าย ในมัฌิมนิกายกล่าวว่า ท่านพระโมคคัลลานะเข้าใจในนวกรรมคือการก่อสร้าง เพราะฉนั้นเมื่อนางวิสาขามหาอุบาสิกาสร้างบุพพาราม ในเมืองสาวัตถี พระบรมศาสดารับสั่งให้ท่านเป็นนวกัมมาธิฏฐายี คือผู้ควบคุมการก่อสร้าง
ท่านพระโมคคัลลานะ ปรินิพพานก่อนพระบรมศาสดา มีเรื่องเล่าว่า ครั้งเมื่อท่านพำนักอยู่ ณ ตำบลกาฬศิลา แคว้นมคธ พวกเดียรถีย์ปรึกษากันว่า บรรดาลาภสักการะ ทั้งหลายที่เกิดขึ้นแก่พระบรมศาสดาในครั้งนั้น ก็เพราะอาศัยพระโมคคัลลานะ เพราะสามารถนำข่าวในสวรรค์และนรกมาแจ้งแก่มนุษย์ ชักนำให้ประชาชนเกิดความเลื่อมใส ถ้าพวกเรากำจัดพระโมคคัลลานะเสียได้แล้ว ลัทธิของพวกเราก็จะเจริญรุ่งเรืองขึ้น ลาภสักการะต่าง ๆ ก็จะมาหาพวกเราหมด
เมื่อปรึกษากันดังนั้นแล้วจึงจ้างโจรผู้ร้ายให้ลอบฆ่าพระโมคคัลลานะ เมื่อโจรมาท่านพระโมคคัลลานะทราบเหตุนั้นจึงหนีไปเสียสองครั้ง ครั้งที่สามท่านพิจารณาเห็นว่ากรรมตามทันจึงไม่หนี พวกโจรผู้ร้ายจึงได้ทุบตีจนร่างกายแหลกเหลว ก็สำคัญว่าตายแล้ว จึงนำร่างท่าน ไปซ่อนไว้ในพุ่มไม้แห่งหนึ่งแล้วพากันหนีไป
ท่านพระโมคคัลลานะยังไม่มรณะ เยียวยาอัตภาพให้หายด้วยกำลังฌานแล้วเข้าไปเฝ้าสมเด็จพระบรมศาสดา แล้วทูลลากลับปรินิพพาน ณ ที่เกิดเหตุ ในวันเดือนดับ เดือน ๑๒ หลังพระสารีบุตร ๑๕ วัน สมเด็จพระบรมศาสดาได้เสด็จไปทำฌาปนกิจแล้วรับสั่งให้นำอัฐิธาตุ มาก่อเจดีย์บรรจุไว้ ณ ที่ใกล้ประตูวัดเวฬุวัน