מנדלה נולד במחוז טרנסקיי ב-18 ביולי, 1918 לראש שבט הקוזה. מנדלה הצעיר בחר ללמוד משפטים. הוא החל את לימודיו בפורט הייר, אולם לאחר שהשתתף בשביתת סטודנטים הושעה מהלימודים וסולק מהמוסד. ב־1940 הוא השלים את לימודיו בהתכתבות, התמחה במשרד עורכי דין ביוהנסבורג ונרשם ללימודי תואר שני במשפטים. במהלך לימודיו עבד מנדלה כשומר אבטחה במכרה זהב ואחר כך כסוכן נדל"ן.
לאחר תחילת משטר האפרטהייד בדרום אפריקה ב-1948, הצטרף מנדלה לשורות הקונגרס הלאומי האפריקאי (
ANC), שביוזמיו המפלגה הקומוניסטית של דרא"פ. מנדלה גם השתתף בהקמת הזרוע הצבאית של הקונגרס. רציחתם של 69 שחורים, בהם נשים וילדים, על ידי כוחות הביטחון של דרום אפריקה במהלך הפגנה נגד חוקי האפרטהייד ב-1960 היוותה את קו פרשת המים. הטבח הוביל לכך שהקונגרס האפריקאי זנח את מדיניות ההתנגדות לאלימות ותחת הנהגתו של מנדלה, שירד למחתרת, החלה הזרוע הצבאית במסע חבלה נגד מתקני תשתית חיוניים של המדינה הגזענית, שבמהלכו נעצרו 8,500 בני אדם.מנדלה עזב את דרום אפריקה וסייר ביבשת השחורה ובאירופה כדי לגייס תמיכה לתנועתו ולעבור אימונים צבאיים. לאחר חזרתו ב-1962, נתפס ונכלא לחמש שנים בגין "הסתה ויציאה בלתי חוקית מהמדינה". ביוני 1964, הוא הואשם בפעילות חבלנית ובקשירת קשר נגד השלטון ונידון למאסר עולם.
מנדלה היה כלוא במשך 27 שנים, מתוכן 18 שנים בכלא הידוע לשמצה באי רובן עד מרץ 1982 ויתרת המאסר בכלא פולסמור שבקייפ טאון. בעודו כלוא הקונגרס האפריקאי שהוצא אל מחוץ לחוק, המשך לפעול ביתר מרץ. אלפים מתו במהלך המאבק במשטר הלבן אך ככל שהממשלה ניסתה למגר את המחאה ביד קשה יותר, כך התגייסו יותר ויותר צעירים לשורות הארגון. הארגון גייס תמיכה בתוך ומחוץ לדרום אפריקה, כולל תמיכתן הבולטת של ברה"מ, סין עממית וקובה, ולצד פעילותו המזויינת, החל לנקוט גם בפעולות כגון הטלת חרם על בתי ספר לשחורים בלבד ובתי עסק של לבנים.
לאחר כמעט שלושה עשורים בכלא, יצא מנדלה מהכלא כאיש חופשי ב-11 בפברואר 1990 לאחר שסרב שינכו זמן ממאסרו על התנהגות טובה. לאחר שחרורו, כתב מנדלה על אותו יום: "בעודי יוצא משערי הכלא, חשתי שאפילו בגיל 71 חיי מתחילים מחדש. עשרת אלפי ימי מאסרי הסתיימו לבסוף". גישה אצילית ומאופקת זו אפיינה את מנדלה גם לאורך השנים שלאחר השחרור. בביקור שערך באי רובן ביום השנה הרביעי לשחרורו, אמר מנדלה כי הוא וחבריו לתא חשו שהקורבן שהקריבו לא היה לשווא.
יומיים אחרי השחרור, שב מנדלה לביתו ולקבלת פנים נרגשת של יותר מ-120 אלף בני אדם, שערכו לכבודו את העצרת הפוליטית הגדולה ביותר בהיסטוריה של דרום אפריקה. שלושה חודשים לאחר מכן, עמד מנדלה בראש משלחת של הקונגרס הלאומי במסגרת השיחות הישירות הראשונות עם נשיא דרום אפריקה דאז פרדריק ודה קלרק ובכירי הממשל הגעני. מנדלה ודה קלרק הובילו יחדיו את דרום אפריקה לפירוק משטר ההפרדה הגזעי ולעריכתן של בחירות דמוקרטיות אמיתיות ראשונות ב־1994, שבהן הותר לראשונה לאזרחים שחורים ובני תערובת להצביע.
על פעילותם זו זכו מנדלה ודה קלרק בשנת 1993 בפרס נובל לשלום. מנדלה, שעדיין האשים את ממשלת דה קלרק בכך שלא עשתה מספיק על מנת לעצור את האלימות הפוליטית והגזענית, הסכים לקבל את הפרס המשותף כמחווה של פיוס.
אחת מפעולותיו הראשונות כנשיא הייתה הקמת ועדת האמת והפיוס בראשות חתן פרס נובל לשלום דסמונד טוטו, אשר חקרה את עוולות תקופת האפרטהייד הן מצד השלטון הלבן והן מצד ארגוני ההתנגדות השחורים תוך מתן חנינה למי שהודה בפשעיו, מתוך ניסיון לאחות את פצעי האומה. תקופת נשיאותו הוקדשה להקמת חברה שוויונית וצודקת, ברוח של איחוד לאומי ופיוס בין בני הגזעים השונים במדינה.
מנדלה קנה את אהדתם של לבנים רבים כשלבש את חולצת נבחרת הרוגבי הלאומית הלבנה של דרום אפריקה במהלך אליפות העולם ב-1995. הוא שימש גם כמתווך במהלך השיחות הישירות הראשונות בין נשיא קונגו (אז זאיר) מובוטו ססה סקו ומנהיג המורדים לורן קבילה ועזר לרסן את האלימות כשקבילה עלה לשלטון.
ביום הולדתו ה-80 , ביולי 1998, התחתן מנדלה בפעם השלישית עם גרסיה מאשל, אלמנתו של נשיא מוזמביק לשעבר ומשחרר ארצו מעול הקולוניאליזם הפורטוגזי, סמורה מאשל. זאת לאחר שבאפריל 1992, התגרש מאשתו השנייה וויני.
לאחר שעזב את הפוליטיקה, הביא מנדלה לחתימה על הסכם חלוקת כוח בין שבטי ההוטסי והטוטסי היריבים. בחייו האישיים, החל מנדלה בשנים האחרונות לנצל את שמו ומעמדו כדי לעמוד בראש קמפיין למאבק באיידס. הוא מרכז את עיקר פעילותו להגברת המודעות למחלה באפריקה, בה כידוע הגיעו ממדי המגיפה לקטסטרופה. כדי לקשר בין המאבק החדש למאבק הוותיק באפרטהייד, לו הקדיש את רוב חייו, תרם מנדלה ככותרת לפרוייקט את מספר האסיר שלו בכלא: 46664. "נפגעי האיידס הם אסירי עולם", הסביר. ב-2002, נכח מנדלה בעצרת האיידס הגדולה בעולם שנערכה בברצלונה. בנוסף, הקים מנדלה שתי קרנות צדקה, "הקרן על שם נלסון מנדלה" ו"הקרן למען הילדים על שם נלסון מנדלה". קרנות אלו תורמות מיליוני דולרים למטרת בניית בתי ספר, מרפאות ומוסדות אחרים בדרום אפריקה.
ב-2004, זמן קצר לפני יום הולדתו ה-86, פרש מנדלה מהחיים הציבוריים ואמר כי "הוא פורש מהפרישה" ומלוח הזמנים המתיש שלו, שכלל אינספור הופעות ציבוריות. בינואר 2005, הכריז מנדלה שבנו הבכור מגתו מת ממחלת האיידס בגיל 54. מאז פרישתו, נהנה מנדלה לבלות בביתו עם משפחתו במחוז הולדתו, אך עדיין ממשיך להופיע בציבור מדי פעם ולהיפגש עם נכבדים ומפורסמים, וממשיך לערוך מסעות לקידום השלום ונגד העוני העולמי.
את חגיגות יום הולדתו ה-90 פתח מנדלה בביקור בלונדון. שיא הביקור היה קונצרט בהייד פארק, בנוכחות המלכה אליזבת השנייה, בו הופיעו הזמרות אנני לנוקס ושירלי בייסי. מנדלה אף התארח בארוחת ערב חגיגית, אליה הגיעו ראש ממשלת בריטניה גורדון בראון, נשיא ארצות הברית לשעבר ביל קלינטון ומלכת תוכניות האירוח אופרה ווינפרי. לכבוד יום הולדתו, הנפיקה דרום אפריקה בול חדש הנושא את דמותו והטביעה מטבע בשווי 5 ראנד שעליו מוטבעת דמותו גם כן.