כבר מגיל צעיר פיל אוקס התגלה כמוזיקאי מחונן, כילד הוא למד מוזיקה קלאסית וכשגבר החל להתעניין במוזיקה מודרנית ובייחוד במוזיקת רוק אנד רול אמריקאית ובדמויות כמו באדי הולי ואלביס פרסלי שהיו פופולריים כשהיה בחור צעיר.

אוקס גויס לצבא האמריקאי ב-1956, למד במכללה צבאית עד 1958, החל ללמוד באוני' אוהיו ופרש מלימודיו. ב-1959 אוקס גילה התעניינות ניכרת במהפכה הקובנית שהתרחשה לא רחוק מארה"ב, באוני' אוהיו אליה שב כדי ללמוד עיתונות הכיר את האקטיביסט וזמר מוזיקת הפולק האמריקאית ג'ים גלובר שלימד אותו לנגן על גיטרה והכיר לו את אמני הפולק וודי גת'רי ופיט סיגר שהיו בעצמם אקטיביסטים.

לאחר שסיים את לימודיו החל לכתוב מאמרים ביקורתיים עד מאוד שלא פעם נפסלו לפרסום. ב-1962 היגר לניו יורק בה הוא המשיך לנגן, להופיע ולכתוב מאמרים ואף הגדיר את עצמו "עיתונאי מזמר". שיריו נגעו במאבקי עובדים, מאבקים אנטי מלחמתיים ובפרט המאבק נגד מלחמת ויאטנם, זכויות אזרח ועוד. בין אוקס ובוב דילן התקיימה יריבות ידידותית ויצרתית, דילן אמר פעם על אוקס "אני לא עומד בקצב שלו, הוא כל הזמן משתפר"

ב-1967 אוקס היה אמן מצליח וחתם באותה השנה על הסכם עם חברת תקליטים גדולה ואחיו הגדול מייקל היה סוכנו. לאחר הירצחם של מרטין לותר קינג ג'וניור ונשיא ארה"ב ג'ון קנדי, אוקס חש דכדוך תהומי וייאוש מהמצב הפוליטי.

על אף ההצלחה המסחרית של אוקס הוא לא ויתר על דמותו הפוליטית והוא הגדיר את עצמו בהמשך הקריירה "חצי אלביס פרסלי וחצי צ'ה גווארה". ב-1970 אוקס נסע לצ'ילה לאחר היבחרו של הנשיא הסוציאליסט סלבדור איינדה ובאותה הזדמנות הוא נפגש עם הזמר ויקטור חרה תומכו של איינדה.