В возрасте 39 лет Джо Кларк стал самым молодым премьер-министром Канады в 1979 году. Фискальный консерватор, Джо Кларк, и его правительство меньшинства потерпели поражение после всего лишь девяти месяцев пребывания у власти из-за недоверия к бюджету увеличения налогов и программных сокращений.
Проиграв выборы 1980 года, Джо Кларк остался лидером оппозиции. Когда Брайан Малруни стал лидером Прогрессивной консервативной партии Канады в 1983 году, а затем премьер Министр в 1984 году Джо Кларк продолжил работу в качестве действующего министра иностранных дел и министра по конституционным Дела. Джо Кларк покинул политику в 1993 году, чтобы работать в качестве международного бизнес-консультанта, но вернулся в качестве лидера Прогрессивной консервативной партии с 1998 по 2003 год.
Джо Кларк начал свою политическую карьеру в качестве директора Организации прогрессивной консервативной партии Альберты с 1966 по 1967 год. Он был специальным помощником консервативного члена парламента Дэви Фултона в 1967 году. Он был исполнительным помощником консервативного члена парламента Роберта Стэнфилда с 1967 по 1970 год.
Джо Кларк был впервые избран в палату общин в 1972 году. Он был избран лидером Прогрессивной консервативной партии Канады в 1976 году и был лидером оппозиции до 1979 года. Джо Кларк был приведен к присяге в качестве премьер-министра Канады после всеобщих выборов 1979 года.
Консервативное правительство было побеждено в 1980 году. Джо Кларк снова был лидером оппозиции с 1890 по 1983 год. Джо Кларк созвал съезд лидера Прогрессивной консервативной партии и потерял лидерство партии перед Брайаном Малрони в 1983 году.
В правительстве Малруни Джо Кларк занимал пост министра иностранных дел с 1984 по 1991 год. Он был президентом Тайного совета и министром, ответственным за конституционные вопросы с 1991 по 1993 год. Джо Кларк не баллотировался на всеобщих выборах 1993 года.
Джо Кларк вернулся в 1998 году как лидер Прогрессивной консервативной партии Канады. Он был переизбран в палату общин в 2000 году. В 2002 году Джо Кларк сказал, что продвинул Прогрессивную консервативную партию настолько, насколько мог. Отставка Джо Кларка с поста лидера Прогрессивной консервативной партии вступила в силу на съезде лидеров в мае 2003 года.