Касым-Жомарт Кемелулы (Кемелевич) Токаев родился 17 мая 1953 года в г. Алма-Ата Казахской ССР (ныне - Республика Казахстан). Его отец, Кемель Токаевич Токаев, – участник Второй мировой войны, был известным казахским писателем. Мать, Турар Шабарбаева, работала в Алма-Атинском педагогическом институте иностранных языков. Токаев происходит из рода кушик племени жалайыр Старшего жуза (группа казахских родов и племен, господствовавших на территории Семиречья и современного Южного Казахстана, а также части современной территории западного Китая и Узбекистана).

После распада Советского Союза Токаев вернулся в Казахстан. В 1993-1994 годах он занимал пост заместителя министра иностранных дел Республики Казахстан, а впоследствии (до октября 1999 года) был главой МИД. 12 октября 1999 года Токаева назначили премьер-министром страны. В январе 2002 года он подал в отставку и впоследствии был назначен государственным секретарем — министром иностранных дел. Должность главы МИД Токаев продолжал занимать до января 2007 года в общей сложности в течение 10 лет (1994—1999, 2002—2007), а затем был избран председателем Сената парламента Республики Казахстан.

Он женат, имеет сына (супруга - Надежда Давыдовна, сын - Тимур (родился в 1984 году)).