Medan drottning Kristina följde Karl den nionde under livländska fälttågen, föddes Karl Filip på Revals slott år 1601 och var och förblef såsom yngsta barnet städse moderns gunstling. Af sina lärare, J. Skytte och J. Chesnecopherus, inhämtade han goda kunskaper, varande själf af naturen fåordig men djuptänkande, gudfruktig, ärlig, tapper och driftig, stolt både till sinne och utseende. Det var en värdig broder till den store Gustaf Adolf.
Många fruktade framtida oroligheter mellan tvenne bröder af så stora anlag; men några spår efter inbördes afund eller ovilja kunde aldrig upptäckas, ehuru moderns tydliga väld för hertig Karl Filip lätt kunnat reta den äldre brodern.
Då Gustaf Adolf 1621 reste till polska kriget, önskade hertig Karl Filip att åtfölja tåget. Han skref och begärde Axel Oxenstiernas och flera andras förord, föreställande sin brinnande åtrå att tjäna fäderneslandet och på samma gång själf vinna erfarenhet i krigssaker. Många trodde, att han ännu icke lämnat ur sikte den i barndomen honom lofvade ryska kronan och därför önskade att personligen komma till dessa trakter och därstädes göra sig känd. Hans anhållan beviljades, och den unge hertigen utmärkte sig vid Rigas belägring för drift, ihärdighet och mod. Men strax därefter sjuknade han uti Narva. Gustaf Adolf, som stod på hemresan, ville afvakta broderns tillfrisknande, men denne, som visste hvilka angelägna ärenden väntade i Sverige, öfvertalade konungen att afsegla, under föregifvande att sjukdomen icke vore synnerligen svår. (Palmsk. Acta ad historiam regis Gustavi Adolphi II. Personalia öfver hertig Karl Filip.) Strax efter Gustaf Adolfs bortfärd dog hertigen den 25 januari 1622. Hans furstendöme indrogs till kronan, och svenska regeringen har allt sedan följt den grundsatsen att aldrig utdela sådana förläningar. Statsmännen gladde sig att så lyckligt hafva sluppit från de tvenne sista. Det är fara värdt, sade Axel Oxenstierna, att därest hertig Karl Filip blifvit långlifvad, vi för hans skull hade förr eller senare fått en blodbadstuga tillställd i riket.
Tidigt och med ungdomens hela liflighet hade hertig Karl Filip fattat kärlek till fröken Elisabet, dotter af riksskattmästaren Seved Ribbing, och med henne vid aderton års ålder ingått hemligt äktenskap. (Riksark. Genealogica. Elisabet Karlsdotter Gyllenhielms egenhändiga lefvernesbeskrifning; innehåller utdrag ur ett från hertig Karl Filip till kyrkoherden Lars i Tumbo skrifvet bref, i hvilket Elisabet Ribbing kallas hertigens hustru.)
Efter hans död födde hon dottern Elisabet Gyllenhielm, hvilken uppfostrades hos sin farmor, gamla änkedrottning Kristina. Längre fram blef hon gift först med Axel Natt och Dag, sedan med Baltzar Marschalk och utmärkte sig på det fördelaktigaste som hofmästarinna, först hos drottning Maria Eleonora, sedan hos Hedvig Eleonora. Hennes mor, Elisabet Ribbing, gifte sig efter hertigens död med Knut Lilliehöök.