Действието се развива по времето, когато Испания тъкмо приключва войната с Франция. Двете страни са се споразумели Дон Карлос, наследникът на испанския престол, да се ожени за Елизабет, дъщерята на френския крал.
Акт I
Дон Карлос иска да види момичето, за което ще се ожени. Той отива във Франция и тайно се присъединява към кралски лов, в който участва Елизабет. Елизабет и нейният паж са отделени от останалите. Карлос я заговаря и ѝ предлага да я заведе у дома. Принцесата го пита за принца, за когото ще се омъжи. Карлос казва, че тя не трябва да се притеснява, защото принцът е добър и влюбен в нея. След това той показва на Елизабет снимка на принца и тогава Елизабет, разбира се, разбира, че това е принцът, с когото разговаря. Двамата изпяват любовен дует.
След това идват испански чиновници и съобщават на Елизабет, че е решено тя да не се омъжва за принца, а да се омъжи за баща му, краля на Испания. Двамата влюбени са разтревожени от тази новина. Тълпата от хора моли Елизабет да се съгласи да се омъжи за испанския крал, за да спре войната. В крайна сметка тя се съгласява.
Второ действие
Дон Карлос отива в манастир, за да може да се успокои в страданието си. Дядо му Карл V е прекарал последните си дни в този манастир. Един монах му говори. Карлос смята, че монахът прилича на дядо му.
Карлос е изпълнен с радост, когато приятелят му Родриге идва. Той току-що се е върнал от Фландрия, където все още се водят много битки. Карлос му разкрива една тайна: че е влюбен в Елизабет, която вече се е омъжила за баща му и следователно е кралица на Испания. Родриге му казва, че трябва да прекарва времето си в помощ на бедните хора във Фландрия. Кралят и кралицата минават покрай гробницата.
Когато кралицата излиза от църквата, тя отива в градината, където я чакат нейните дами. Един пратеник ѝ предава писмо от майка ѝ в Париж, но в същото време тайно ѝ предава писмо от Карлос. Родриге тихо разговаря с Еболи, придворната дама на кралицата, докато кралицата чете писмата. Родриге моли кралицата да се опита да убеди краля да позволи на Карлос да говори с него. Еболи е влюбена в Карлос. Тя е забелязала как Карлос е бил развълнуван, когато е бил в присъствието на кралицата, и смята, че това е така, защото Карлос я обича (Еболи).
Карлос получава възможност да се срещне насаме с Елизабет. Той спокойно я пита дали може да убеди краля да го изпрати във Фландрия. Той обаче не е съвсем спокоен и скоро започва да ѝ се сърди, че не проявява любовни чувства към него. Тя му казва, че това е неин дълг, след като е кралица. Карлос разбира това, но все още е влюбен в нея. Той пада в краката ѝ. Той я сграбчва и ѝ заявява любовта си, но Кралицата се откъсва от него и той се втурва отчаян.
Царете излизат от църквата. Той е много ядосан, че жена му е оставена сама. Казва на прислужницата да си върви. Кралицата я утешава. След това тя и нейните дами си тръгват.
Родриге моли краля да спре да се бори с хората от Фландрия, които все още умират и гладуват. Кралят казва, че те не са били верни и заслужават да бъдат наказани. Той казва на Родриге, че се страхува от това, което се случва между Елизабет и Карлос. Казва му да знае за Инквизицията.
Акт III
В двореца в Мадрид се провежда бал с маски. Карлос чака в градината на кралицата. В градината идва една дама, която носи маска като всички останали. Той си мисли, че това е кралицата, и ѝ казва колко я обича. Когато дамата сваля маската си, той разбира, че това е Ебони. Тя го обвинява, че обича кралицата. В този момент идва Родриге. Той казва на Ебони, че Карлос не е добре и не разбира за какво му говори. Но Ебони не се заблуждава и планира да разруши любовната им връзка.
Втората сцена от действието се развива на площад в Мадрид. Подготвя се авто-да-фе. По време на испанската инквизиция това е церемония, при която всеки, който не е съгласен с Римокатолическата църква, е изгарян до смърт. Влизат монаси, следвани от нещастните хора, които ще бъдат изгорени. Хората пеят за славата на Испания. Появява се крал Филип и повтаря как ще се бори срещу всеки, който е враг на Римокатолическата църква. Шестима души, сред които и Карлос, се появяват и се хвърлят в краката му, молейки го да спре войските си да избиват фламандците. Кралят не иска и да чуе за това. Някои от тълпата подкрепят краля, но други го молят да се смили. Тогава Карлос моли баща си да му позволи да управлява Фландрия вместо него. Кралят не разрешава това, защото осъзнава, че това може да е възможност Карлос и фламандците да въстанат срещу него. Карлос е отчаян. Той вади меча си и казва, че ще спаси Фландрия. Тълпата е ужасена да го види да се държи така пред краля. Кралят заповядва на войниците си да отнемат меча от Карлос, но никой не се подчинява. В крайна сметка Родриге (който осъзнава, че това ще бъде лошо за него) спасява положението, като спокойно иска меча от Карлос. Той го предава и Родриге го предава на краля. Монасите процеждат нататък, а глас от небето обещава мир в бъдещия свят.
ActIV
Кралят е сам в църквата. В една прекрасна ария той пее за тъгата си, че жена му не го обича. Влиза Великият инквизитор. Той е много стар и сляп. Кралят му разказва за сина си и пита инквизитора дали Карлос трябва да получи прошка, или да бъде осъден на смърт. Инквизиторът отговаря, че Родриге е този, който трябва да бъде убит. Кралят се осмелява да не се съгласи. Инквизиторът казва на краля, че той не отдава сърцето си на Бога. Инквизиторът си тръгва.
Кралицата се втурва и моли краля да ѝ помогне да потърси ковчеже със скъпоценности, което е изчезнало от стаята ѝ. Кралят ѝ показва, че то е на масата. Той ѝ казва, че трябва да го отвори. Тя го прави. Най-отгоре е портретът на Карлос. Кралят е много ядосан и я обвинява в изневяра. Тя припада. Кралят вика на помощ Еболи и Родриге. Кралят съжалява за подозренията си, но Еболи съжалява още повече, защото именно тя е взела ковчежето, защото е ревнувала Карлос и Елизабет. Именно тя е предложила на краля да погледне в кутията със скъпоценностите. Родриге смята, че може да спаси приятеля си само като предложи да бъде убит вместо Карлос. Кралят и Родриге си тръгват. Ебони се хвърля в краката на кралицата, която вече е оживяла, и признава, че самата тя е виновна за прелюбодейството, защото е спала с краля. Елизабет остава спокойна, но казва на Ебони да се махне завинаги от нея и да заживее в манастир. Когато Ебони остава сама, тя изразява чувствата си на ужасно страдание. Преди да отиде в манастира, тя трябва да направи още едно нещо: да се опита да спаси Карлос от смърт.
Втората сцена от действието показва Карлос в затвора. При него идва Родриге. Той знае, че у него са намерени фламандски писма, адресирани до Карлос. Някой влиза и убива Родриге. Когато умира, той казва на Карлос, че кралицата ще го чака на следващия ден пред манастира и ще го види за последен път. Той умира.
Понякога Четвърто действие завършва тук, но в някои изпълнения продължава със сцена, в която кралят се опитва да върне меча на сина си, но Карлос го обвинява, че е убил приятеля си. Група хора, сред които и Еболи, влизат в затвора и викат към краля да освободи Карлос. Появява се инквизиторът. Той гневно заявява на тълпата, че те са нечестиви, за да вървят срещу Божията воля. Казва на всички да паднат на колене и да се покаят.
Акт V
Елизабет коленичи пред гроба на Шарл V. Тя пее за изгубената си младост във Франция (тук се връща част от музиката от Първо действие). Тя се моли за мир. След това Елизабет и Карлос се срещат за последен път (третият им дует в операта) и си пожелават по-щастливи времена. Кралят и инквизиторът се крият. Сега те се появяват и хващат Карлос. На стражите е казано да го хванат, но Карлос се защитава. Изведнъж се чува гласът на Карл V (или на преоблечен монах). Той отвежда внука си на безопасно място в манастира.
