На конгреса в Сорбоната през 1894 г. за програмата в Атина са предложени голям брой спортове. Първите официални съобщения за спортните събития, които ще се проведат, включват спортове като футбол и крикет, но тези планове така и не са финализирани и тези спортове не влизат в окончателния списък на Игрите. Планирани са гребане и яхтинг, но се налага да бъдат отменени поради лошото време в планирания ден на състезанието.
Атлетика
Състезанията по лека атлетика бяха с най-много международни участници от всички спортове. Основният акцент беше маратонът, който за първи път се проведе в международно състезание. Спиридон Луис е единственият гръцки шампион по лека атлетика и национален герой. Въпреки че Гърция е била сочена за фаворит за победа в хвърлянето на диск или хвърлянето на топка, най-добрите гръцки атлети завършват непосредствено след американеца Робърт Гарет и в двете дисциплини.
Не бяха поставени световни рекорди, тъй като малко от най-добрите международни състезатели бяха избрали да се състезават. Освен това завоите на пистата бяха много тесни, което затрудняваше постигането на бързи времена в бягането. Въпреки това Томас Бърк от Съединените щати спечели бягането на 100 метра за 12,0 секунди и бягането на 400 метра за 54,2 секунди. беше единственият, който използва "приклекналия старт" (поставяне на коляното на земята), което обърка журито. В крайна сметка му беше разрешено да стартира от "неудобната си позиция".
Колоездене
Състезанията по колоездене се провеждат по правилата на Международната колоездачна асоциация. Състезанията по колоездене на писта се провеждат на новопостроения велодром "Нео Фалирон". Проведено е само едно състезание по шосе - състезание от Атина до Маратон и обратно (87 км).
В състезанията на писта най-добрият колоездач беше французинът Пол Масон, който спечели състезанието за една обиколка по часовник, спринта и 10 000 метра. В състезанието на 100 километра Масон участва като пейсмейкър на своя сънародник Леон Фламенг. Flameng спечели състезанието след падане и след като спря, за да изчака гръцкия си опонент Georgios Kolettis да отстрани механичен проблем. Австрийският фехтовач Адолф Шмал спечели 12-часовото състезание, което беше завършено само от двама колоездачи, а състезанието на шосе спечели Аристидис Константинидис.
Огради
Състезанията по фехтовка се провеждат в зала "Запейон", която е построена с парите, дадени от Евангелос Запас за възраждане на древните олимпийски игри, но дотогава не е била използвана. За разлика от други спортове (в които на Олимпийските игри можеха да участват само аматьори), във фехтовката можеха да се състезават и професионалисти, макар и в отделно състезание. Професионалистите са били считани за джентълмени атлети, също както и аматьорите.
Бяха планирани четири състезания, но състезанието по епе беше отменено по неизвестни причини. Състезанието с рапира е спечелено от французина Еужен-Анри Гравелот, който побеждава на финала сънародника си Анри Кало. Другите две дисциплини - сабя и майсторско рапиране - бяха спечелени от гръцки фехтовачи. Леонидас Пиргос, който печели последното състезание, става първият гръцки олимпийски шампион в съвременната епоха.
Гимнастика
Гимнастиката се провеждаше на игрището на стадион "Панатинайко". Германия изпрати отбор от 11 души, който спечели пет от осемте дисциплини, включително и двете отборни дисциплини. В отборната надпревара на хоризонтална греда германският отбор беше безапелационен. Трима германци добавиха индивидуални титли: Херман Вайнгартнер спечели хоризонталната греда, Алфред Флатов - успоредката, а Карл Шуман, който се състезаваше успешно и в борбата, спечели скока на височина. Швейцарският гимнастик Луи Цутер спечели състезанието на бухалки, а гърците Йоанис Митропулос и Николаос Андриакопулос победиха съответно на халки и на въже.
Стрелба
Състезанието по стрелба се проведе на стрелбище в Калитеа и включваше пет дисциплини - две с пушка и три с пистолет. Първото състезание, с военна пушка, е спечелено от Пантелис Карасевдас, единственият състезател, който уцелва мишената с всичките си изстрели. Второто състезание, за военни пистолети, беше доминирано от двама американски братя: Джон и Съмнър Пейн станаха първите братя и сестри, завършили на първо и второ място в едно и също състезание. За да не злепоставят домакините си, братята решават, че само единият от тях ще се състезава в следващото състезание с пистолет - свободния пистолет. Съмнър Пейн спечели това състезание.
Братята Пейн не се състезаваха в дисциплината 25 метра пистолет, тъй като съдиите установиха, че оръжията им не са от необходимия калибър. В тяхно отсъствие победи Йоанис Франгудис. Последното състезание, свободната пушка, започна в същия ден. Състезанието обаче не беше завършено поради тъмнината и беше финализирано на следващата сутрин, когато Георгиос Орфанидис беше коронясан за шампион.
Плуване
Състезанието по плуване се проведе в открито море. Близо 20 000 зрители се изредиха в залива Зеа край бреговете на Пирея, за да наблюдават състезанията. Водата в залива беше студена и състезателите страдаха по време на състезанията. Имаше три открити състезания (100 метра свободен стил за мъже, 500 метра свободен стил за мъже и 1200 метра свободен стил за мъже), както и специално състезание, отворено само за гръцки моряци, като всички те се проведоха в един и същи ден (11 април).
За унгареца Алфред Хайош това, че състезанието се провежда в един и същи ден, означава, че той може да участва само в две от дисциплините. Той спечели и двете дисциплини, в които плуваше - 100 и 1200 метра свободен стил. По-късно Хайош става един от двамата олимпийци, спечелили медал и в атлетическите, и в артистичните състезания, когато през 1924 г. печели сребърен медал за архитектура. Състезанието на 500 метра свободен стил е спечелено от австрийския плувец Паул Нойман, който побеждава съперниците си с повече от минута и половина.
Тенис
Въпреки че в края на XIX в. тенисът вече е основен спорт, нито един от най-добрите играчи не се явява на турнира в Атина. Състезанието се проведе на кортовете на Атинския клуб по тенис на трева и на терена на велодрума, използван за състезанията по колоездене. Джон Пий Боланд, който печели състезанието, е включен в състезанието от свой състудент в Оксфорд. В първия кръг Боланд побеждава Фридрих Траун, обещаващ тенисист от Хамбург, който е бил елиминиран в състезанието по спринт на 100 метра. Боланд и Траун решават да се обединят за състезанието по двойки, в което достигат до финала и побеждават гръцките и египетските си съперници, след като губят първия сет.
Вдигане на тежести
През 1896 г. спортът вдигане на тежести е все още млад и правилата се различават от тези, които се използват днес. Състезанията са се провеждали на открито, в полето на главния стадион, и не е имало ограничения за теглото. Първото състезание се провежда в стил, който днес е известен като "чисто и дръпване". Двама състезатели се отличиха: Шотландецът Лаунсестън Елиът и Виго Йенсен от Дания. И двамата вдигнаха една и съща тежест, но журито с председател принц Джордж отсъди, че Йенсен е направил това в по-добър стил. Британската делегация, незапозната с това правило за равенство, подаде протест. В крайна сметка на атлетите беше разрешено да направят нови опити, но нито един от тях не постигна подобрение и Йенсен беше обявен за шампион.
Елиът спечели в състезанието за вдигане с една ръка, което се проведе веднага след състезанието с две ръце. Дженсън получи лека контузия по време на последния си опит с две ръце и не беше равностоен на Елиът, който спечели състезанието с лекота. Гръцката публика беше очарована от шотландския победител, когото смяташе за много привлекателен. По време на състезанието по вдигане на тежести се случи любопитен инцидент: на един служител беше наредено да махне тежестите, което се оказа трудна задача за него. Принц Джордж му се притече на помощ; той вдигна тежестта и я хвърли с лекота на значително разстояние, за радост на тълпата.
Борба
Състезанието по борба, което се проведе на стадион "Панатинайко", нямаше теглови категории, което означаваше, че ще има само един победител сред състезателите с всякакви размери. Използваните правила са подобни на съвременната гръко-римска борба, въпреки че няма ограничение във времето и не всички хватки за крака са забранени (за разлика от сегашните правила).
С изключение на двамата гръцки състезатели, всички участници преди това са се занимавали с други спортове. Шампионът по вдигане на тежести Лаунсестън Елиът се изправи срещу шампиона по гимнастика Карл Шуман. Последният спечели и се класира на финала, където се срещна с Георгиос Цитас, който преди това беше победил Стефанос Христопулос. Заради тъмнината финалният мач беше прекъснат след 40 минути; той беше продължен на следващия ден, когато на Шуман му беше необходим само четвърт час, за да завърши двубоя.