В ранних вещах сохранял традиционную, более натуралистичную палитру, хотя стремился к ритмическим обобщениям форм в духе символизма; с 1908 лейтмотивом его живописи стал образ лошади на фоне пейзажа. Тогда же, к концу 1910-х годов, в переписке со своим другом, художником А.Макке, разработал собственную теорию цвета, где придавал каждому из основных цветов особый духовный смысл (синий воплощал для него «мужское» и «аскетическое» начало, желтый – «женское начало» и «радости жизни», красный – гнет «грубой и тяжелой» материи). В 1911 примкнул к «Новому мюнхенскому художественному объединению», где ведущую роль играл В.В.Кандинский. В том же году Марк и Кандинский вышли из объединения, основав группу «Синий всадник» и выпустив (в 1912) одноименный альманах, украшенный их гравюрами и рисунками.

Зрелые картины мастера посвящены животным, представленным как высшие, более чистые существа по отношению к человеку, который казался Марку слишком безобразным.