Interessen for den moderne billedkunst spillede en afgørende rolle i Ole Sarvigs værker, og inspirationen fra Giorgio de Chirico, Palle Nielsen og Edvard Munch er umiskendelig. Som hos dem fremstiller han mennesket som et fremmedgjort væsen i en modernitet, hvor mennesket har mistet de holdepunkter, som religionen og de mellemmenneskelige forhold tidligere har udgjort. Verdenskrigene har nedbrudt alle grænser for, hvor langt og hvor menneskeheden vil tillade fremskridtet at trænge ind. Vi har tabt troen og erstattet den med en gold materialisme. Denne har kastet mennesket ud i en afgørende eksistentiel krise, og for Sarvig at se, er troen løsningen. Som ganske ung fandt han ud af, at kristendommen var et vigtigt element i hans liv. Samtidig blev det ham dog klart, at folkekirken var for snæver en ramme om hans tro, og han meldte sig ud. Hans tro baserede sig blandt andet på mystiske erfaringer, som han havde haft gennem livet, og ifølge litteraten Torben Brorstrøm var hans litterære forgængere i højere grad mystikerne end modernisterne. Hele Sarvigs værk emmer af en højere virkelighed, som gemmer sig bag den fysiske. Værkernes virkelighed er i høj grad symbolsk eller måske snarere transcendent, og for at finde ind til sandheden, må man på fænomenologisk vis søge at se bagom eller blot søge essensen i den forholdsvis lille mængde af genstande, som gennem hans værk igen og igen optræder i stadig nye konstellationer.
Debutsamling ’Grønne digte’ blev første byggeklods i denne personlige mytologi, hvis motiver gennem hele forfatterskabet vender tilbage igen og igen. Det samlede forfatterskab kan ses som en spiral, der konstant bevæger sig dybere og dybere ned i sin søgen efter dybde. ”Grønne digte” og ”Jeghuset” var dele af en digtkreds, der desuden bestod af de to prosalyriske værker ”Mangfoldighed” og ”legende” samt ”Menneske” der både rummede korte lyriske digte og den længere prosatekst ”Dramaet begynder”. I 1952 kom ”Min kærlighed,” der blev betegnet som en epilog til digtkredsen, der senere kom i udvalg under titlen ”Den sene dag.” I romanen ”Stenrosen” blev et større persongalleri for alvor foldet ud, og Sarvig begyndte her at opleve og skrive igennem andre. Blandt andet har han udtalt, at flere af karaktererne i hans romaner er skrevet over mennesker, som han har kendt, mens digtene nærmest er hans direkte nedskrevne oplevelse af som ung at vandre rundt i krigens København.
Den røde tråd gennem hans forfatterskab er usædvanligt tydelig, og derfor har mange kritiseret hans mangel på udvikling eller udvidelse af sit område. Uanset om de har ret eller ej er det centralt at pege på, at det er en ganske anden bevægelse, der er den centrale bevægelse i Sarvigs forfatterskab, nemlig uddybningen. Den konstante søgen nedad i én bestemt tematik og grundlæggende opfattelse af eksistensen og tiden.