Pochodzi z rodziny polsko-węgierskiej. Studiował polonistykę na Uniwersytecie Warszawskim. Na początku lat 90. XX wieku pracował w Staromiejskim Domu Kultury (SDK) w Warszawie jako organizator imprez literackich i redaktor. Tu też debiutował wydanym przez SDK opowiadaniem Dzień (1989), a później ogłaszał kolejne swoje utwory na łamach pisma „Krzywe Koło Literatury”. Następnie nawiązał współpracę z „Gazetą Wyborczą” jako redaktor działu kultury (1991–2020), a także zamieszczał tam felietony i recenzje. Pracował też jako felietonista i recenzent w innych gazetach i czasopismach, jak „Lampa i Iskra Boża”, „Nowy Nurt” czy „Polityka”, a od 2017 roku współpracuje z magazynem „Newsweek Polska”.
Jego debiutem książkowym był zbiór opowiadań Pijany anioł na skrzyżowaniu ulic (1993), ale w autoryzowanych bibliografiach nieodmiennie podaje, że wszedł do literatury trzy lata później jako autor powieści Chłopaki nie płaczą. Książkę tę zatytułował spolszczoną wersją tytułu przeboju brytyjskiej grupy The Cure Boys don’t cry. I nie jest to przypadek – Varga chętnie odwołuje się do szeroko rozumianej kultury pop. Chłopaki… traktują o grupie przyjaciół, sympatycznych warszawskich yuppies. Ich dni – poza pracą – wypełnione są piciem alkoholu, zażywaniem lekkich narkotyków i podrywaniem atrakcyjnych dziewcząt. Bohaterowie ci – jakkolwiek dobiegają raptem trzydziestki – rozmyślają wiele o przemijaniu, spadku formy fizycznej i nieuchronnej śmierci. I tutaj również nie może być mowy o przypadku, albowiem Varga to bez wątpienia największy hipochondryk współczesnej literatury polskiej. Wątki „psucia się ciała”, starzenia się i znikomości istnienia pojawiają się we wszystkich jego książkach.
Ciekawie pomyślany jest Nagrobek z lastryko (2007), którego akcja zawiązuje się około roku 2070. Bohater przemawiający w tej powieści – wypowiada swój monolog na chwilę przed popełnieniem samobójstwa – próbuje podsumować doświadczenia trzech nieszczęśliwych pokoleń (dziadkowie, matka, on sam). Tak w tej powieści, jak i w dwu kolejnych pisarz dopuszcza do głosu życiowych bankrutów, stawia ich w momentach granicznych, niemal dosłownie na krawędzi. W Alei Niepodległości (2010) jest to Krystian Apostata, niespełniony awangardowy malarz, który opłakuje swój nędzny los i jednocześnie konfrontuje własne dzieje z życiorysem szkolnego kolegi – tancerza i celebryty, człowieka sukcesu na miarę dzisiejszych wyobrażeń o medialnej sławie. Z kolei w Trocinach (2012) mamy do czynienia z porażającym monologiem pięćdziesięcioletniego Piotra Augustyna, przedstawiciela handlowego pracującego dla jednej z warszawskich korporacji. Bohater ten nie lubi nikogo, nawet samego siebie. Ów monolog mizantropa i socjopaty zawiązuje się – jak to u Vargi – w szczególnych okolicznościach: Augustyn zamordował kolegę z pracy, kierując się wyłącznie aberracyjną antypatią.
Temat śmierci i demaskowania prawd powraca w zbiorze dziesięciu opowiadań Egzorcyzmy księdza Wojciecha (2017), operujących ironią i czarnym humorem. Gorycz porażki życiowej powraca w najnowszej książce Śmiejący się pies (2025) będącej monologiem Wojciecha Borsuka skierowanym do jego psa Ziutka, który opowiada o swoim życiu i przemyśleniach.
Życiowi bankruci spowiadający się z własnych klęsk i łajdactw nie pojawią się na kartach tej prozy dlatego, że są postaciami malowniczymi. Za każdym razem pisarz zwraca się ku bardziej uniwersalnej problematyce – tropi przemiany obyczajów, próbuje uchwycić zmieniające się mody i maski, a nade wszystko chce mówić o współczesnej Polsce i samopoczuciu Polaków. Rozliczenie z krajem i własnym życiem widoczne jest w pełni w Dzienniku hipopotama (2020). Pisarz zastanawia się, co by było, gdyby w młodości wyjechał z kraju. „Za późno, za wiele lat tu żyję, na stałe już nie wyjadę, ale po raz pierwszy w życiu wyobrażam sobie, co by się stało, gdybym w 1988 roku został we Francji i nie wrócił do Polski na studia. Zapewne nie zostałbym pisarzem, redaktorem, felietonistą, nie poznałbym ludzi, których tutaj pokochałem i którzy stworzyli moje życie, ale przynajmniej nie byłbym już Polakiem” – podsumowuje z goryczą.
Varga zwrócił się ku węgierskim korzeniom w powieści Bildungsroman (1997). Temat Węgier powraca też w zbiorach esejów Vargi Gulasz z turula (2008), Czardasz z mangalicą (2014) i Langosz w jurcie (2016) poświęconych historii i kulturze tego kraju, węgierskiej mentalności zespolonej z tamtejszą kuchnią, a zwłaszcza o poczuciu odrębności i wyjątkowości Madziarów. Varga oprowadza po węgierskiej rzeczywistości z ogromnym znawstwem i wyczuciem, ale też nie wyrzeka się tego, co – w najbardziej ogólnym ujęciu – określa jego pisarstwo: skłonności do ujęć tragikomicznych, myślenia w kategoriach melancholii, kokietowania pesymizmem, a nawet czarnowidztwem.
Podróże po innych częściach świata zaowocowały zbiorem Ostrygi i kamienie. Opowieści o Normandii, Bretanii i Pikardii (2024). Z kolei felietony publikowane głównie w „Dużym Formacie” wydał w zbiorach Polska mistrzem Polski (2013), Setka (2016) opowiadających o kinie, literaturze, kulturze masowej, polityce i Polakach.
Jest też autorem wielu piosenek na płytach Młodzi (2013) i Pogo (2014) zespołu Dr Misio.
Jego tom prozy 45 pomysłów na powieść. Strony B singli otrzymał Nagrodę Fundacji Kultury. Jego książki trzykrotnie znalazły się w finale Nagrody iterackiej „Nike”: Tequila (2002), Nagrobek z lastryko (2008) i Gulasz z turula (2009; także wyróżnienie przez czytelników). W 2014 został odznaczony przez prezydenta RP Krzyżem Kawalerskim Orderu Odrodzenia Polski.
Oprócz przekładów w osobnych tomach, jego utwory znalazły się także w zagranicznych antologiach i zbiorach, miedzy innymi chorwackich, niemieckich, szwedzkich, tureckich hiszpańskich czy węgierskich.
