Jean-Francois Gillet występuje na pozycji bramkarza. Jest zawodnikiem KV Mechelen. Swoją karierę rozpoczynał w Standardzie Liege, gdzie przeszedł przez wszystkie etapy szkolenia. W belgijskiej ekstraklasie zadebiutował w sezonie 1996/1997. W 1999 roku wystepował w AC Monza, skąd rok później trafił do AS Bari. Piłkarzem tego włoskiego klubu był przez 11 lat, z małą przerwą na wypożyczenie do Treviso FC. W 2011 roku został zawodnikiem Bologny FC, ale spędził w niej tylko sezon. W 2012 roku podpisał kontrakt z Torino, skąd trafił do Catanii Calcio. Obecnie jest wypożyczony z tego klubu do KV Mechelen. W barwach narodowych zadebiutował 5 września 2009 roku. Wartość rynkowa tego piłkarza jest szacowana na około 500 tysięcy euro.