Canadiens saknade en av sina backklippor, Jeff Petry, i nattens match, vilket betydde mer istid till Gustafsson, som nu spelade 13.13 minuter under 13 byten.
Montreal trejdade till sig Erik Gustafsson från Philadelphia Flyers på trading deadline och en av anledningarna var att man ville ha in en offensiv back till sitt powerplay.
I natt fick man full utdelning, då Erik pricksköt 1-0 från en position mellan tekningscirklarna sedan han inväntat det rätta läget.
Handledsskottet flög in på klubbsidan hos Jetsmålvakten Connor Hellebuyck, som såg ut att vara skymd av ett flertal med- och motspelare framför kassen.
Innan den första perioden var över hade Artturi Lehkonen ökat på till 2-0 och hemmalaget bars fram av de 2500 åskådarna som fått komma in till Bell Centre.
Men Winnipeg tog sig tillbaka in i matchen med två mål under den andra perioden från Logan Stanley.
2-2 stod sig genom den tredje perioden, så matchen gick till förlängning.
Där kom avgörandet redan efter en och en halv minut när rookien Cole Caufield snodde pucken från Andrew Copp och sedan med en hård passning förbi Josh Morrissey och Pierre-Luc Dubois hittade Tyler Toffoli vid den bortre stolpen.
Toffoli hade bara att trycka in pucken i kassen.
En vild kramfest utbröt bland hemmaspelarna på isen och publiken både inne i arenan och utanför dansade och skrek av glädje.
– De 2500 fansen som fanns på läktarna lät som 25000, sa programledaren Kathryn Tappen i tv-studion hos NBC Sports.
Tusentals fans fann på plats utanför Bell Centre och firade avancemanget.
Canadiens har nu i tur och ordning slagit ut Toronto Maple Leafs och Winnipeg Jets.
– Skönt att inte behöva åka tillbaka till Winnipeg och ett femte möte. Jag tycker att vi spelade bra hela matchen. Carey Price var som vanligt säker i kassen, men jag tycker också att vi spelade tajt i egen zon och gjorde bra bedömningar med pucken, säger Erik Gustafsson.
Vad tar ni med er till nästa runda av Stanley Cup?
– Jag tror att vi behöver ta med oss vårt spel utan puck. Vi är täta och släpper inte till mycket. Det kommer at bli viktigt i nästa matchserie.
Spelar det någon roll och det blir Colorado eller Vegas i semifinalen?
– Nej, vi bryr oss inte om vilket lag det blir. Det är två riktigt bra lag, som spelat sjukt bra så här långt. Så det kommer att bli kul oavsett vilka det blir, säger Erik.
Han har på sju matcher i årets Stanley Cup gjort ett mål och två assist och är +3.
Hockeylivet leker för Gustafsson, som tidigare inledde NHL-karriären i Chicago Blackhawks och hamnade i Montreal via Calgary och Philadelphia.
Nu får han och lagkamraterna i Montreal Canadiens några lediga dagar i väntan på Colorado och Vegas ska göra upp om den andra semifinalplatsen på ligans västra halva.
Det står 2-2 i den kvartsfinalen inför tisdagens femte möte, som avgörs i Denver.
