Vargas comenzó su carrera como futbolista en las divisiones menores del Club Universitario de Deportes del Perú. Por recomendaciones de Luis Salhuana (padre de otro juvenil crema), llegó a las filas del Unión Minas de Cerro de Pasco, dirigido en ese entonces por Roberto Mosquera. En este equipo nunca viajó a provincias, jugaba con los juveniles del conjunto cerreño y decidió retirarse del cuadro provinciano debido a la mala situación económica y futbolística del club minero.
En el año 2002 regresó a la «U», aunque no llegó a tener muchas oportunidades de jugar debido a la presencia de experimentados futbolistas que tenía el cuadro estudiantil, donde destacaban José Guillermo del Solar, José Luis Carranza, Oscar Ibáñez, José Pereda, Martín Vilallonga, entre otros. La situación del club era complicada tanto en lo futbolístico como en lo económico, hasta el punto que los futbolistas profesionales decidieron irse a la huelga y la dirigencia decidió recurrir a los juveniles.
De esta forma, Juan Vargas debutó oficialmente con Universitario el 24 de noviembre de ese mismo año en un encuentro disputado contra Cienciano en el Estadio Monumental que finalizó con marcador de 3:2 a favor de los cusqueños, pero entre lo más destacable se apreció la actuación de Vargas, quien anotó un gol desde unos cuarenta metros de distancia a los sesenta y dos minutos del encuentro para decretar el empate transitorio. Luego, tuvo la oportunidad de ser titular bajo la dirección técnica del uruguayo Ricardo Ortíz, en la Copa Libertadores 2003, donde el cuadro crema luchó hasta la última fecha pero fue eliminado en la primera fase.