Il se rapproche de Brigitte Fontaine  avec qui il collabore à partir du milieu des années 1960. Jacques Higelin habite plusieurs mois chez les Crolla, devenus sa seconde famille. Crolla lui apprend à bien jouer de la guitare et le conforte dans une certaine idée de la vie et de la générosité. Il passe beaucoup de temps chez un disquaire local. Guitariste, il joue dans nombre de cabarets, seul ou pour accompagner d’autres artistes, dont Colette Chevrot .

Il joue également du piano de manière remarquable et sa personnalité énergique lui attire de nombreuses sympathies. En 1964, il retrouve Jacques Canetti grâce à Brigitte Fontaine qui vient d’enregistrer son premier album avec sa maison de production. Jacques Canetti propose à Jacques Higelin d’enregistrer sept chansons de Vian dont certaines alors inédites.

Il lui confie même un texte de Vian qu’Higelin met en musique : Je Rêve. Cette anthologie, Boris Vian 100 Chansons, rassemble des chansons et des textes de Vian interprétés par Serge Reggiani. Pierre Brasseur, Catherine Sauvage, Arlette Téphany, Cécile Vassort, Philippe Clay, Lucienne Vernay , etc…

En 1966, Jacques Higelin enregistre ses premières chansons dont certains textes sont de Marc Moro,   alias Mac Ormor. En juin 1966 , Jacques Canetti ouvre l’un des premiers café-théâtre au Bilboquet, rue Saint-Benoit à Paris où Higelin vient se produire. Il rencontre à cette époque Marc’O, Bulle Ogier, Jean-Pierre Kalfon, Georges Moustaki, Marie-Pierre Casey et beaucoup d’autres artistes. Il travaille notamment avec Brigitte Fontaine (en duo pour Cet enfant que je t’avais fait.

Il apparaît comme un des expérimentateurs de la chanson autour de mai 1968. Avec Brigitte Fontaine et Rufus, La Vieille Grille,  puis au Théâtre des Champs-Elysées, , il crée la pièce Maman j’ai peur, qui obtient un succès critique et public si important qu’elle reste plus de deux saisons à l’affiche à Paris et donne lieu à une tournée européenne en 1969, avec Brigitte Fontaine et son copain de régiment Areski Belkacem. Il joue Niok, entre théâtre et chanson, sur la scène du Lucernaire. 

En 1973, il tourne au côté de Marthe Keller  dans un long métrage de Gérard Pirès: Ellecourt, ellecourt labanlieue , l’histoire d’un jeune couple et de ses déboires dans une banlieue HLM. Le film est tourné à Saint-Nazaire  où Higelin habite.

Bientôt, Higelin se tourne résolument vers le rock avec l’album BBH 75 puis Irradiè,  auquel participe Louis Bergerac, futur guitariste de Téléphone. Avec l’album Alertez les bébés ! où alternent compositions rock et chansons, il reçoit le prix de l’académie Charles-Gros.

Les albums sont populaires et les fans se multiplient. No Man’s Land sort en avril 1977 avec Pars (premier tube), le double album Champagne et Caviar (initialement sorti en deux albums simples : Champagne pour tout le monde, et Caviar pour les autres…), puis l’album en public Higelin à Mogador font de lui l’égal de Bernard Lavilliers ou de Téléphone. Ceux-ci qui à la même époque sortent eux aussi des albums très populaires, Ogringo pour le premier, sorti en janvier 1980, et Crache ton venin, pour les seconds, qui sort le 2 avril 1979.

Cinq mois après Mogador, lors de la victoire de la gauche à l’élection présidentielle, Jacques Higelin et Téléphone donnent un concert le 12 juin 1981 (pour fêter les 65 ans des congés payés), Place de la République à Paris, devant plus de cent mille spectateurs. C’est la toute première apparition d’Eric Sarra bassiste, avec l’artiste sur scène ^]. À part un 45 tours Informulé en public au Cirque d’Hiver, sorti en 1982 dans la discographie d’Amende Altaïl et interprété avec Jacques Higelin, rien ne sortira alors que tout a été enregistré.

Son talent d’improvisateur et son énergie poétique lui donnent une relation particulière avec les spectateurs. Musicalement, il se nourrit de plus en plus de rythmes africains (Nascimo ou plus tard Criez Priez). Il invite Youssou N’ Dour et Mory Kanté, rencontrés quelques mois plus tôt lors d’une tournée en Afrique, à partager la scène de Bercy en septembre 1985.

C’est le début de ce qu’on appellera bientôt la world music.. Jacques Higelin occupera l’espace de la plus grande salle de concert en France (quinze mille spectateurs) avec l’aide de Patrice Chéreau qui s’occupera de la mise en scène. Un grand moment musical même si certains ont critiqué “le côté mégalo de ce pari audacieux” … 

Higelin participe au premier Printemps de Bourge, en 1977,en compagnie de Charles Trenet,  auquel il consacre un spectacle en 2004-2005 :  Higelin enchante Trenet, avec lequel il tourne un an, qui s’achève au Trianon en mars 2005 et dont un DVD témoigne, encore inédit à ce jour.

En 1988, il participe à l’hommage rendu à Léo Ferré  à La Rochelle, où il reprend Jolie Môme.  Dans les années 1990, toujours présent sur scène, son image disparaît progressivement des médias et, avec la crise du disque, il éprouve des difficultés à être produit. En 2003, toujours fidèle à Ferré, il participe à lalbum hommage sorti pour les dix ans de sa distribution’ : c’est encore Jolie Môme qu’il choisit, mais cette fois avec une approche plus intimiste.

Higelin est également présent en 1984 aux premières Francofolies  de La Rochelle, où il revient régulièrement pour des soirées musicales, vivement soutenu par l’animateur de France Inter Jean-Louis Foulquier.  Le 9 février 1992, il participe sur la scène de l’ Olympia, aux côtés de Font et Val, Georges Moustaki, Rufus, Alain Meilland, Jacques Seriziez  et Léo Ferré, à un hommage (présenté par José Arture)  au pianiste Paul Castanier. 

Pour la sortie de son album Coup de foudre  le 22 février 2010, il bénéficie d’une large couverture médiatique, à la télévision, dans la presse (il est rédacteur en chef du quotidien Libération pour un numéro) et à la radio. La sortie de l’album est suivie d’une tournée, avec six dates à Paris, en mars, à la Cigale.  Il retrouve la scène de l’esplanade Saint-Jean d’Acre le 13 juillet aux Francofolies  2010. Le 18 octobre, il fête ses 70 ans au Zénith avec deux de ses enfants, Arture H et  IzÏa

Les 10 et 11 juin, il remplit deux Casino de Paris,  salle où il s’était déjà produit à plusieurs reprises, dont plus de dix dates en octobre 1997. À l’issue du second Casino, Jacques Higelin reçoit un disque d’or. Cette rencontre avec Sandrine Bonnaire donne lieu, l’année suivante, à un reportage, Ce que le temps a donné à l’homme. 

Après des concerts au Zénith de Paris le 26 novembre 2013 ou sur la grande scène des Francofolies de La Rochelle le 10 juillet 2014, le dernier concert de Jacques Higelin a lieu dans la grande salle de la Philharmonie le 24 octobre 2015, avec l’Orchestre National d’Île-de-France dirigé par Bruno Fontaine.

La mort du chanteur survient à l’âge de 77 ans, le 6 avril 2018 à Nogent-sur-Marne. La cause de sa mort n’a alors pas été officiellement révélée. Ses obsèques ont lieu le 12 avril 2018 avec un hommage au Cirque d’Hiver en présence de ses proches.