lo usual es ./configure, luego make, y luego make install
Pero te lo instala de pecho creo... en vez de eso podrías probar esta forma
https://wiki.debian.org/CheckInstall con la que, si todo va bien, te genera un .deb, que luego podés instalar con dpkg... logrando una instalación más limpia
Para más información buscá: cómo compilar en linux
(o cosas similares)
Ahhhh, fijate el archivo INSTALL, tiene instrucciones, etc
PD: He probado y al hacer ./configure me salta que no encuentra LUA.... raro porque si tengo lua 5.2 instalado... así que no sé...
PD2: parece que por ahí hay vlc versión 3.0 versión appimage... quizá te interese probar esa y menos lío...