Para crear un servicio con un ejecutable lo puedes hacer con herramientas de Microsoft o con herramientas de terceros.
Se necesitan dos programas del Kit de recursos, instsrv.exe y srvany.exe; se lanza desde un cmd la línea:
<path>instsrv.exe "Nombre del Servicio" <path>srvany.exe
Ten en cuenta que el programa debe recibir las rutas absolutas de donde deba acceder, ya que al arrancarse como servicio digamos que “desconoce” en qué ruta se encuentra su propio ejecutable, con lo que no sabe manejar rutas relativas.
Otra posibilidad, que a lo mejor te puede valer y es más simple, es lanzar la aplicación en un script de inicio del equipo; se abre el editor de políticas del sistema (gpedit.msc) y se especifica en “Configuración de equipo\Configuración de Windows\Archivos de comandos (inicio/apagado)”. De esta forma se ejecutará, si bien no será un servicio.
Por último, puedes editar el registro para que se lance desde la clave “HKLM\Software\Microsoft\Windows\CurrentVersion\Run”, creando un valor de tipo string (REG_SZ) al que llames como te parezca y que contenga la llamada al ejecutable. De esta forma se ejecutará, si bien no será un servicio.
Existen herramientas de terceros que te permiten lanzar aplicaciones como servicios. Aquí pongo enlaces a cuatro de ellas: