¿Cómo finaliza un ensamblado Win32 un proceso determinado?

1, porque el valor de retorno de GetWindowThreadProcessId no es el ID del proceso, sino el ID del hilo. El ID del proceso es exactamente el ID devuelto por su valor NULL

2, porque el final del proceso no se completa a través de CloseHandle...

Puedes probar OpenProcess después de llamar a TerminateProcess, eax, 0

Se recomienda guardar eax antes de llamar, porque al final seguirá siendo CloseHandle