¿Puede HTML5 personalizar etiquetas?

Esto no es un problema con HTML. Las reglas básicas son las mismas ya sea HTML5 o HTML4. Es solo que las etiquetas y los navegadores no se entienden entre sí. Las etiquetas personalizadas se denominan XML, lenguaje de marcado extensible.

Para HTML5, puedes echar un vistazo a .net. El sitio web chino HTML5 tiene tutoriales y manuales que deberían poder verificar mi afirmación. También hay algunas DEMO más interesantes.

Además si quieres personalizar la etiqueta, ¿cuál es el significado? ¿Cómo quieres que lo interprete el navegador?

Por supuesto, si solo quieres usarlo como marcado en CSS o JS, no hay problema, pero no cumple con los estándares del W3C y no tiene mucho sentido.