¿Cuáles son las desventajas del cambio de rostro con IA?
De hecho, han pasado más de uno o dos días desde que apareció esta tecnología, conocida como "deepfake", para cambiar caras automáticamente. Se trata de una herramienta de síntesis de vídeo que se basa en tecnología de inteligencia artificial. Ya en 2014, nació el prototipo de deepfake, "Generative Adversarial Network (GAN)", y en 2016 nació Face2Face, que puede trasplantar la expresión facial de una persona a la cara de otra.
Esta tecnología realmente entró en la conciencia pública gracias a un internauta llamado "deepfakes". En 2017, sintetizó el rostro de una estrella femenina en un video indecente y lo subió al foro de Reddit, lo que causó revuelo. Muchas visitas. Sin embargo, el código de la tecnología de cambio de rostro mediante IA de deepfake ha sido de código abierto en Gitbub, lo que reduce el umbral de aplicación. Por lo tanto, los videos que cambian de rostro siguen siendo populares y muchas figuras políticas y celebridades han sido falsificadas en el extranjero.
La aparición del deepfake, con la ayuda de las potentes capacidades de aprendizaje profundo de la IA, ha reducido considerablemente el umbral técnico y ha permitido el “cambio de rostro automatizado”. El principio general del deepfake se divide en tres pasos: seleccionar el objeto cuya cara se debe cambiar, seleccionar el objeto a cubrir y la IA genera automáticamente el reemplazo.
Dificultades como la extracción de información facial del objeto original, el entrenamiento y la conversión del modelo se pueden resolver mediante el aprendizaje profundo de la IA. Cuantas más fotografías y materiales de video originales se recopilen, más muestras de aprendizaje tendrá la IA y más realistas serán los detalles del reemplazo de la cara. El video realista del incidente del cambio de rostro de Yang Mi probablemente se deba a los ricos datos de imagen de la actriz.
Con el desarrollo de la ciencia y la tecnología, la inteligencia artificial, como los diseñadores de IA, los presentadores de IA y la escritura de IA, están floreciendo en diversas industrias y campos. Con la superioridad de las nuevas tecnologías, vienen con una tendencia imparable. . La innovación tecnológica es apasionante, pero la incontrolabilidad de esta irrealidad también es aterradora.
La tecnología de "cambio de rostro mediante IA" se hizo popular en el extranjero el año pasado. Algunos internautas extranjeros utilizaron un software para reemplazar el rostro de Gal Gadot, el actor de "Wonder Woman", con el protagonista de una película pornográfica. Esto resultó en un video corto que parecía falso y real, lo que atrajo a innumerables internautas a verlo. Posteriormente, muchas actrices populares de Hollywood fueron brutalmente asesinadas, como Scarlett Johansson, Natalie Portman, Emma Watson, etc., quienes fueron reemplazadas por internautas que utilizaron tecnología de "cambio de rostro mediante IA". Honey también es el arsénico de las actrices. Es más, utilizaron los rostros de las compañeras de clase que los rodeaban para hacer vídeos cortos y subirlos. Incluso si los editores eliminan activamente estos "productos", no pueden eliminarse por completo en el mundo desarrollado en línea.
Lo anterior parece que tiene poco que ver con la gente común y hace que la gente piense que no tiene nada que ver con ellos. Eso sería un gran error. El abuso de la tecnología que cambia la cara no solo trae. cuestiones de moralidad y ética, así como cuestiones de seguridad que conciernen a todos. En la actualidad, la tecnología de reconocimiento facial se ha utilizado ampliamente en escenarios como fichar en el trabajo, comprar con reconocimiento facial, pagos, desbloquear teléfonos móviles, detectar infracciones de tránsito, etc., y tiene un gran grupo de usuarios. Si alguien utiliza tecnología de cambio de rostro de inteligencia artificial para cometer fraude en estos campos y el reconocimiento facial no puede identificar la autenticidad, entonces se robará información de privacidad personal, propiedad, etc., y las consecuencias serán inimaginables.
Se informa que dos científicos suizos evaluaron el deepfake y probaron dos sistemas avanzados y de vanguardia de reconocimiento facial: uno es el modelo de clasificación de imágenes VGG de mejor rendimiento y el otro se basa en el algoritmo de Facenet. ¡Los resultados muestran que la tasa de error de la IA al distinguir videos reales y falsos llega al 95%!
Dando un paso atrás, incluso en áreas como el pago, la tecnología de reconocimiento facial ya puede sortear las amenazas que plantea la tecnología de cambio de rostro. La tecnología de "cambio de rostro por IA" ya se puede utilizar en transmisiones en vivo y chats de video. Entonces, ¿qué pasa si un día un estafador usa tu rostro para pedir dinero a tus padres y familiares? El abuso de la tecnología de inteligencia artificial llevará el fraude en línea a un nuevo nivel, y la falla de las capacidades de identificación para mantenerse al día causará pérdidas.
Aunque la gente está bastante preocupada por los riesgos de seguridad que supone el cambio de cara de la IA, esta tecnología todavía juega un papel considerable en la industria de producción de cine y televisión. Después de que la película "Rápido y Furioso 7" sufriera un accidente que involucrara a Paul Walker, para traerlo de regreso, el equipo de filmación utilizó un sustituto + captura de movimiento + animación CGI, utilizando a los dos hermanos menores de Paul como sustitutos, y finalmente Permitió que el público lo volviera a ver en la pantalla grande. Paul Walker evitó el arrepentimiento por la muerte prematura del filme provocado por su repentino fallecimiento.
Además, la tecnología de cambio de rostro de IA también puede ahorrar una gran cantidad de mano de obra y recursos materiales en la etapa de efectos especiales de posproducción y mejorar la eficiencia de la producción.
El desarrollo de la tecnología es como un arma de doble filo. Sólo mediante una supervisión estricta y un uso razonable puede la tecnología promover verdaderamente el desarrollo social y hacer la vida más inteligente y conveniente.