¿Puede la auditoría inteligente realmente garantizar la seguridad de la red?
No, en la era del big data, sólo la combinación de auditoría automática inteligente y auditoría manual es la única opción para que las empresas realicen auditorías de seguridad del contenido de la red.
En los últimos 10 años, la industria de auditoría de seguridad de contenidos de mi país ha logrado avances evidentes en el reconocimiento de imágenes, el reconocimiento de voz y otras tecnologías relacionadas****, y su tecnología ha ido penetrando gradualmente en la seguridad y el Internet de las cosas. , robots, finanzas, etc. campos relacionados.
Los métodos de producción de contenidos móviles, fragmentados y descentralizados han planteado nuevas pruebas y requisitos para la gestión y revisión de plataformas. En este proceso, la mayoría de las empresas de Internet dependen demasiado de los algoritmos de inteligencia artificial y la revisión automática. Además, una gran cantidad de contenido en el negocio de revisión de contenido se basa en texto. La comprensión semántica natural puede resolver eficazmente el filtrado de semántica simple. Hay muchas insinuaciones basadas en el contexto y el orden cronológico de los acontecimientos. Es decir, la revisión de AI es difícil de entender. Hasta ahora, la tecnología semántica natural no ha logrado avances importantes. La razón principal es que las computadoras no pueden simular la escalabilidad, relevancia y sincronización de la semántica humana, lo que plantea nuevos desafíos para la auditoría de seguridad de contenidos.
Las empresas representadas por Toutiao fueron castigadas cuatro veces debido a problemas de cumplimiento de contenido y Neihan Duanzi fue cerrada; empresas como Phoenix.com, Kuaishou y Tencent también fueron castigadas en diversos grados debido a problemas de revisión de contenido; Después de eso, empresas de Internet, incluidas Toutiao y Kuaishou, comenzaron a crear o ampliar continuamente equipos de revisión manual a gran escala de más de mil personas, con el propósito de detectar contenido que la IA no haya revisado. Lo que se pierde en la moderación de la IA.
Además de la revisión de texto, que actualmente es una tecnología ampliamente utilizada, la revisión de video también es un negocio popular de revisión de seguridad de contenido. En la revisión de video, los revisores revisarán el contenido en función del contenido relevante, como: en vivo. difundidas, para videos cortos, videos subidos por individuos, etc., las imágenes y audios compuestos de imágenes y audios, así como las imágenes en cuadros, serán verificados uno por uno. El audio también será revisado en busca de violencia, obscenidad, o incluso audio y vídeo no sincronizados.
Hoy en día, varias aplicaciones populares de vídeos cortos, como Douyin, Inke y Kuaishou, han realizado una gran cantidad de revisiones y proyecciones de contenido de vídeo mediante revisión de IA. Se dará prioridad a las imágenes dañinas que contengan sangre grave, horror, pornografía, noticias de actualidad, etc. Sin embargo, aquellas imágenes que no se muestran directamente serán difíciles de revisar únicamente mediante la revisión de IA.
En términos generales, el contenido ilegal existe principalmente en las cuatro direcciones: audio, video, imágenes y texto. Los métodos de revisión e identificación también son universales, pero difieren en la estrategia de configuración de revisión y el grado de indulgencia. Por ejemplo, la imagen determinada se puede configurar para que sea sexy pero no pornográfica, o se puede configurar para que solo tenga caras pero no objetos. La gravedad de la interceptación debe configurarse manualmente. Se requiere mucho trabajo manual a través del trabajo manual asistido por máquina. Revisar el contenido. Para una gran cantidad de contenido simultáneo, se requiere una gran cantidad de revisión manual mediante revisión manual asistida por máquina, en lugar de depender únicamente de máquinas para un filtrado completo.
Por lo tanto, el negocio de revisión de seguridad de contenido es un largo camino por recorrer para todas las empresas de Internet. En la era del big data, solo combinando la revisión automática inteligente con la revisión manual las empresas pueden llevar a cabo la seguridad del contenido. ¡revisar!