Meta pretende aumentar el uso de la inteligencia artificial (IA) en los trabajos de revisión y moderación de contenido en sus aplicaciones y reducir en consecuencia la participación de proveedores externos, tras destacar los resultados que obtienen los sistemas automatizado más avanzados de la compañía en la aplicación de las normas.
La compañía lleva meses probando sistemas de IA avanzados para aplicar de manera proactiva las normas de contenido e identificar el contenido ilegal y más grave en sus plataformas. Según ha compartido en un comunicado, los resultados son «prometedores».
Con esos sistemas, asegura que han detectado y mitigado 5.000 intentos de estafa al día «que ningún equipo de revisión existente había detectado antes». También reducido en más del 80 por ciento las denuncias de usuarios sobre las celebridades más suplantadas, al evitar con la IA que más cuentas suplantaran la identidad de celebridades y otros personajes públicos.
Estos sistemas también han detectado «el doble de contenido que infringe las normas sobre incitación sexual a adultos» que los equipos de revisión, al tiempo que han ayudado a reducir la tasa de errores en más del 60 por ciento.
Asimismo, se han empleado para evitar accesos no autorizados a las cuentas de los usuarios, a partir de la detección de una nueva ubicación o de acciones como el cambio de la contraseña o la modificación del perfil.
La inteligencia artificial también ha detectado sitios web falsos que suplantan direcciones legítimas y ha reducido en un 7 por ciento las visualizaciones de anuncios fraudulentos y otras infracciones graves.
Otro que punto que ha destacado Meta es alcance lingüístico de estos sistemas de IA. Frente a los 80 idiomas que cubrían antes, la IA puede trabajar «en los idiomas que habla el 98% de los usuarios de internet».
Por todo ello, Meta ha compartido que adoptará un «enfoque más inteligente» en los próximos años, a medida que implemente de manera más amplia los sistemas de IA en sus aplicaciones. Esto supondrá una reducción de la dependencia dependencia de proveedores externos de servicios, aunque asegura también «se centrarán en fortalecer» los sistmas internos y su equipo de trabajo.
«Si bien seguiremos contando con personal que revise el contenido, estos sistemas podrán encargarse de tareas más adecuadas para la tecnología, como la revisión repetitiva de contenido gráfico o en áreas donde los ciberdelincuentes cambian constantemente de táctica , como en el caso de la venta de drogas ilícitas o las estafas», ha expuesto la compañía.
La apuesta por la IA no se limita a la moderación de contenido. Este jueves, Meta ha anunciado el asistente de soporte Meta AI en las redes sociales Facebook e Instagram, donde ofrecerá a los usuarios ayuda las 24 horas del día para problemas relacionados con las cuentas, con la capacidad de responder a las solicitudes de los usuarios en menos de cinco segundos.