De todos es sabido que en las Redes Sociales abundan cuentas falsas encargadas de difamar o dañar verbalmente a otros usuarios. Por esta razón, Facebook lleva tiempo dedicado a rastrear y bloquear aquellos contenidos que pueden incitar al odio, ser ofensivos o tener contenido abusivo. La red social ha declarado que esa es su prioridad y no desea que su imagen sea manchada.
Por poner un ejemplo de una de las “malas experiencias” que ha sufrido Facebook, en Nueva Zelanda se transmitió en directo una masacre antimusulmana con una duración de 17 minutos. Ocho meses después, los responsables de la red social por excelencia han decidido implementar Inteligencia Artificial en su software para poder detectar automáticamente este tipo de material y evitar que sea accesible para otros usuarios.
Millones de cuentas eliminadas
Facebook ha logrado eliminar aproximadamente 1.700 millones de páginas durante el primer trimestre del año. El 90% de ellas fueron interceptadas antes de ser activas. Todo esto ha sido posible gracias a las actualizaciones constantes de software y a los algoritmos que detectan e identifican de forma automática el contenido indeseado, aunque es el equipo humano el que ejecuta la aplicación del software.
El director de la red social Facebook, Simon Cross, detalló que este es un reto continuo y, aunque la detección temprana asciende al 90%, lo cierto es que las proclamas de odio o acoso son más difíciles de detectar. Uno de los errores de la Inteligencia Artificial es que puede arrojar falsos positivos o falsos negativos. Es decir, en ocasiones detecta irregularidades cuando no las hay. Por lo tanto, sigue siendo necesaria la mediación humana, aunque el analisis de datos por medio del Big Data y la Inteligencia Artificial cada vez es más decisivo.
Engañar al algoritmo de IA
Engañar a los diferentes tipos de Inteligencia Artificial es relativamente fácil. Por ejemplo, algunas personas se dedicaban a la venta de cannabis e iniciaron un negocio “online” obviando la palabra marihuana para luego pasar a colocar fotos de plantas similares logrando que los usuarios captaran el contexto. Esta es una de las tantas historias que se puede emplear para describir los engaños a la IA.
Por eso resulta necesaria la parte humana, por el conocimiento del contexto (matices, lenguaje coloquial, idiomas minoritarios…). De los 35.000 trabajadores en el ámbito de seguridad de Facebook, 15.000 son los encargados de revisar los contenidos de las publicaciones. Simon Cross admite que “cuanto más se sofistica la tecnología más personal humano precisamos”.
Descubre cómo es la Inteligencia Artificial AlphaZero de DeepMind