Instagram usa IA para filtrar mensajes ‘tóxicos’
Instagram anunció el pasado jueves que estaba usando inteligencia artificial (IA) para filtrar comentarios desagradables y spam en el popular servicio de fotos compartidas perteneciente a Facebook.
Este movimiento tiene lugar en un momento en el que Facebook y otras compañías de internet trabajan para prevenir mensajes desagradables, discursos que incitan al odio y la difusión de ideologías violentas en sus plataformas.
“Muchos de vosotros nos habéis dicho que los comentarios tóxicos los desalientan a la hora de disfrutar Instagram”, anunció el cofundador y jefe ejecutivo, Kevin Systrom, en un post de su blog.
“Para ayudar, hemos desarrollado un filtro que bloquea ciertos comentarios ofensivos en posts y videos”. Dicho filtro se lanzará primero en inglés y eventualmente se irán añadiendo otras lenguas, de acuerdo con Systrom.
Instagram anunció también que su filtro que escanea el spam está diseñado para trabajar en árabe, chino, inglés, francés, alemán, japonés, portugués, ruso y español.
“Nuestro equipo ha estado preparando nuestros sistemas durante un tiempo para reconocer ciertos tipos de comentarios ofensivos y spam de forma que el usuario no tenga que verlos”, añadió.
Mientras que también la semana anterior, Facebook, Microsoft, Twitter y YouTube (Google/Alphabet) crearon el “Foro Mundial de Internet contra el Terrorismo”, en un nuevo avance de estos gigantes de las redes sociales en el combate contra los contenidos yihadistas.
Los cuatro grupos ya habían anunciado una alianza global para combatir contenidos de carácter terrorista, incluyendo la creación de una base de datos compartida.
De acuerdo a estas compañías, “al trabajar juntos, compartiendo las mejores herramientas tecnológicas y de organización, podemos tener un mayor impacto en la amenaza que representan los contenidos terroristas online”, se puede leer en el blog. (I)
