¿Por qué los gigantes de Internet no consiguen acabar con los contenidos inapropiados?

Durante sus primeros 20 años de existencia, Internet ha sido considerado como la última gran revolución de la sociedad. Un nuevo espacio global que ha cambiado la manera en la que consumimos bienes y servicios, ha ayudado a derrocar regímenes políticos autoritarios, ha democratizado el acceso a la información y la cultura y ha conectado comunidades y grupos sociales que de otro modo estarían aislados.

Pero en los últimos años, la percepción pública de la Red ha caído en picado. Gran parte de la sociedad ha perdido la confianza en los gigantes de Internet, que han acumulado demasiado poder e influencia y cuyos intereses no siempre se alinean con los del conjunto de la sociedad. Además, los GAFA (Google, Apple, Facebook y Amazon) han llegado a ser tan influyentes que los países de forma individual tienen problemas para enfrentarse a ellos. Por otro lado, los usuarios han visto como a medida que crecían las redes sociales, aparecían espacios de comunicación e intercambio tóxicos; muestras de hasta qué punto las personas pueden llegar a ser ofensivas y antisociales en sus interacciones.

Pero lo cierto es que no se trata de un problema nuevo. La Red no deja de ser un espejo de nuestra sociedad y, a medida que Internet se fusiona con la vida cotidiana, refleja también formas en que las personas se tratan mal unas a otras. Lo que sí es una novedad es la visibilidad y la dimensión; plataformas como Facebook, Twitter o Instagram, que cuentan con millones de usuarios, muchos ocultos tras el anonimato. Un problema que se agrava además con la generalización del acceso de menores que, cada vez más jóvenes, se integran en el mundo digital.

Búsqueda de soluciones

Ahora bien, son muchos los que se niegan a creer que los impulsores de una tecnología capaz de transformar el mundo no puedan hacer nada para evitar estos efectos negativos. La experiencia adquirida por siglos de democracia y estados de derecho, sumada al poder de empresas con miles de trabajadores y brillantes ingenieros y diseñadores, puede emplearse para conseguir que el espacio digital sea más seguro para los internautas y el conjunto de la sociedad.

Es cierto que, dado el volumen de contenidos y el número de plataformas no hay un método mágico que permita erradicar el 100% de los contenidos indeseables. Por no mencionar la dificultad, muchas en ocasiones, de definir límites claros entre lo que es contenido inapropiado y las imágenes que, aunque duras, son un reflejo de la realidad y tienen un valor informativo. Un problema con el que deben lidiar a diario los moderadores (humanos y automáticos) y que puede dar como resultado errores sonados como cuando Facebook eliminó todas las fotos de madres dando el pecho a sus hijos, el etiquetado de obras de arte con desnudos como pornografía o la clasificación errónea de YouTube de vídeos de combates de robots como abuso animal.

Pero eso no impide exigir a estas grandes empresas que utilicen medios suficientes para atajar el problema, algo que hasta ahora no han hecho, al no encontrarle un incentivo económico. Eso implica, por una parte, dedicar recursos humanos (un porcentaje de trabajadores suficientes dedicados al desarrollo de herramientas y a la moderación de contenidos) y, por otra, la aplicación de métodos de moderación automáticos. En este sentido, los avances en el ámbito de la Inteligencia Artificial -en la que todos los GAFA están invirtiendo activamente- pueden suponer un apoyo fundamental en el camino hacia un Internet más seguro para todos.

Fuente: Panda