Facebook y su familia de aplicaciones lidiaron durante mucho tiempo con el tema de cómo administrar mejor y erradicar, el acoso en su plataforma, recurriendo tanto a algoritmos como a humanos en sus esfuerzos por abordar mejor el problema. En el último desarrollo, Instagram anunció algunas nuevas herramientas propias.

En primer lugar, introdujo una nueva forma para que las personas se protejan más del acoso en sus mensajes directos, específicamente en las solicitudes de mensajes mediante un nuevo conjunto de palabras, frases y emojis que podrían indicar contenido abusivo, que también incluirá errores ortográficos comunes de esos términos clave, a veces utilizados para tratar de evadir los filtros. En segundo lugar, les brinda a los usuarios la capacidad de bloquear a las personas de manera proactiva incluso si intentan comunicarse con el usuario en cuestión a través de una nueva cuenta.

La función de bloqueo de cuenta se activará a nivel mundial en las próximas semanas, dijo Instagram, y confirmó que la función para filtrar los mensajes directos abusivos comenzará a implementarse en el Reino Unido, Francia, Alemania, Irlanda, Canadá, Australia y Nueva Zelanda en unas pocas semanas antes de estar disponible en más países durante los próximos meses.

En particular, estas funciones solo se están implementando en Instagram, no en Messenger ni en WhatsApp, las otras dos aplicaciones enormemente populares de Facebook que permiten la mensajería directa. El portavoz confirmó que Facebook espera traerlo a Messenger a finales de este año (no se sabe nada en WhatsApp). Instagram y otros publicaron actualizaciones periódicas sobre aplicaciones individuales antes de considerar cómo implementarlas más ampliamente.

Instagram dijo que la función para filtrar los mensajes directos en busca de contenido abusivo se basará en una lista de palabras y emojis que Facebook compila con la ayuda de organizaciones contra la discriminación y el acoso, junto con los términos y emojis que se podría agregar. Y para ser claros, debe activarse de forma proactiva, en lugar de estar disponible de forma predeterminada.

¿Por qué? Más licencia de usuario, al parecer, y mantener las conversaciones privadas si los usuarios así lo desean. “Queremos respetar la privacidad de las personas y darles a las personas el control sobre sus experiencias de la manera que mejor les funcione”, dijo un portavoz, señalando que esto es similar a cómo también funcionan sus filtros de comentarios. Estará en Configuración> Privacidad> Palabras ocultas para aquellos que quieran activar el control.

Hay una serie de servicios de terceros en la naturaleza que ahora están creando herramientas de moderación de contenido que detectan el acoso y el discurso de odio, incluidos los de Sentropy y Hive, pero lo que fue interesante es que las empresas de tecnología más grandes hasta ahora optaron por construir estas herramientas ellos mismos. 

El sistema está completamente automatizado, aunque Facebook señaló que revisa cualquier contenido que se informa. Si bien no guarda los datos de esas interacciones, confirmó que usará palabras informadas para continuar construyendo su base de datos más grande de términos que desencadenarán el bloqueo del contenido y, posteriormente, la eliminación, el bloqueo y la denuncia de las personas que lo envían.

Sobre el tema de esas personas, pasó mucho tiempo desde que Facebook comenzó a ser más inteligente en la forma en que maneja el hecho de que las personas con malas intenciones no perdieron tiempo en la creación de múltiples cuentas para tomar el relevo cuando sus perfiles principales son bloqueados. Las personas se vieron agravadas por esta laguna desde que existen los mensajes directos, a pesar de que las políticas de acoso de Facebook ya prohibieron a las personas contactar repetidamente a alguien que no quiere saber de ellos, y la compañía destacó la reincidencia, que como Facebook lo describe, significa “si la cuenta de alguien está deshabilitada por infringir nuestras reglas, eliminaríamos cualquier cuenta nueva que crearan cada vez que nos enteramos”.

El enfoque de la empresa hacia los mensajes directos fue una especie de modelo de cómo otras empresas de redes sociales los desarrollaron.

En esencia, son abiertos de forma predeterminada, con una bandeja de entrada reservada para contactos reales, pero una segunda para que cualquiera pueda contactarlo. Si bien algunas personas simplemente ignoran ese segundo cuadro por completo, la naturaleza de cómo funciona y está construido Instagram es para más, no menos, contacto con otros, y eso significa que las personas usarán esos segundos buzones de entrada para sus mensajes directos más de lo que podrían, por ejemplo, profundizar en sus bandejas de entrada de spam en el correo electrónico.

Sin embargo, el problema más grande sigue siendo un juego complejo, y no solo sus usuarios están pidiendo más ayuda para resolverlo. A medida que Facebook sigue estando bajo la mirada escrutadora de los reguladores, el acoso, y una mejor gestión del mismo, surgieron como un área clave que se deberá resolver antes de que otros lo resuelvan.

Fuente

Leave a Reply