La guerra enredada

Videos, fotos, los comandantes supremos haciendo marketing político, noticias falsas. Todo esto y más pasa en las redes sociales sin filtro, sin moderación, tomando bandos. Desde hace años, X (antes Twitter), YouTube, Google, Facebook, Instagram, Telegram y más se han convertido en la vitrina perfecta para que un usuario tome partido o divida conciencias, y nada de esto está regulado. Hoy es Israel contra Hamás, antes fue Rusia contra Ucrania, y podemos ir más para atrás con Hussein y con Gadafi. La primavera árabe.

Para muchos, fue impactante ver en las primeras horas del sábado 7 octubre (en esta parte del mundo) y días subsecuentes los videos sobre matanzas, masacres, violencia escalada y discursos de odio de ambas partes. Y aunque los algoritmos de Facebook están acostumbrados a detectar contenido violento que aparece en sitios administrados por extremistas, no así en personas comunes y corrientes, sin antecedentes de publicar videos violentos.

Esta tragedia revela la profundidad de la crueldad que está teniendo lugar en Israel y la Franja de Gaza esta semana, pero también los desafíos que enfrentan las plataformas de redes sociales en tiempos de guerra.

Las empresas de tecnología tendrán que descubrir cómo identificar el contenido violento y eliminarlo antes de que llegue a miles o millones de personas. Si Facebook, Twitter, YouTube, Twitch, Parler y Telegram tardan horas en eliminar ese material, como ha sido el caso a veces, las organizaciones terroristas tienen prácticamente garantizado un gran número de espectadores de sus acciones bárbaras e inhumanas, y los defensores un pretexto para aplicar la mano de hierro sin pensar en las consecuencias ante los civiles.

Para nadie es ajeno que las organizaciones extremistas llevan mucho tiempo difundiendo videos espantosos con la esperanza de conmocionar al mundo y reclutar seguidores para su causa. Por ejemplo, el sitio de información Brookings recuerda en un comentario que ISIS a menudo grababa decapitaciones y las subía a internet con fines de reclutamiento. Aunque desagradables para los espectadores típicos, tales acciones fueron fructíferas para convencer a miles de personas de viajar desde Estados Unidos, el Reino Unido, Francia y otros lugares del mundo para unirse a esa causa.

Mientras el actual conflicto entre Israel y Hamás se cobra la vida de miles de civiles palestinos e israelíes, en las plataformas de redes sociales se han publicado imágenes, tanto genuinas como fraudulentas, de ataques violentos. Varias de ellas han degradado sus equipos de “confianza y seguridad”, lo que ha exacerbado la dificultad de moderar el contenido violento y combatir la desinformación, si no, pregúntenle a Elon Musk, quien siempre toma partido en estos casos en “pro de la libertad de expresión y de información”.

No sorprende que los terroristas de Hamás registraran sus asesinatos y los publicaran para que muchos los vieran. Querían documentar su ataque y convencer a otros para que se unieran a su movimiento. En la era digital, emboscar a la gente en las primeras horas de la mañana en sus propios hogares, en festivales de música o en la calle no es suficiente para los terroristas. También quieren alcanzar objetivos estratégicos más amplios y, por lo tanto, necesitan documentar sus acciones y presentarlas a un gran número de espectadores. De esa manera, pueden aterrorizar a civiles inocentes en todo el mundo y, al mismo tiempo, reclutar seguidores con un odio similar hacia Israel.

Pero esto ocurre del otro bando también. Ver todos los días videos del primer ministro de Israel, Benjamin Netanyahu, alentando al ataque despiadado olvidándose de las reglas de guerra, es aterrador.

Las empresas de redes sociales tienen algoritmos que son buenos para detectar la violencia, pero deficientes para evaluar los motivos. ¿Cómo pueden distinguir las escenas gráficas que se transmiten de casos históricos o de otro tipo diseñados para informar a la gente sobre atrocidades versus escenas contemporáneas de decapitaciones y matanzas diseñadas para radicalizar a la gente y atraer aliados? Existe un interés legítimo en informar a la gente sobre algunos tipos de violencia histórica y contemporánea y parte de esa educación pública involucra escenas que son de naturaleza horrible o brutal.

Fuimos testigos de esto en la guerra contra Ucrania, por ejemplo, donde videos concientizaron al público sobre la brutalidad premeditada de Rusia. El viejo dicho de que la gente “nunca debe olvidar” las atrocidades significa que es posible que algunos videos gráficos deban estar en línea y disponibles para que la gente los recuerde.

Sin embargo, los algoritmos son terribles a la hora de medir motivos y distinguir videos destinados legítimamente a informar de aquellos diseñados para radicalizar e inflamar las pasiones públicas. Además, la moderación del contenido es vital para luchar contra la desinformación, y eso es algo que no está ocurriendo ahora.