Alerta de imágenes falsas

Regulación es la palabra adecuada a utilizar cuando iniciamos una discusión sobre cómo la IA puede ser usada correctamente en diversas industrias. La semana pasada, en una reunión que tuvieron expertos, funcionarios y dueños de empresas en el Congreso de EU, se alertó de los problemas que puede causar esta tecnología de no discutirse oportunamente una normativa de uso. Sólo como ejemplo, platiquemos de lo que pasó el fin de semana pasada cuando imágenes falsas del Popocatépetl circularon en redes sociales, creadas con herramientas digitales, que mostraban una gran fumarola, y que engañaron a miles. Incluso diversos medios la publicaron en sus plataformas digitales, sin hacer el trabajo de reportear si era real. La inmediatez ha hecho nuevamente estragos y la IA ha amplificado el problema.

Desde hace ya unos meses, la plataforma de redes sociales Reddit se ha poblado con imágenes “realistas” de eventos que nunca ocurrieron, como el gran terremoto y tsunami de Cascadia de 2001 y la peste azul en Rusia. Las imágenes se han creado con la ayuda de la plataforma de Inteligencia Artificial Generativa Midjourney, que hace unas semanas saltó a la fama por crear imágenes dramáticas del arresto del expresidente Donald Trump. Estas imágenes se crearon utilizando sólo indicaciones de texto proporcionadas por un usuario y demostraron cuán poderosa se estaba volviendo esta tecnología. Las imágenes fueron posibles con la quinta generación de la IA generativa, mientras que la empresa apenas ha cumplido un año de existencia oficial. Las funciones están disponibles en gran medida para los suscriptores de la plataforma, que acuden a Reddit y Twitter para mostrar de lo que es capaz.

Luego del caso de Trump, un usuario publicó una imagen del Papa con una bata blanca muy fashion, que luego fue compartida en Twitter y muchas personas supusieron que era una imagen real. Si bien éste podría ser un episodio menor que puede pasarse por alto o descartarse fácilmente, algunos usuarios también han creado series de imágenes en torno a eventos que imitan el fotoperiodismo.

Sin formas concretas para distinguir si las imágenes son generadas por IA o no, pueden propagarse muy rápido en las redes sociales y generar pánico entre las personas. Peor aún, las imágenes falsas podrían circular deliberadamente para incitar a la violencia o modificar comportamientos rumbo a las próximas elecciones de Estados Unidos y México.

La necesidad actual es que los expertos en el dominio de la Inteligencia Artificial, gente de la sociedad civil y autoridades se reúnan y descubran formas en las que la tecnología se puede usar de manera creativa sin causar daño a otros. Es probable que a las plataformas les resulte difícil mantenerse al día con la velocidad de la innovación en este campo, y es por eso que la vigilancia para no aceptar algo como real debe permanecer alta, a menos que realmente quieras creer que hubo una peste azul en Rusia.