Freno al mal uso de la IA

Después de tres años de negociaciones y más de una década de uso de inteligencia artificial en Europa, el pasado viernes por fin los 27 Estados miembro de la Unión Europea lograron el acuerdo final para crear la primera legislación que regulará esta herramienta tecnológica.

Muchos aseguraban equivocadamente que jamás se lograría tener una regulación a la IA, pues no entienden nada al respecto sobre lo que se busca vigilar. Nunca se ha hablado de poner un alto a la tecnología o frenar su innovación, sino transparentar cómo se usa, bajo qué preceptos se entrena, proteger la data de la ciudadanía y evitar sesgos que afecten a la sociedad desde el punto de vista étnico, religioso, político y económico en la toma de decisiones.

Incluso dan risa aquellos que se comen los discursos de los empresarios, quienes dicen que la reglamentación de la UE ha quedado rebasada en unos meses que se implantó, y abogan por creer que esta herramienta tecnológica es muy inteligente y desplazará a los humanos.

Aunque hay países que no ven del todo con buenos ojos esta ley, como es el caso de Francia, Alemania, España e Italia, pues aseguran que el motivo de su negativa era la cláusula que obligaría a las empresas de IA generativa a publicar los datos utilizados para entrenar su “software” para evitar violaciones de los derechos de autor, lo cierto es que eso va más allá y déjenme explicarles.

Estas naciones llevan varios años usando la IA para la toma de decisiones en aspectos como apoyos sociales, migración, repartición de justicia, seguridad y análisis de reincidencia delictiva. Sin embargo, a lo largo de los años han escondido qué se toma en cuenta para entrenar sus sistemas inteligentes y no transparentan los datos que se eligen para ello. Periodistas, investigadores y organizaciones no gubernamentales han solicitado por años este tipo de información y se les ha negado.

Sin embargo, cuando han logrado obtener información por medio de filtraciones sobre algunos de los procesos de entrenamiento de la IA, han descubierto sesgos importantes que afectan la vida de muchas personas, y pueden analizarlo al leer sobre las plataformas de IA: VioGén, Saler, Veripol, Bosco, RisCanvi, Hermes, Send@ y muchos más en países como España, Francia y Reino Unido. Los “errores” son recurrentes o simplemente entrenan así a la IA para beneficio de algunos. De ahí la importancia de regular este tipo de entrenamientos y transparentar la data.

Hace unas semanas, el gobierno de Emmanuel Macron decía que veía en ese nivel de transparencia una amenaza al florecimiento de startups europeas –como la francesa Mistral AI o la alemana Aleph Aleph– y a su capacidad para competir con aplicaciones como ChatGPT o Bard. “No es una buena idea regular los modelos fundacionales más que otros países”, advirtió en noviembre el presidente francés.

Sin embargo, Francia es una de las naciones que más ha sufrido el acoso de la prensa y de las ONG por el uso de IA contra migrantes, con sesgos que involucran afectaciones sociales por el color de piel, país de residencia, factores religiosos y étnicos.

Alemania e Italia también exigieron un marco normativo menos estricto, pero el Parlamento Europeo rechazó esas presiones. Berlín y Roma decidieron la semana pasada cambiar su postura para facilitar la ratificación del proyecto. Sola y sin apoyos, París optó por respaldarla a regañadientes.

La ley prohibirá los usos de IA que supongan un “riesgo inaceptable”. Es el caso de los sistemas de puntuación social y de la manipulación cognitiva de grupos vulnerables. También establecerá límites más o menos estrictos para otras aplicaciones de esta tecnología en función de sus peligros.

Austria expresó su preocupación por el impacto que la regulación pueda tener en la protección de datos de los ciudadanos europeos, así como por las excepciones que abren la puerta a usar, en casos limitados, sistemas intrusivos como el reconocimiento facial por parte de policía y ejércitos. Como pueden ver, no se habla de frenar la tecnología, como dicen los que se comen los discursos baratos de las empresas que tienen intereses o los falsos profetas, porque están a su merced y se hacen llamar “periodistas”. Todo el trabajo es para transparentar usos y entrenamientos que afecten con sesgos a la sociedad en general. ¿Quiénes son hoy los ilusos que se han tenido que tragar sus palabras?