La IA y la torpe mente humana

Hace unos días leía a Gary Marcus sobre que mucha gente piensa que la mente humana es la apoteosis del conocimiento, y coincido totalmente en que eso no es muy correcto, pues tiene muchos defectos. No dudo que mentes más impresionantes que las nuestras podrían llegar en un futuro con el apoyo de la inteligencia artificial, pero el cerebro jamás será suplantado por una máquina.

Uno de los grandes errores, desde mi punto de vista, es que las empresas, los desarrolladores de IA y los “fans” de esta tecnología piensan que esta herramienta aspira a replicar la mente humana en cada detalle. Hoy en día ya hay ocho mil millones de mentes humanas, muchas de ellas bastante problemáticas, para aspirar a más de lo mismo.

El objetivo de la IA no debería ser replicarnos, sino complementarnos, allí donde somos cognitivamente frágiles (las calculadoras son geniales para eso, y las hojas de cálculo y las bases de datos), y mostrarnos dónde preferiríamos no ir, ayudándonos, por ejemplo, con trabajos que la robótica llama “aburridos, sucios y peligrosos”.

Marcus pone como ejemplo la computadora de Star Trek, la cual no era una réplica de la mente humana, era simplemente todo lo que los LLM pretenden ser: una fantástica hoja de cálculo y base de datos con conocimientos enciclopédicos, amplias capacidades matemáticas, sintéticas e inferenciales, y una interfaz de lenguaje natural espectacular y libre de alucinaciones. Eso es lo que debería ser la AGI: algo que resuelva nuestros problemas (en lugar de crear otros nuevos).

Los humanos son muy buenos en un montón de cosas en las que la IA (al día de hoy) sigue siendo bastante pobre: mantener modelos cognitivos del mundo, inferir semántica del lenguaje, comprender escenas, navegar por el mundo 3D, ser cognitivamente flexible. Sin embargo, también como seres somos bastantes pobres en algunos otros (en los que es fácil imaginar que la IA eventualmente funcione mejor): memoria inestable, autocontrol débil, cálculo limitado y sujeto a sesgo de confirmación, anclaje e ilusiones de enfoque.

No dudo, al igual que Marcus, que con el tiempo seremos capaces de construir máquinas que nos ayuden a razonar críticamente, superar los prejuicios humanos y de manera objetiva, del mismo modo que tenemos calculadoras que escupen sólo los hechos.

Construiremos máquinas que razonen de forma más fiable que nosotros (ya es el caso, pero sólo en circunstancias limitadas) y sinteticen información mucho mejor que nosotros.

Da la casualidad de que aún no hemos llegado a ese punto, dado nuestro conocimiento primitivo de la IA de principios del siglo XXI, y hay mucha confusión sobre ese punto. La brutal verdad es que no se puede razonar de manera confiable si no se pueden mantener modelos cognitivos del mundo, sin importar cuánta memoria o computación se tenga.

Las máquinas están a años luz de los humanos en algunas variables, pero muy por detrás en otras (como la flexibilidad cognitiva y la planificación a largo plazo en situaciones inusuales). En realidad, las máquinas mismas tienen una especie de diversidad cognitiva: cada algoritmo tiene sus propias fortalezas y debilidades, los LLM son excelentes en algunos tipos de coincidencia de patrones, pero pésimos en otros. Las calculadoras son excelentes para las matemáticas de punto flotante, pero generalmente no comparan muchos patrones.

Marcus asegura que es casi seguro que el secreto para crear AGI resida en lograr que algoritmos dispares (por ejemplo, aquellos que funcionan bien con conocimiento simbólico, aquellos que pueden inducir regularidades a partir de cantidades masivas de datos no estructurados, etcétera) funcionen bien juntos. Estoy de acuerdo.

Por ahora, los humanos no somos más inteligentes que las máquinas o viceversa, simplemente tenemos capacidades diferentes. Como dijo una vez Ali G en un contexto diferente, “ninguno de los dos es mejor”. Probablemente podamos mejorar las máquinas si primero dedicamos tiempo a pensar en las mentes humanas (tanto en sus fortalezas como en sus debilidades).

No es una competencia. No es que tengamos aquí una carrera de caballos, en la que los humanos o las máquinas son intrínsecamente mejores. Cuanto antes nos demos cuenta de que los humanos y las máquinas de silicio son muy diferentes, mejor.