¿Qué necesitamos para confiar en la inteligencia artificial?

Muy pronto, todo tendrá voz. Tu teléfono ya la tiene, y tal vez también tu altavoz inteligente. Es probable que esas voces sean muy confiables, pero también puede que estén basadas en una mentira.

No va a pasar mucho tiempo antes de que estemos hablando con casi cualquier cosa que tenga un interruptor eléctrico, y todas esas cosas estarán respondiéndonos con una voz humana. En estos casos prácticos y sencillos, si descubrimos que estos asistentes no nos están diciendo la verdad, simplemente dejaremos de usarlos. Pero todos ellos también tienen un incentivo para decirnos una mentira más grande cada vez que hablan: que son como nosotros.

Los asistentes suenan como humanos debido a que sus fabricantes quieren nuestra confianza. Saben que estamos hechos para conectar emocionalmente con voces humanas. También por eso existe la tendencia a que tengan voces femeninas predeterminadas: a nosotros los humanos, al menos en Occidente, esas voces nos parecen más confiables.

Si hubiera resultado que dentro de nuestras preferencias biológicas estuviera el sonido de una rana talentosa, entonces a Siri le habrían puesto la voz de la rana René. No hay que tener fe en la confianza inmerecida.

Además, toda esta humanización no está en consonancia con nuestros intereses reales. Me gustaría poder decirle a Alexa que hablara más rápido y que se saltara los comentarios amables.

De hecho, un dispositivo que habla con una voz plana y acelerada que no está diseñado para otra cosa más que para la transmisión eficiente de información, podría indicar de mejor manera que los intereses de su fabricante concuerdan con los nuestros. No necesitamos que la estufa finja que le importamos.

Tal vez sea demasiado pedir que nuestro dispositivo no intente hablar como un humano desde el primer momento. Sin embargo, conforme las cosas a nuestro alrededor empiezan a competir por captar nuestra atención y confianza hablando con voces humanas falsas, quizás las empresas descubran que es una buena estrategia comercial ofrecernos la opción de ordenarle a nuestros asistentes digitales que hablen como las máquinas carentes de alma que son.

*Autor: David Weinberger es investigador principal en el Berkman Klein Center for Internet & Society de la Universidad de Harvard.

Jbf