AI Snake Oil: Por Qué el Hype Está Superando la Realidad

¡Pasen, pasen, damas y caballeros, a presenciar la cura milagrosa de nuestro tiempo: la Inteligencia Artificial! Resolverá todos sus problemas, escribirá sus informes, hará su café y predecirá qué calcetines usará mañana. ¿O no?

La reciente discusión sobre la "aceite de serpiente" de la IA, por Arvind Narayanan y Sayash Kapoor, me recuerda a los vendedores de elixires del siglo XIX—charlatanes que cortaban serpientes, hervían pociones y vendían una cura milagrosa que no hacía absolutamente nada. Al igual que estos vendedores de antaño, el hype de la IA moderna a veces promete lo imposible. Pero en lugar de pociones, nos venden algoritmos, y en lugar de ferias, nos los venden en salas de juntas y conferencias. La charla, "AI Snake Oil: Separating Hype from Reality", y el reciente libro del mismo nombre, son una llamada de atención. Son una forma de mirar más allá de las palabras rimbombantes y ver la IA tal como es: una mezcla de verdadera magia y marketing astuto.

La Gran Ilusión de la IA

Narayanan y Kapoor explican que la IA, en su forma actual, suele ser retratada como la solución para todo y para casi todos, desde decisiones de contratación hasta la moderación en redes sociales. Por ejemplo, se presenta a las IAs de contratación como guardianes imparciales, asegurando una meritocracia pura. Pero, ¿qué son en realidad? No más que elaborados generadores de números que seleccionan candidatos al azar a los ojos de los saturados departamentos de recursos humanos. Estas IAs no están eliminando los sesgos; en cambio, los están reempaquetando en envoltorios algorítmicos misteriosos en los que algunos confían ciegamente. Es como pedir consejo a una bola mágica encantada para elegir a tu próximo director general o a tu siguiente pareja sexual.

Tomemos la moderación de contenido en redes sociales, por ejemplo. Mark Zuckerberg, en 2018, hizo que la IA pareciera ser la solución al caos de Facebook, como un superhéroe que nos salvaría de los trolls, la desinformación y las controversias de la Niña del Napalm. Pero aquí está la verdad: las máquinas realmente pueden detectar desnudos en una imagen o filtrar ciertas palabras con bastante precisión, pero ¿decidir si esa imagen es importante para la conciencia pública? Eso sigue siendo un problema muy humano—y uno que no podemos simplemente automatizar.

A las Instituciones Les Encanta la IA (Aunque Falle)

¿Por qué las instituciones fallidas aman la IA? Es simple—la IA da una sensación de control, una pátina de competencia de vanguardia. Consideremos a los gobiernos, que a menudo saltan a la posibilidad de la IA como panacea para cada problema: desinformación, bienestar social, educación, clima. La realidad es que tratar los desafíos políticos y sociales como problemas técnicos desvía el enfoque de soluciones reales. La IA es atractiva para la burocracia porque hace que los problemas difíciles parezcan resolverse con una línea de código, en lugar de debatir arduamente.

Contraatacando el "Aceite de Serpiente" de la IA

¿La solución? Entender los límites de la IA. Narayanan y Kapoor son en realidad optimistas sobre el futuro de la IA—cuando se usa correctamente. Sugieren que funciona de maravilla cuando se aplica a problemas bien definidos y acotados, como el reconocimiento de imágenes o la optimización logística. Sin embargo, es menos confiable cuando le pedimos que aborde cuestiones que involucran ética, valores sociales o incluso el sentido común.

Reconozcamos la IA por lo que es—una herramienta poderosa, sí, pero no un milagro. La lección de los viejos vendedores de aceite de serpiente es cuestionar la pocima mágica. Si suena demasiado bueno para ser verdad, probablemente lo sea. Es hora de dejar el espectáculo y enfocarnos en lo que realmente funciona.

Nota

Deje la imagen con los errores clásicos que comente en los textos la AI Generativa para resaltar que esta todavía no es perfecta (aunque tampoco lo humanos lo somos).

Referencia: Basado en el libro y charla "AI Snake Oil: Separating Hype from Reality" de Arvind Narayanan y Sayash Kapoor. Puedes leer más en TechPolicy.Press.