Columna: La IA… no es tan inteligente
Por Terry Stone de Goldendale
Stone creó este artículo para Michael Sequeira, profesor emérito de Ciencias.
Aquí es donde me posiciono como ex profesional de la informática: la inteligencia artificial (IA) no es inteligencia, al menos no en base a ninguna de las múltiples iteraciones de la prueba de Turing, que es mi referencia para tomar esa determinación.
(La prueba de Turing es una prueba de inteligencia en una computadora que requiere que un ser humano sea incapaz de distinguir la máquina de otro ser humano utilizando las respuestas a preguntas formuladas a ambos).
De hecho, «IA» es un término tan impreciso e incluso engañoso que suelo estremecerme al oírlo. A veces, la IA puede engañar a los humanos, pero nunca se ha demostrado que sea consciente de sí misma, lo cual, en mi opinión, es fundamental para la inteligencia. La IA es muy propensa a errores y a inventar resultados (lo que, eufemística y risiblemente, se denomina alucinaciones; es imposible que simplemente esté «equivocada»).
Curiosamente, en la literatura de ciencia ficción se pueden encontrar representaciones convincentes y precisas de cómo sería la verdadera IA. Una divertida y original idea de IA se narra en el libro La adolescencia de P1, de Thomas J. Ryan. En esta novela, un programa informático adquiere conciencia y se instala en todos los ordenadores conectados a la red del mundo para intentar sobrevivir, con resultados cómicos y caóticos.
Incluso se hace amigo del protagonista. En ¿Sueñan los androides con ovejas eléctricas?, de Philip K. Dick —una novela distópica bastante desconocida que se convirtió en la película de culto Blade Runner—, cazarrecompensas en un Los Ángeles futurista interrogan a los detenidos que sospechan que son androides rebeldes y peligrosos, utilizando una especie de prueba de Turing para intentar desestabilizarlos y hacer que respondan preguntas aleatorias de una manera que ningún humano lo haría. Las escenas se representan con una tensión bastante explosiva en la primera película de Blade Runner.
Tal como se usa en la industria, la IA es un término general, vagamente definido, que abarca un conjunto completo de modelos computacionales de lenguaje extenso (LLM) y predicción numérica (NPM) que vinculan la minería digital de grandes conjuntos de datos con el aprendizaje automático y las redes neuronales digitales. La inteligencia artificial generalmente se divide en tres clases: IA generativa, IA predictiva e IA de moderación de contenido. Considero a las dos últimas, en su mayor parte, como remedios milagrosos. Simplemente no funcionan, y sin embargo nos han sido infligidos en cada paso de nuestras interacciones en línea y en persona, a menudo en contra de nuestra voluntad e intereses personales. La única IA predictiva que funciona produciendo resultados consistentemente confiables son los modelos de pronóstico meteorológico (NPM) y los modelos utilizados en la teoría del caos, como los que describen cómo se enciende y se propaga una llama de gas natural. Estos modelos de IA sólo funcionan bien porque tienen acceso a bases de datos que han ido creciendo durante al menos los últimos 30 años (y se siguen ampliando a diario), se han ejecutado de forma continua en supercomputadoras y, lo que es más importante, sus conjuntos de datos se han limpiado de información corrupta, irrelevante o engañosa mediante intervención humana.
Y ese sigue siendo el mayor problema con cualquier otra clase de IA que se utilice hoy en día: que los conjuntos de datos LLM son demasiado generales y demasiado grandes para limpiarlos. Ninguna IA es capaz todavía de limpiar sus propios conjuntos de datos, por lo que la fiabilidad sigue siendo un problema. Esto se debe a la vulnerabilidad de que ninguna IA puede siquiera vincularse con otros conjuntos de datos y determinar su nivel de limpieza. Los LLM, irónicamente, son demasiado simples y utilizan principalmente algoritmos para predecir cuál podría ser la respuesta más común en sus conjuntos de datos para una cadena de palabras o números dada, pero no hay pensamiento, en el sentido humano, en el proceso. La IA no tiene ningún interés en el resultado, por lo que no puede autorregularse. No sabe cómo. De hecho, la mayoría de los programadores de IA confesarán que, a partir de cierto punto, no tienen ni idea de lo que hará su IA y no han descubierto cómo determinarlo. Se siente tan inescrutable (imposible de entender) como un dios egipcio.
Además, todo software de IA produce resultados que a menudo se basan en los sesgos de sus programadores y desarrolladores, lo que hace que los resultados no solo sean impredecibles y poco fiables, sino también perjudiciales (o, como mínimo, carentes de cierta veracidad), ya sea a favor o en contra del sesgo introducido en la programación. Incluso la IA disponible para el público sigue siendo confidencial, por lo que no es posible analizarla a fondo, ya que los desarrolladores corporativos se amparan en las leyes de secreto comercial. Se han realizado estudios privados sobre estos modelos predictivos de IA, aparentemente buscando sesgos en los algoritmos, pero, en general, no es posible profundizar en la ciencia de esos resultados porque todos se mantienen tras muros impenetrables de secreto comercial.
La IA como concepto académico se remonta a 1955, año en que nací. El científico informático y cognitivo John McCarthy, a quien conocí, acuñó el término "inteligencia artificial" y, de forma bastante vaga, creó la estructura de la disciplina. Trabajó con el primer lenguaje rudimentario de IA, IPL (Lenguaje de Procesamiento de la Información). De 1974 a 1976, tuve el privilegio de pasar un tiempo en la universidad con un lenguaje de programación de IA que McCarthy desarrolló posteriormente como primo de IPL, llamado LISP (Procesamiento de Listas). Este lenguaje fue pionero en muchas de las ideas de orden superior de procesamiento informático que sustentan la IA actual, como las estructuras de datos de árbol, el modelado de grandes datos y la recursión. Dado que los ordenadores con los que trabajaba entonces eran mainframes lentos, del tamaño de un edificio, que consumían electricidad como una manguera contra incendios al revés, y que tenían una fracción de la potencia de procesamiento y el almacenamiento de datos de los smartphones modernos, los resultados eran asombrosos, incluso casi humanos al consultar software escrito con el lenguaje LISP. Con la llegada de los circuitos híbridos creados para el programa espacial, se produjo la miniaturización de la electrónica de consumo y, a lo largo de 50 años, se hizo posible crear megagranjas de servidores con enormes capacidades de procesamiento paralelo y capacidades de almacenamiento de datos espectacularmente grandes, así como una proliferación de ancho de banda de petabits. Esto finalmente convergió y permitió el uso práctico de los LLM para ofrecer resultados de IA a los usuarios finales. Esto, como ya hemos comentado, supone otro problema, ya que estas granjas de servidores consumen cantidades de energía superiores a las que nuestros mainframes más grandes jamás habrían consumido. Esto ha sido perjudicial para nuestras redes eléctricas y para el medio ambiente, por lo que la IA tiene efectos negativos residuales que sus creadores nunca contemplaron.
Como herramienta, la IA muestra un potencial increíble, especialmente para extraer datos de bajo nivel en conjuntos de datos ruidosos. Las tomografías computarizadas y las mamografías procesadas con software de IA han encontrado cánceres ocultos que el ojo humano pasó por alto, y han arrojado muy pocos resultados falsos. Como muestra este artículo del WSJ , la IA sigue siendo una herramienta de apoyo, no un sustituto de los humanos, pero está comenzando a consolidarse en productos más precisos y útiles. Incluso con la llegada de potentes algoritmos de IA como Transformers, el concepto sigue siendo principalmente una imitación de lo que encuentra en las bases de datos. Ante la repentina ausencia de información única en su conjunto de datos, todas las IA se quedan perplejas o producen respuestas erróneas a las consultas ejecutadas sobre los datos extraños, dependiendo de cómo estén programadas. Una IA que solo ha visto una pelota de goma seguirá llamando "pelota de goma" a una canica que nunca ha visto. O dirá que no puede identificarla. Por lo tanto, la IA no puede extrapolar de forma fiable lo cualitativo a lo cuantitativo —y viceversa— sin antes disponer de todas las iteraciones posibles de un ejemplo en el universo conocido, contenidas en un conjunto de datos determinado. Esto supone una enorme desventaja.
Los informáticos siguen esforzándose por usar la IA para explorar aspectos de la realidad que de otro modo jamás podríamos conocer. Ese aspecto del concepto es bastante emocionante. Como me dijo una vez el gurú de Unix más brillante que he conocido (con el insólito nombre de Barry Vines): «La realidad es solo una medida conveniente de la complejidad».
Si buscas una buena referencia científica sobre IA, accesible tanto intelectual como prácticamente para el lector no especializado, publicada en agosto de 2024, te recomiendo adquirir «AI Snake Oil: What Artificial Intelligence Can Do, What It Can't, and How to Tell the Difference» de Arvind Narayanan y Sayash Kapoor. Incluye notas al final exhaustivas y un índice completo que te permitirá explorar infinidad de temas relacionados con la IA e inspirar la escritura de ciencia ficción de cualquier autor novel.
¡Apoya las noticias locales!
Disponible para todos; Financiado por lectores.
