Los desafíos de la inteligencia artificial

Publicado en la Revista de Letras, Artes e Ideas, Año XLIV, No. 1404, del 24 de julio al 6 de agosto de 2024

La inteligencia artificial (IA) se refiere a las máquinas que realizan tareas cognitivas como pensar, percibir, aprender, resolver problemas y tomar decisiones. Actualmente, las aplicaciones de IA más populares (reconocimiento de voz e imágenes, procesamiento del lenguaje natural, publicidad dirigida, mantenimiento predictivo de máquinas, automóviles y drones sin conductor, y bombas "superinteligentes") implican la capacidad de las máquinas para aprender de los datos sin ser programadas explícitamente. Esto representa un cambio de paradigma en la tecnología informática. Lo que realmente marcará la diferencia en la carrera por las aplicaciones de IA es la disponibilidad de datos; el elemento crítico es la abundancia de datos. Más datos conducen a mejores productos, lo que a su vez atrae a más usuarios, quienes generan más datos para mejorar aún más el producto. La gran escala de datos requerida para desarrollar aplicaciones avanzadas de IA subyace a la centralización y monopolización de la IA. Las grandes empresas tecnológicas estadounidenses lideran el mundo en aplicaciones de IA, pero China se está poniendo al día rápidamente. Esto conduce a un duopolio de la innovación en IA: EE. UU. y China.

Los nuevos problemas, riesgos y desafíos

Los principales debates sobre la IA han sido: ¿Es la IA algo nuevo que rompe con el paradigma tecnológico actual en cuanto a riesgos y posibilidades, o es simplemente una continuación? ¿Cuál es el futuro del trabajo? ¿Cómo abordar la acción autónoma de los dispositivos de IA, especialmente en el caso de armas letales e intervenciones médicas complejas? ¿El aprendizaje profundo de la IA implica que las capacidades previamente reservadas a la inteligencia humana pueden ser asumidas por las máquinas? ¿Qué significa ser humano en la era de la IA?

Si bien muchos aspectos de nuestra vida cotidiana ya dependen de la IA, recientemente ha surgido una polémica global y apasionada sobre ella. Una de las principales razones de este auge es la aparición de ChatGPT. En palabras de Chomsky y sus colegas: «ChatGPT de OpenAI, Bard de Google y Sydney de Microsoft son maravillas del aprendizaje automático. En términos generales, procesan enormes cantidades de datos, buscan patrones y se vuelven cada vez más hábiles para generar resultados estadísticamente probables, como lenguaje y pensamiento similares a los humanos. Estos programas han sido aclamados como los primeros destellos en el horizonte de la inteligencia artificial general, ese momento largamente profetizado en el que las mentes de las máquinas superarían a los cerebros humanos, no solo cuantitativamente en términos de velocidad de procesamiento y capacidad de memoria, sino también cualitativamente en términos de perspicacia intelectual, creatividad artística y todas las demás facultades distintivamente humanas».

En esencia, la IA funciona como un dispositivo estadístico, pero debido a la cantidad infinita de datos que gestiona y a los algoritmos que rigen su funcionamiento, proyecta la idea de crear conocimiento de la nada, de inventar. En otras palabras, la IA da la impresión de funcionar como un ser humano, aunque con una eficiencia infinitamente mayor. De ahí los términos utilizados para describirla: inteligencia artificial, Aprendizaje Profundo: características previamente reservadas a los humanos, o como mucho, a los seres vivos. Estas designaciones se usan metafóricamente, pero demuestran hasta qué punto la IA parece estar alcanzando niveles de comprensión y transformación reservados para los humanos. El efecto de realidad es sorprendente, porque ser una copia parece creativo, ser extractivo parece inventivo, ser reproductivo parece productivo y basarse en correlaciones parece ofrecer nuevas relaciones. Ante la credibilidad de esta "apariencia", personas de extremos opuestos del espectro político e ideológico han planteado preguntas sobre qué se considera un ser humano o si la IA significa un cambio de civilización. Por ejemplo, mientras Henry Kissinger nos advierte y nos alarma que la IA significa el fin de la Ilustración, Noam Chomsky y sus colegas refutan, en términos muy radicales, que las máquinas de IA sean inteligentes o capaces de aprender, según cualquier interpretación científica de estos términos.

Según Chomsky y sus colegas, "la mente humana no es, como ChatGPT y similares, un motor estadístico pesado para la comparación de patrones, que se alimenta de cientos de terabytes de datos y extrapola la respuesta conversacional más probable o la respuesta más probable a una pregunta científica. En contraste, la mente humana es un sistema sorprendentemente eficiente e incluso elegante que trabaja con pequeñas cantidades de información; no busca inferir correlaciones crudas entre puntos de datos, sino más bien crear explicaciones... Tan útiles como los programas de IA pueden ser en algunos dominios limitados (pueden ser útiles en programación informática, por ejemplo, o en sugerir rimas para versos cortos), sabemos por la ciencia de la lingüística y la filosofía del conocimiento que difieren profundamente de la forma en que los humanos razonan y usan el lenguaje. Estas diferencias imponen limitaciones significativas en lo que estos programas pueden hacer, codificándolos con defectos inerradicables. En efecto, estos programas están atrapados en una fase prehumana o no humana de la evolución cognitiva. Su defecto más profundo es la ausencia de la capacidad más importante de cualquier inteligencia: decir no solo qué es el caso, qué fue el caso y qué será el caso —es decir, descripción y predicción—, sino también qué no es el caso y qué podría y no podría ser el caso. Estos son los ingredientes de la explicación, el sello distintivo de la verdadera inteligencia. El pensamiento humano se basa en posibles explicaciones y corrección de errores, un proceso que limita gradualmente las posibilidades que pueden considerarse racionalmente. Pero ChatGPT y programas similares son, por diseño, ilimitados en lo que pueden «aprender» (es decir, memorizar); son incapaces de distinguir lo posible de lo imposible.

La IA, sin quererlo, está invitando a renovar la atención sobre preguntas de larga data, como qué significa ser humano. Estas preguntas ontológicas y existenciales son también cuestiones éticas y políticas. Ante las características que filósofos y científicos sociales consideran que definen la singularidad humana, los desarrolladores de IA más entusiastas se comprometen a perfeccionar los programas de IA para que las capacidades de las máquinas se aproximen cada vez más a las humanas. Sin embargo, surgen dilemas en cada etapa del desarrollo. Veamos algunos:

En su obra maestra, El mundo como voluntad y representación.Schopenhauer distingue entre talento y genio. Mientras que la persona talentosa logra lo que otros no pueden, el genio logra lo que otros no pueden imaginar. El genio posee una capacidad superior de contemplación que le lleva a trascender la mezquindad del ego y adentrarse en el infinito mundo de las ideas. El genio es la capacidad de permanecer en un estado de percepción pura, de perderse en la percepción, el poder de dejar de lado por completo los propios intereses, deseos y objetivos, renunciando así a la propia personalidad por un tiempo, para permanecer como un sujeto puro y conocedor con una visión clara del mundo.

En vista de esto, podemos especular con seguridad que, si viviera hoy, Schopenhauer argumentaría que la IA, por muy estimulantes que sean sus logros, nunca podrá alcanzar las cimas de las posibilidades humanas. Como mucho, puede alcanzar el nivel del talento. El genio es inaccesible para la IA. El genio es su límite superior. El límite inferior es la actividad humana resistente a los algoritmos, la actividad no registrada o, mejor aún, la actividad humana registrada y almacenada de forma que desafía la extracción de datos.

A su vez, John Dewey, en Cómo pensamos, define las características del pensamiento reflexivo. Según Dewey, el pensamiento reflexivo es el don que permite a los seres humanos imaginar cosas aún no experimentadas, basándose en lo que saben del presente y sobre él. Nos otorga el poder de la "previsión sistematizada", que nos permite "actuar sobre lo ausente y el futuro". El pensamiento reflexivo es susceptible a la influencia de numerosos factores incontrolables, como la experiencia pasada, los dogmas heredados, las exigencias del interés propio, el despertar de la pasión, la pura pereza mental, un entorno social impregnado de tradiciones sesgadas o alimentado por falsas expectativas, etc. Requiere comprender el contexto en el que se inserta. No puede prescindir de la perplejidad, la vacilación, la duda y la incertidumbre, sino también de una creatividad y una curiosidad considerables. El pensamiento reflexivo se desarrolla mediante la vigilancia constante contra las creencias comunes. Implica asumir riesgos y superar el miedo al fracaso. En términos de Dewey, la IA es totalmente hostil al pensamiento reflexivo, al tiempo que tiende a convertir las creencias acríticas comúnmente aceptadas en la única forma de pensar posible en nuestro tiempo.

Este juego entre humanos y máquinas pasa por alto un punto crucial: que los seres humanos no existen en abstracto, sino en contextos históricos, sociales y culturales específicos. Los ejercicios sobre características universales construidas de forma abstracta convierten las características locales, occidentalocéntricas, capitalistas, colonialistas y patriarcales en características universales derivadas del conocimiento "visto desde cero". Los prejuicios ontológicos y políticos se transforman así en artefactos neutrales para la IA.

Preguntas epistémicas

Como producto industrial basado en el conocimiento, la IA es monolítica y epistémicamente determinista. Esto plantea dos preguntas principales. En primer lugar, la IA es una forma de transformar la información en conocimiento aplicado mediante su procesamiento según procedimientos estadísticos y deterministas. Desde la perspectiva de la IA, más allá de este conocimiento tecnológico, solo hay caos, desorden o distracción irrelevante. Esta postura epistémica contradice las dos conclusiones principales de los debates epistemológicos de los últimos cincuenta años. Por un lado, como lo demuestran ampliamente las epistemologías críticas (especialmente las feministas), la ciencia es internamente diversa y sus avances están impulsados ​​por una búsqueda multifacética de la verdad (diversidad interna). Por otro lado, como argumentan las epistemologías del Sur, la ciencia es conocimiento válido, pero no es el único conocimiento válido; existen otros conocimientos no científicos que circulan en la sociedad y que son importantes para la vida de las personas de una manera que la ciencia no lo es y cuya validez no depende de la ciencia (validez externa).

En segundo lugar, la IA es la máxima promotora del pensamiento unidireccional. Dada su naturaleza estadística, la IA prioriza la cantidad sobre la calidad, ignorando las formas minoritarias, alternativas, creativas, emergentes, innovadoras y heterodoxas de ser, pensar, saber y sentir. De esta manera, tiende a ratificar y legitimar el pensamiento dominante, el estado actual de las cosas (el... statu quo), por injusto o peligroso que sea. Con más eficacia que nunca, los intereses dominantes se esconden tras ideas dominantes consideradas automáticas y, por lo tanto, neutrales.