¿Alucinación de la IA o alucinación del capitalismo?

Las alucinaciones son experiencias en las que una persona percibe algo que no existe en la realidad.

En esta reflexión, utilizaré un breve extracto del artículo de El Globo (01/01/25), cuyo título es: "Inteligencia Artificial: La tecnología enfrentará los desafíos de generar ganancias y mantener el ritmo de expansión", por Juliana Causin.

Con este título se expresa la lógica del inversor, no la de las personas ni la sociedad que conviven con esta tecnología. Lo abordaré al final.

Sin embargo, el punto que quiero destacar, y que me llamó la atención en el informe, es cuando los expertos en tecnología de IA afirman que "las empresas deben tener cuidado con el tema de la alucinación, es decir, la IA puede ser convincente y elocuente, pero también puede inventar o crear algo absurdo, lo que puede dañar la imagen de las empresas".

Antes incluso de que las empresas (agentes) se vean afectadas, las personas y la sociedad ya lo están siendo. Creo que la preocupación debería centrarse en la sociedad. ¿Acaso alguien ha leído o escuchado, entre las diversas maravillas que los expertos enumeran sobre lo que la IA podría producir, que también incluiría alucinaciones e invenciones absurdas fuera de la realidad?

Utilizaré una paradoja (en realidad no, sicTras analizar la opinión de ChatGPT, una herramienta de inteligencia artificial (IA) de la empresa tecnológica OpenAI que funciona como un chatbot y permite la interacción entre el usuario y la IA mediante conversaciones, se afirma lo siguiente: «Las alucinaciones son errores que se producen cuando un sistema de inteligencia artificial genera información incorrecta o inventada, pero la presenta de forma convincente. Este fenómeno es una limitación de los modelos de IA actuales, especialmente de los modelos de lenguaje, que aún carecen de una comprensión real del contenido que generan. Si bien las alucinaciones de la IA representan un desafío, pueden mitigarse con mejores prácticas de entrenamiento, validación y supervisión humana, sobre todo en aplicaciones críticas».

En otras palabras, descubrimos que esta posibilidad (alucinaciones) presentada en el informe ya era bien conocida por los expertos en la materia. Todo esto aumenta considerablemente la preocupación por los procesos de pensamiento y... noticias falsas Esta realidad (alucinaciones), que ya está en marcha, aparece casi como un detalle en medio de un artículo sobre el retorno de la inversión en tecnología de IA. Se está expandiendo, y cada vez es más difícil distinguir la verdad de la mentira en la sociedad actual.

Este hecho también nos permite observar el esfuerzo de los técnicos de las TIC (Tecnologías de la Información y la Comunicación) por intentar "humanizar la tecnología", afirmando que lo que es un error de programación estadística y/o algorítmica en los datos también puede denominarse "alucinación", como si se tratara de un ser humano y no de la tecnología, que de este modo adquiere una autonomía cada vez mayor con la IA generativa y la IAG (Inteligencia Artificial General).

Como es sabido, las alucinaciones son experiencias en las que una persona percibe algo (a través de cualquiera de los sentidos, como la vista, el oído, el olfato, el gusto o el tacto) que no existe y, por lo tanto, está fuera de la realidad. Estas experiencias y fenómenos son objeto de estudio de la psicología y la psiquiatría.

En otras palabras, las "absurdidades" producidas por la tecnología de Inteligencia Artificial Generativa serían ahora una especie de desviación de la personalidad de la técnica (sic).

Una naturalización del intento de humanizar lo que no es humano, porque, en este caso, el origen no es una enfermedad, sino un error y la incapacidad de la tecnología para pensar y/o actuar como un ser humano en sus diversas dimensiones.

Por lo tanto, los errores de programación también se interpretarían como parte de la falible naturaleza humana.

Este incidente me recordó a Pierre Lévy y su antiguo e indispensable libro. Tecnologías de inteligencia: el futuro del pensamiento en la era de la informáticaEn 1990, Lévy ya venía argumentando, casi cuatro décadas antes, que las transformaciones de las sociedades contemporáneas estaban estrechamente vinculadas a la tecnología y que era necesario que su configuración no se separara de un proyecto social en medio de disputas sobre el uso y el destino del objeto técnico.

No existe una técnica neutral, ni tiene sentido la oposición entre el hombre y la máquina o la tecnología; más bien, se trata del contexto social y la dimensión hacia la cual se dirigen estas poderosas tecnologías controladas por grandes corporaciones digitales (GCD), las grandes tecnológicas.

Por lo tanto, retomo el titular del informe, que se centra en la lógica del retorno de la inversión para el capital riesgo y en el contenido de las preocupaciones dirigidas a las empresas, debido a las alucinaciones de la IA, y no a la sociedad.

No es la Inteligencia Artificial la que ya está produciendo alucinaciones, sino la sociedad y la civilización, que permiten a los hombres, en sus relaciones de poder, dejar que esta tecnología siga funcionando de manera no regulada y básicamente al servicio de los intereses económicos y del capital.