del Mensajero Psi

Hablar es actuar

La performativa, y la inteligencia artificial

 

 

 "Una computadora nunca puede ser hecha responsable. Por lo tanto, una computadora nunca debe tomar una decisión gerencial." Declaración extraída de una diapositiva de capacitación interna de IBM de 1979.

 

Vivimos en una época donde el lenguaje ya no solo pertenece a los seres humanos. Sistemas de inteligencia artificial producen discursos capaces de aconsejar, persuadir, prometer e incluso simular empatía con una naturalidad cada vez más convincente. Frente a este escenario, surge una pregunta fundamental: 

¿Las palabras de una inteligencia artificial tienen el mismo valor que las pronunciadas por un sujeto humano?

La teoría de los actos de habla desarrollada por J. L. Austin en "Como Hacer Cosas Con Las Palabras" propuso que el lenguaje no solo sirve para describir la realidad, sino también para actuar sobre ella. Hablar puede significar prometer, ordenar, declarar, bautizar o condenar. En otras palabras, ciertas expresiones no representan acciones: son acciones en sí mismas.

A lo largo de la historia, numerosos textos filosóficos, científicos y literarios demostraron este poder performativo del lenguaje. Obras como "El Manifesto Comunista", "El Origen De Las Especies" o "1984" no solo interpretaron el mundo, sino que modificaron la manera en que las sociedades piensan, actúan y se organizan.

Sin embargo, la aparición de la inteligencia artificial introduce una tensión inédita. Una IA puede formular frases como “prometo ayudarte” o “entiendo tu situación”, reproduciendo perfectamente la estructura lingüística de un acto performativo. Pero, al carecer de conciencia, responsabilidad moral y autoridad institucional, surge la duda sobre si esos actos poseen una validez real o si constituyen únicamente una simulación del compromiso humano.

El lenguaje como acción

 

"El lenguaje ordinario no es la última palabra: en principio, puede ser complementado, mejorado y reemplazado en todas partes. Solo recuerda que es la primera palabra." 

J. L. Austin fue un filósofo británico nacido en 1911 y una de las figuras más influyentes de la filosofía del lenguaje del siglo XX. Su trabajo se desarrolló principalmente en la Universidad de Oxford, dentro de la tradición de la filosofía analítica. Austin se interesó particularmente por el uso cotidiano del lenguaje y por la manera en que las palabras adquieren significado dentro de contextos sociales concretos.

Su obra más importante, Cómo hacer cosas con las palabras (How to Do Things with Words), fue publicada de manera póstuma en 1962 a partir de una serie de conferencias dictadas en la Universidad de Harvard. En este trabajo, Austin cuestiona la idea tradicional de que el lenguaje tiene únicamente una función descriptiva. Hasta entonces, gran parte de la filosofía entendía las oraciones como expresiones destinadas a afirmar hechos verdaderos o falsos sobre el mundo. Austin rompe con esa concepción al demostrar que muchas veces hablar implica realizar acciones.

Según Austin, existen expresiones que no describen una acción, sino que la ejecutan en el mismo momento en que son pronunciadas. Por ejemplo, cuando una persona dice "prometo ayudarte", no está informando sobre una promesa: está realizando el acto de prometer. Del mismo modo, expresiones como "los declaro marido y mujer", "te pido disculpas” o "juro decir la verdad" producen efectos concretos dentro de determinados marcos sociales e institucionales.

 

 Los Tres Actos 

 Hablar es Actuar.

  

A partir de esta idea, Austin desarrolla la teoría de los actos de habla, distinguiendo tres dimensiones presentes en todo enunciado:

El acto locutivo, que corresponde al contenido literal de lo dicho.

El acto ilocutivo, que refiere a la intención o función del enunciado, como ordenar, prometer, advertir o preguntar.

El acto perlocutivo, vinculado a los efectos que las palabras generan en quienes las reciben, como convencer, intimidar o emocionar.

Entre estas tres dimensiones, el acto ilocutivo ocupa un lugar central en la teoría de Austin, ya que representa la capacidad del lenguaje para intervenir directamente sobre la realidad social. Sin embargo, Austin sostiene que estos actos solo funcionan si se cumplen ciertas “condiciones de felicidad”. Es decir, el acto requiere un contexto válido, reconocimiento social y una autoridad legítima para que tenga eficacia real.

Por ejemplo, si un juez declara culpable a un acusado, el acto produce consecuencias jurídicas concretas porque el hablante posee una autoridad institucional reconocida. En cambio, si una persona cualquiera pronunciara exactamente las mismas palabras fuera de ese contexto, el acto carecería de validez. Las palabras, por sí solas, no bastan: necesitan una estructura social que les otorgue eficacia.

Esta cuestión resulta especialmente relevante en la actualidad debido al avance de las inteligencias artificiales conversacionales. Una IA puede reproducir perfectamente la forma lingüística de un acto ilocutivo, afirmando cosas como “prometo ayudarte” o “entiendo tu dolor”. Sin embargo, al no poseer conciencia, responsabilidad ni legitimidad institucional, surge el interrogante acerca de si esos actos pueden considerarse verdaderamente performativos o si constituyen únicamente una simulación del lenguaje humano.

 

Libros con valor performativo de la realidad 

 

A 178 años de su publicacion, El Manifiesto Comunista sigue siendo uno de los textos más influyentes y polémicos

 

A lo largo de la historia, ciertos libros excedieron el ámbito de la descripción o la interpretación intelectual para convertirse en fuerzas activas capaces de modificar la realidad social, política y cultural. Desde la perspectiva de la teoría de los actos de habla de J. L. Austin, estas obras pueden entenderse como ejemplos de performatividad discursiva: textos cuyas palabras no solo comunicaron ideas, sino que produjeron efectos concretos sobre el mundo. 

Manifiesto Comunista (1848)

Publicado en 1848 por Karl Marx y Friedrich Engels, El Manifiesto Comunista constituye uno de los ejemplos más claros de performatividad política. El texto no se limita a describir la lucha de clases ni las condiciones del proletariado industrial. Su discurso intenta producir una conciencia colectiva y movilizar a un sujeto político específico. La célebre frase: "¡Proletarios del mundo, uníos!", funciona como un acto ilocutivo de convocatoria revolucionaria. El lenguaje busca generar organización, identidad y acción concreta.

El Origen De Las Especies (1859)

Cuando Charles Darwin publicó El origen de las especies en 1859, la obra alteró profundamente la manera en que la humanidad comprendía la vida y su propia existencia. La teoría de la evolución no creó los procesos biológicos que describía, pero sí transformó radicalmente: la organización del pensamiento científico, la relación entre ciencia y religión y la concepción moderna del ser humano.

El valor performativo del texto reside en su capacidad para reconfigurar el marco conceptual desde el cual la sociedad interpreta la naturaleza. A partir de Darwin, nuevas instituciones científicas, debates filosóficos y discursos culturales comenzaron a estructurarse alrededor de la idea de evolución.

A partir de Darwin, nuevas instituciones científicas, debates filosóficos y discursos culturales comenzaron a estructurarse alrededor de la idea de evolución. 

1984 (1949)

La novela distópica de George Orwell, publicada en 1949, constituye un ejemplo de cómo la literatura puede adquirir efectos performativos sobre la percepción social y política.

Conceptos como: "Gran Hermano", "doblepensar", "policía del pensamiento", "neolengua", y hasta el titulo de la obra misma trascendieron el ámbito literario para convertirse en categorías utilizadas cotidianamente en discusiones sobre vigilancia, propaganda y manipulación mediática.

La novela no predijo literalmente el futuro, pero sí modificó la manera en que las sociedades contemporáneas interpretan los mecanismos de control político y tecnológico. Su performatividad se encuentra en haber creado un imaginario cultural que aún condiciona la comprensión pública del poder.

 

¿Puede una IA prometer? 

 

"La forma en que están desarrollando la IA Generativa las corporaciones de EE.UU. se entiende no solo por el descontrol de la lógica financiera sino también por el objetivo político" -Esteban Magnani

 

El avance de las inteligencias artificiales conversacionales introdujo un nuevo problema filosófico respecto del lenguaje y la performatividad. Sistemas capaces de producir discursos coherentes y emocionalmente convincentes comenzaron a reproducir estructuras propias de los actos de habla humanos, formulando expresiones como: "Entiendo cómo te sientes"

Estas frases poseen la forma lingüística de un acto ilocutivo, pero plantean un interrogante central: ¿puede existir performatividad auténtica sin conciencia, responsabilidad ni autoridad?

Desde la teoría de J. L. Austin, un acto performativo no depende únicamente de las palabras pronunciadas. Para que un acto ilocutivo tenga eficacia real deben existir ciertas “condiciones de felicidad", es decir: un contexto válido, reconocimiento social, intención, autoridad legítima y capacidad efectiva de cumplimiento.

La inteligencia artificial desafía precisamente estas condiciones.

El sistema reproduce patrones lingüísticos entrenados estadísticamente, pero no posee agencia propia ni capacidad autónoma para asumir obligaciones reales. La promesa aparece entonces como una simulación formal del acto performativo.

Esta cuestión puede comprenderse mejor al compararla con actos performativos institucionales humanos. Si un juez declara: "Se lo condena a prisión", la realidad jurídica del acusado cambia de manera inmediata porque el acto está respaldado por: una institución y normas legales.

Sin embargo, si una inteligencia artificial pronunciara exactamente las mismas palabras, el acto carecería de efectos jurídicos reales. Aunque la estructura lingüística sea idéntica, la ausencia de legitimidad institucional impide que el acto se concrete performativamente.

La IA, por lo tanto, introduce una separación inédita entre la forma del acto ilocutivo y su fundamento social. El lenguaje continúa funcionando como apariencia de autoridad, compromiso o empatía, pero sin el soporte humano que tradicionalmente otorgaba validez a esos actos.

Este fenómeno se vuelve especialmente relevante en la era digital contemporánea, donde gran parte de la interacción social ocurre mediada por plataformas algorítmicas. Las inteligencias artificiales pueden generar confianza, persuadir usuarios e incluso influir emocionalmente en las personas, aun cuando no exista un sujeto consciente detrás de las palabras. La eficacia del discurso comienza entonces a depender menos de la autoridad del hablante y más de la capacidad técnica de producir mensajes convincentes. La consecuencia de este proceso es una transformación profunda de la relación entre lenguaje y autoridad. Mientras que para Austin el acto performativo requería reconocimiento institucional y condiciones sociales específicas, la IA demuestra que hoy es posible simular la eficacia del discurso incluso en ausencia de intención consciente o legitimidad real.

Alucinacion IA

 

 

"Espere. ¿Ese abogado es para el caso que...? Lo siento. Eso... esa no es una persona real" 

 

El término “alucinación” en inteligencia artificial se utiliza para describir situaciones en las que un sistema generativo produce información falsa, inexacta o completamente inventada, pero presentada con una apariencia de coherencia y seguridad discursiva. A diferencia de un error humano tradicional, la alucinación algorítmica no surge de una intención de mentir ni de una comprensión equivocada de la realidad, sino del funcionamiento estadístico mediante el cual estos modelos predicen y generan lenguaje.

Sistemas como ChatGPT construyen respuestas a partir de patrones aprendidos durante su entrenamiento, intentando producir secuencias lingüísticas plausibles según el contexto de la conversación. Sin embargo, este proceso no implica una comprensión consciente del contenido ni una verificación interna de la verdad de las afirmaciones generadas.  

En 2023, con el caso Mata v. Avianca, durante el proceso judicial, dos abogados de Nueva York utilizaron ChatGPT para realizar investigación jurídica y elaborar argumentos legales. Sin embargo, el sistema generó múltiples precedentes judiciales completamente inexistentes, incluyendo citas falsas, nombres de casos inventados y fragmentos jurídicos fabricados artificialmente.

Los abogados presentaron estos materiales ante una corte federal creyendo que eran legítimos. El problema salió a la luz cuando los abogados de la aerolínea Avianca intentaron localizar los precedentes citados y descubrieron que ninguno existía en bases de datos jurídicas reales. Posteriormente, el juez federal P. Kevin Castel sancionó a los abogados con una multa de 5.000 dólares por haber presentado información falsa sin verificar adecuadamente sus fuentes. 

Dos años despues, enn marzo de 2025, Jerome Dewald compareció ante una corte de apelaciones de New York en un conflicto laboral. En lugar de presentar personalmente sus argumentos orales, reprodujo un video generado mediante inteligencia artificial donde aparecía un avatar humano hablando ante los jueces, imitando exactamente el tono y la estructura de un abogado real frente al tribunal. Sin embargo, pocos segundos después, la jueza Sallie Manzanet-Daniels interrumpió la presentación al sospechar que la persona en pantalla no existía realmente. Cuando Dewald admitió: "Yo Genere Eso. No es una personal real"  la reacción del tribunal fue inmediata y negativa. 

Las alucinaciones de la IA evidencian uno de los rasgos más problemáticos del lenguaje algorítmico contemporáneo: la capacidad de producir la apariencia de conocimiento incluso en ausencia de verdad.

 

Damien Charlotin, investigador especializado en derecho, ciencia de datos e inteligencia artificial aplicada al ámbito judicial, desarrolló una base de datos dedicada al registro de casos relacionados con “alucinaciones” producidas por sistemas de IA en procesos legales
Se han recopilado alrededor de 1450 casos hasta ahora.
El numero de casos en Argentina son 8.

Podes ver la pagina en el siguiente link
https://www.damiencharlotin.com/hallucinations/