Mostrando las entradas con la etiqueta Complejidad. Mostrar todas las entradas
Mostrando las entradas con la etiqueta Complejidad. Mostrar todas las entradas

domingo, 29 de septiembre de 2024

La pretensión del conocimiento


Discurso en memoria de Alfred Nobel, 11 de diciembre de 1974, en el marco de las actividades relacionadas a la concesión a Hayek del premio Nobel de economía de este año.

La ocasión especial de esta conferencia, combinada con el principal problema práctico que los economistas tienen que afrontar hoy, han hecho que la elección del tema fuera casi inevitable. Por una parte, la creación, todavía reciente, del Premio Nobel en Ciencias Económicas marca un paso significativo en el proceso por el cual, en opinión del público en general, se le ha concedido a la economía algo de la dignidad y el prestigio de las ciencias físicas. Por otra parte, los economistas están llamados en este momento a decir cómo liberar al mundo libre de la grave amenaza de aceleración de la inflación que, hay que admitirlo, ha sido provocada por políticas que la mayoría de los economistas recomendaron e incluso instaron a los gobiernos a seguir. En realidad, en este momento tenemos pocos motivos para enorgullecernos: como profesión, hemos hecho un lío de cosas.

Me parece que este fracaso de los economistas a la hora de orientar la política económica con más éxito está estrechamente relacionado con su propensión a imitar lo más fielmente posible los procedimientos de las ciencias físicas, que han tenido un éxito brillante, un intento que en nuestro campo puede conducir a un error evidente. Se trata de un enfoque que ha llegado a describirse como actitud “cientificista”, una actitud que, como la definí hace unos treinta años, “es decididamente no científica en el verdadero sentido de la palabra, ya que implica una aplicación mecánica y acrítica de hábitos de pensamiento a campos diferentes de aquellos en los que se han formado”. Hoy quisiera empezar explicando cómo algunos de los errores más graves de la política económica reciente son una consecuencia directa de este error cientificista.

La teoría que ha guiado la política monetaria y financiera durante los últimos treinta años, y que, a mi juicio, es en gran medida el producto de una concepción errónea del procedimiento científico adecuado, consiste en la afirmación de que existe una correlación positiva simple entre el empleo total y el tamaño de la demanda agregada de bienes y servicios; conduce a la creencia de que podemos asegurar permanentemente el pleno empleo manteniendo el gasto monetario total en un nivel apropiado. Entre las diversas teorías propuestas para explicar el desempleo generalizado, ésta es probablemente la única en apoyo de la cual se pueden aportar pruebas cuantitativas sólidas. Sin embargo, la considero fundamentalmente falsa y actuar en consecuencia, como lo estamos experimentando ahora, es muy perjudicial.

Esto me lleva a la cuestión crucial. A diferencia de lo que ocurre en las ciencias físicas, en la economía y en otras disciplinas que tratan fenómenos esencialmente complejos, los aspectos de los acontecimientos que hay que tener en cuenta y sobre los que podemos obtener datos cuantitativos son necesariamente limitados y pueden no incluir los más importantes. Mientras que en las ciencias físicas se supone generalmente, probablemente con buena razón, que cualquier factor importante que determine los acontecimientos observados será en sí mismo directamente observable y medible, en el estudio de fenómenos tan complejos como el mercado, que dependen de las acciones de muchos individuos, todas las circunstancias que determinarán el resultado de un proceso, por razones que explicaré más adelante, difícilmente serán conocidas o mensurables en su totalidad. Y mientras que en las ciencias físicas el investigador podrá medir lo que, sobre la base de una teoría prima facie, considere importante, en las ciencias sociales a menudo se trata como importante lo que resulta accesible a la medición. Esto se lleva a veces al punto de exigir que nuestras teorías se formulen en términos tales que se refieran sólo a magnitudes mensurables.

No se puede negar que una exigencia de este tipo limita de manera arbitraria los hechos que se pueden admitir como causas posibles de los acontecimientos que ocurren en el mundo real. Esta concepción, que a menudo se acepta de manera bastante ingenua como una exigencia del procedimiento científico, tiene algunas consecuencias bastante paradójicas. Por supuesto, conocemos, en lo que respecta al mercado y a estructuras sociales similares, una gran cantidad de hechos que no podemos medir y sobre los que, en realidad, sólo disponemos de una información muy imprecisa y general. Y como los efectos de estos hechos en un caso particular no pueden confirmarse con pruebas cuantitativas, quienes juran admitir sólo lo que consideran como pruebas científicas simplemente los descartan y, por lo tanto, proceden felizmente con la ficción de que los factores que pueden medir son los únicos que son relevantes.

La correlación entre la demanda agregada y el empleo total, por ejemplo, puede ser sólo aproximada, pero como es la única sobre la que tenemos datos cuantitativos, se acepta como la única conexión causal que cuenta. Según este criterio, es muy posible que existan mejores pruebas “científicas” para una teoría falsa, que se aceptará porque es más “científica”, que para una explicación válida, que se rechaza porque no hay pruebas cuantitativas suficientes para ella.

Permítame ilustrar esto con un breve esbozo de lo que considero la principal causa real del desempleo generalizado, explicación que también explicará por qué ese desempleo no puede remediarse de manera duradera con las políticas inflacionarias recomendadas por la teoría ahora de moda. Esta explicación correcta me parece que es la existencia de discrepancias entre la distribución de la demanda entre los diferentes bienes y servicios y la asignación de mano de obra y otros recursos entre la producción de esos productos. Poseemos un conocimiento “cualitativo” bastante bueno de las fuerzas por las que se produce una correspondencia entre la demanda y la oferta en los diferentes sectores del sistema económico, de las condiciones en las que se logrará y de los factores que probablemente impedirán tal ajuste. Los distintos pasos en la explicación de este proceso se basan en hechos de la experiencia cotidiana, y pocos de los que se tomen la molestia de seguir el argumento cuestionarán la validez de los supuestos fácticos o la corrección lógica de las conclusiones extraídas de ellos. Tenemos, en efecto, buenas razones para creer que el desempleo indica que la estructura de precios y salarios relativos ha sido distorsionada (generalmente por la fijación de precios monopolística o gubernamental), y que para restablecer la igualdad entre la demanda y la oferta de mano de obra en todos los sectores serán necesarios cambios en los precios relativos y algunas transferencias de mano de obra.

Pero cuando se nos pide evidencia cuantitativa de la estructura particular de precios y salarios que se requeriría para asegurar una venta continua y sin problemas de los productos y servicios ofrecidos, debemos admitir que no tenemos tal información. Conocemos, en otras palabras, las condiciones generales en las que se establecerá lo que llamamos, de manera un tanto engañosa, un equilibrio; pero nunca sabemos cuáles son los precios o salarios particulares que existirían si el mercado lograra ese equilibrio. Podemos simplemente decir cuáles son las condiciones en las que podemos esperar que el mercado establezca precios y salarios a los que la demanda sea igual a la oferta. Pero nunca podemos proporcionar información estadística que muestre en qué medida los precios y salarios prevalecientes se desvían de los que garantizarían una venta continua de la oferta actual de trabajo. Aunque esta explicación de las causas del desempleo es una teoría empírica, en el sentido de que podría demostrarse que es falsa, por ejemplo, si, con una oferta monetaria constante, un aumento general de los salarios no condujera al desempleo, ciertamente no es el tipo de teoría que podríamos utilizar para obtener predicciones numéricas específicas sobre las tasas de salarios o la distribución del trabajo que se pueden esperar.

¿Por qué, sin embargo, en economía tenemos que alegar ignorancia sobre el tipo de hechos sobre los que, en el caso de una teoría física, se esperaría con seguridad que un científico diera información precisa? Probablemente no sea sorprendente que quienes se impresionan por el ejemplo de las ciencias físicas consideren esta posición muy insatisfactoria e insistan en los estándares de prueba que encuentran allí. La razón de esta situación es el hecho, al que ya me he referido brevemente, de que las ciencias sociales, como gran parte de la biología pero a diferencia de la mayoría de los campos de las ciencias físicas, tienen que tratar con estructuras de complejidad esencial, es decir, con estructuras cuyas propiedades características sólo pueden exhibirse mediante modelos compuestos de un número relativamente grande de variables. La competencia, por ejemplo, es un proceso que producirá ciertos resultados sólo si se desarrolla entre un número bastante grande de personas activas.

En algunos campos, particularmente cuando surgen problemas de un tipo similar en las ciencias físicas, las dificultades pueden superarse utilizando, en lugar de información específica sobre los elementos individuales, datos sobre la frecuencia relativa o la probabilidad de ocurrencia de las diversas propiedades distintivas de los elementos. Pero esto es cierto solamente cuando tenemos que tratar con lo que el Dr. Warren Weaver (anteriormente de la Fundación Rockefeller) ha llamado, con una distinción que debería ser mucho más ampliamente entendida, “fenómenos de complejidad no organizada”, en contraste con aquellos “fenómenos de complejidad organizada” con los que tenemos que tratar en las ciencias sociales. Complejidad organizada significa aquí que el carácter de las estructuras que la muestran depende no sólo de las propiedades de los elementos individuales que las componen y de la frecuencia relativa con la que ocurren, sino también de la manera en que los elementos individuales están conectados entre sí. Por esta razón, al explicar el funcionamiento de tales estructuras no podemos reemplazar la información sobre los elementos individuales por información estadística, sino que requerimos información completa sobre cada elemento si de nuestra teoría hemos de derivar predicciones específicas sobre eventos individuales. Sin esa información específica sobre los elementos individuales, nos limitaremos a lo que en otra ocasión he llamado meras predicciones de patrones: predicciones de algunos de los atributos generales de las estructuras que se formarán, pero que no contienen afirmaciones específicas sobre los elementos individuales que las compondrán.

Esto es particularmente cierto en el caso de nuestras teorías que explican la determinación de los sistemas de precios y salarios relativos que se formarán en un mercado que funcione bien. En la determinación de estos precios y salarios entrarán los efectos de la información particular que posee cada uno de los participantes en el proceso de mercado, una suma de hechos que en su totalidad no puede ser conocida por el observador científico, ni por ningún otro cerebro individual. Es de hecho la fuente de la superioridad del orden de mercado, y la razón por la que, cuando no es suprimido por los poderes del gobierno, regularmente desplaza otros tipos de orden, que en la asignación resultante de recursos se utilizará más del conocimiento de hechos particulares que existe sólo disperso entre un número incontable de personas, del que cualquier persona puede poseer. Pero como nosotros, los científicos observadores, nunca podemos conocer todos los determinantes de tal orden, y en consecuencia tampoco podemos saber en qué estructura particular de precios y salarios la demanda sería igual a la oferta en todas partes, tampoco podemos medir las desviaciones de ese orden; Tampoco podemos comprobar estadísticamente nuestra teoría de que son las desviaciones de ese sistema de “equilibrio” de precios y salarios las que hacen imposible vender algunos de los productos y servicios a los precios a los que se ofrecen.

Antes de continuar con mi preocupación inmediata, los efectos de todo esto sobre las políticas de empleo que se siguen actualmente, permítanme definir más específicamente las limitaciones inherentes a nuestro conocimiento numérico, que tan a menudo se pasan por alto. Quiero hacer esto para evitar dar la impresión de que, en general, rechazo el método matemático en economía. De hecho, considero que la gran ventaja de la técnica matemática es que nos permite describir, por medio de ecuaciones algebraicas, el carácter general de un patrón, incluso cuando ignoramos los valores numéricos que determinarán su manifestación particular. Difícilmente habríamos podido lograr ese cuadro completo de las interdependencias mutuas de los diferentes eventos en un mercado sin esta técnica algebraica. Sin embargo, ha llevado a la ilusión de que podemos usar esta técnica para la determinación y predicción de los valores numéricos de esas magnitudes, y esto ha llevado a una vana búsqueda de constantes cuantitativas o numéricas. Esto sucedió a pesar del hecho de que los fundadores modernos de la economía matemática no tenían tales ilusiones. Es cierto que sus sistemas de ecuaciones que describen el patrón de un equilibrio de mercado están estructurados de tal manera que si fuéramos capaces de llenar todos los espacios en blanco de las fórmulas abstractas, es decir, si conociéramos todos los parámetros de estas ecuaciones, podríamos calcular los precios y las cantidades de todos los bienes y servicios vendidos. Pero, como dijo claramente Vilfredo Pareto, uno de los fundadores de esta teoría, su propósito no puede ser “llegar a un cálculo numérico de los precios”, porque, como él dijo, sería “absurdo” suponer que podríamos averiguar todos los datos. De hecho, el punto principal ya fue visto por aquellos notables anticipadores de la economía moderna, los escolásticos españoles del siglo XVI, quienes enfatizaron que lo que ellos llamaban pretium mathematicum, el precio matemático, dependía de tantas circunstancias particulares que nunca podría ser conocido por el hombre sino que lo conocía solo Dios. A veces deseo que nuestros economistas matemáticos se tomaran esto en serio. Debo confesar que todavía dudo de que su búsqueda de magnitudes mensurables haya hecho contribuciones significativas a nuestra comprensión teórica de los fenómenos económicos, más allá de su valor como descripción de situaciones particulares. Tampoco estoy dispuesto a aceptar la excusa de que esta rama de investigación es todavía muy joven: ¡después de todo, Sir William Petty, el fundador de la econometría, era un colega algo mayor de Sir Isaac Newton en la Royal Society!

Puede que haya pocos casos en los que la superstición de que sólo las magnitudes mensurables pueden ser importantes haya causado un daño positivo en el campo económico, pero los actuales problemas de inflación y empleo son muy graves. Su efecto ha sido que la mayoría de los economistas, de mentalidad científica, ha hecho caso omiso de lo que probablemente sea la verdadera causa del desempleo generalizado, porque su funcionamiento no podía confirmarse mediante relaciones directamente observables entre magnitudes mensurables, y que una concentración casi exclusiva en fenómenos superficiales cuantitativamente mensurables ha producido una política que ha empeorado las cosas.

Naturalmente, hay que admitir que la clase de teoría que considero como la verdadera explicación del desempleo es una teoría de contenido algo limitado, porque sólo nos permite hacer predicciones muy generales sobre el tipo de acontecimientos que debemos esperar en una situación dada. Pero los efectos sobre la política de las construcciones más ambiciosas no han sido muy afortunados y confieso que prefiero un conocimiento verdadero pero imperfecto, aunque deje muchas cosas indeterminadas e impredecibles, a una pretensión de conocimiento exacto que es probable que sea falso. El crédito que puede obtenerse por la aparente conformidad con los estándares científicos reconocidos para teorías aparentemente simples pero falsas puede, como lo demuestra el presente caso, tener graves consecuencias.

En realidad, en el caso analizado, las mismas medidas que la teoría “macroeconómica” dominante ha recomendado como remedio para el desempleo, a saber, el aumento de la demanda agregada, se han convertido en causa de una muy amplia mala asignación de recursos que probablemente hará inevitable un desempleo en gran escala más adelante. La inyección continua de cantidades adicionales de dinero en puntos del sistema económico donde crea una demanda temporal que debe cesar cuando el aumento de la cantidad de dinero se detiene o se desacelera, junto con la expectativa de un aumento continuo de los precios, atrae mano de obra y otros recursos hacia empleos que pueden durar sólo mientras el aumento de la cantidad de dinero continúe al mismo ritmo, o tal vez incluso sólo mientras continúe acelerándose a un ritmo dado. Lo que esta política ha producido no es tanto un nivel de empleo que no se podría haber logrado de otras maneras, sino una distribución del empleo que no se puede mantener indefinidamente y que después de algún tiempo sólo puede mantenerse mediante una tasa de inflación que conduciría rápidamente a una desorganización de toda la actividad económica. El hecho es que una visión teórica errónea nos ha llevado a una posición precaria en la que no podemos impedir que reaparezca un desempleo sustancial; no porque, como a veces se tergiversa esta visión, este desempleo se produzca deliberadamente como un medio para combatir la inflación, sino porque ahora está destinado a ocurrir como una consecuencia profundamente lamentable pero ineludible de las políticas equivocadas del pasado, tan pronto como la inflación deje de acelerarse.

Ahora bien, debo dejar de lado estos problemas de importancia práctica inmediata que he presentado principalmente como una ilustración de las consecuencias trascendentales que pueden derivarse de errores relativos a problemas abstractos de la filosofía de la ciencia. Hay tantos motivos para estar preocupados por los peligros a largo plazo creados en un campo mucho más amplio por la aceptación acrítica de afirmaciones que tienen la apariencia de ser científicas como los hay con respecto a los problemas que acabo de analizar. Lo que principalmente quería destacar con la ilustración temática es que, ciertamente en mi campo, pero creo que también en general en las ciencias humanas, lo que superficialmente parece el procedimiento más científico es a menudo el más acientífico y, más allá de esto, que en estos campos hay límites definidos a lo que podemos esperar que la ciencia logre. Esto significa que confiar a la ciencia -o al control deliberado según principios científicos- más de lo que el método científico puede lograr puede tener efectos deplorables. Por supuesto, el progreso de las ciencias naturales en los tiempos modernos ha excedido tanto todas las expectativas que cualquier sugerencia de que pueda tener ciertos límites está destinada a despertar sospechas. En particular, se opondrán a esta idea aquellos que han tenido la esperanza de que nuestro creciente poder de predicción y control, generalmente considerado como el resultado característico del avance científico, aplicado a los procesos sociales, nos permitiría pronto moldear la sociedad enteramente a nuestro gusto. Es cierto que, en contraste con el regocijo que tienden a producir los descubrimientos de las ciencias físicas, los conocimientos que obtenemos del estudio de la sociedad tienen con mayor frecuencia un efecto moderador sobre nuestras aspiraciones; y tal vez no sea sorprendente que los miembros más jóvenes y más impetuosos de nuestra profesión no siempre estén dispuestos a aceptarlo. Sin embargo, la confianza en el poder ilimitado de la ciencia se basa con demasiada frecuencia en la falsa creencia de que el método científico consiste en la aplicación de una técnica ya hecha o en imitar la forma más que la sustancia del procedimiento científico, como si sólo fuera necesario seguir algunas recetas de cocina para resolver todos los problemas sociales. A veces casi parece como si las técnicas de la ciencia se aprendieran más fácilmente que el pensamiento que nos muestra cuáles son los problemas y cómo abordarlos.

El conflicto entre lo que el público espera que la ciencia logre en la actualidad para satisfacer las esperanzas populares y lo que realmente está a su alcance es un asunto serio porque, incluso si todos los verdaderos científicos reconocieran las limitaciones de lo que pueden hacer en el campo de los asuntos humanos, mientras el público espere más, siempre habrá algunos que pretendan, y tal vez crean honestamente, que pueden hacer más para satisfacer las demandas populares de lo que realmente está a su alcance. A menudo es bastante difícil para el experto, y ciertamente en muchos casos imposible para el profano, distinguir entre afirmaciones legítimas e ilegítimas presentadas en nombre de la ciencia. La enorme publicidad dada recientemente por los medios de comunicación a un informe que se pronuncia en nombre de la ciencia sobre Los límites del crecimiento, y el silencio de los mismos medios sobre la crítica devastadora que este informe ha recibido de los expertos competentes, deben hacer que uno se sienta un poco aprensivo sobre el uso que se puede dar al prestigio de la ciencia. Pero no es sólo en el campo de la economía donde se hacen afirmaciones de gran alcance en favor de una dirección más científica de todas las actividades humanas y de la conveniencia de reemplazar los procesos espontáneos por un “control humano consciente”. Si no me equivoco, la psicología, la psiquiatría y algunas ramas de la sociología, por no hablar de la llamada filosofía de la historia, están aún más afectadas por lo que he llamado el prejuicio cientificista y por afirmaciones engañosas sobre lo que la ciencia puede lograr.

Si queremos salvaguardar la reputación de la ciencia y evitar la arrogancia de conocimientos basada en una similitud superficial de procedimientos con los de las ciencias físicas, habrá que dedicar muchos esfuerzos a desacreditar tales arrogancias, algunas de las cuales ya se han convertido en intereses creados de departamentos universitarios establecidos. No podemos estar lo suficientemente agradecidos a filósofos de la ciencia modernos como Sir Karl Popper por darnos una prueba mediante la cual podemos distinguir entre lo que podemos aceptar como científico y lo que no, una prueba que estoy seguro de que algunas doctrinas que hoy se aceptan ampliamente como científicas no pasarían. Sin embargo, hay algunos problemas especiales en relación con esos fenómenos esencialmente complejos de los que las estructuras sociales son un ejemplo tan importante, que me hacen desear volver a enunciar, para concluir, en términos más generales las razones por las que en estos campos no sólo hay obstáculos absolutos para la predicción de acontecimientos específicos, sino por las que actuar como si poseyéramos conocimientos científicos que nos permitieran trascenderlos puede convertirse en sí mismo en un serio obstáculo para el avance del intelecto humano.

El punto principal que debemos recordar es que el gran y rápido avance de las ciencias físicas tuvo lugar en campos en los que se demostró que la explicación y la predicción podían basarse en leyes que explicaban los fenómenos observados como funciones de relativamente pocas variables, ya fueran hechos particulares o frecuencias relativas de eventos. Esta puede ser incluso la razón última por la que singularizamos estos reinos como “físicos” en contraste con esas estructuras más altamente organizadas que aquí he llamado fenómenos esencialmente complejos. No hay razón para que la posición deba ser la misma en estos últimos campos que en los primeros. Las dificultades que encontramos en estos últimos no son, como uno podría sospechar a primera vista, dificultades para formular teorías para la explicación de los eventos observados, aunque causan también dificultades especiales para probar las explicaciones propuestas y, por lo tanto, para eliminar las teorías malas. Se deben al problema principal que surge cuando aplicamos nuestras teorías a cualquier situación particular en el mundo real. Una teoría de fenómenos esencialmente complejos debe referirse a un gran número de hechos particulares; y para derivar una predicción de ella, o para probarla, tenemos que determinar todos estos hechos particulares. Una vez que hayamos logrado esto, no debería haber ninguna dificultad particular en derivar predicciones comprobables: con la ayuda de las computadoras modernas debería ser bastante fácil insertar estos datos en los espacios en blanco apropiados de las fórmulas teóricas y derivar una predicción. La verdadera dificultad, a cuya solución la ciencia tiene poco que aportar, y que a veces es realmente insoluble, consiste en la determinación de los hechos particulares.

Un ejemplo sencillo mostrará la naturaleza de esta dificultad. Consideremos un juego de pelota jugado por unas cuantas personas con una habilidad aproximadamente igual. Si conociéramos algunos hechos particulares además de nuestro conocimiento general de la habilidad de los jugadores individuales, como su estado de atención, sus percepciones y el estado de sus corazones, pulmones, músculos, etc. en cada momento del juego, probablemente podríamos predecir el resultado. De hecho, si estuviéramos familiarizados tanto con el juego como con los equipos, probablemente tendríamos una idea bastante precisa de lo que dependerá el resultado. Pero, por supuesto, no seremos capaces de determinar esos hechos y, en consecuencia, el resultado del juego estará fuera del rango de lo científicamente predecible, por muy bien que sepamos qué efectos tendrán determinados eventos en el resultado del juego. Esto no significa que no podamos hacer predicciones en absoluto sobre el curso de un juego de ese tipo. Si conocemos las reglas de los diferentes juegos, al observar uno, muy pronto sabremos qué juego se está jugando y qué tipo de acciones podemos esperar y cuáles no. Pero nuestra capacidad de predecir se limitará a las características generales de los acontecimientos que se esperan y no incluirá la capacidad de predecir acontecimientos individuales particulares.

Esto corresponde a lo que he llamado antes las predicciones de patrones simples a las que nos vemos cada vez más confinados a medida que nos adentramos desde el reino en el que prevalecen leyes relativamente simples hacia el rango de fenómenos donde impera la complejidad organizada. A medida que avanzamos, descubrimos cada vez con mayor frecuencia que, de hecho, sólo podemos determinar algunas, pero no todas, las circunstancias particulares que determinan el resultado de un proceso dado; y, en consecuencia, sólo podemos predecir algunas, pero no todas, las propiedades del resultado que debemos esperar. A menudo, todo lo que podremos predecir será alguna característica abstracta del patrón que aparecerá: relaciones entre tipos de elementos sobre los que individualmente sabemos muy poco. Sin embargo, como estoy ansioso por repetir, todavía lograremos predicciones que pueden ser refutadas y que, por lo tanto, tienen importancia empírica.

Por supuesto, comparadas con las predicciones precisas que hemos aprendido a esperar en las ciencias físicas, este tipo de predicciones basadas en patrones es una segunda opción con la que no nos gusta tener que conformarnos. Sin embargo, el peligro del que quiero advertir es precisamente la creencia de que para poder reclamar la aceptación científica es necesario lograr más. Este camino conduce a la charlatanería y a cosas peores. Actuar con la creencia de que poseemos el conocimiento y el poder que nos permiten moldear los procesos de la sociedad totalmente a nuestro gusto, conocimiento que en realidad no poseemos, es probable que nos haga mucho daño. En las ciencias físicas puede haber pocas objeciones a tratar de hacer lo imposible; uno podría incluso sentir que no se debe desanimar a los demasiado confiados porque sus experimentos pueden, después de todo, producir algunas nuevas ideas. Pero en el campo social, la creencia errónea de que el ejercicio de cierto poder tendría consecuencias beneficiosas es probable que conduzca a que se confiera a alguna autoridad un nuevo poder para coaccionar a otros hombres. Aunque ese poder no sea malo en sí mismo, es probable que su ejercicio impida el funcionamiento de esas fuerzas ordenadoras espontáneas que, sin comprenderlas, ayudan al hombre en gran medida a alcanzar sus objetivos. Apenas estamos empezando a comprender en qué sutil sistema de comunicación se basa el funcionamiento de una sociedad industrial avanzada, un sistema de comunicaciones que llamamos mercado y que resulta ser un mecanismo más eficiente para digerir información dispersa que cualquier otro que el hombre haya diseñado deliberadamente.

Si el hombre no quiere hacer más daño que bien en sus esfuerzos por mejorar el orden social, tendrá que aprender que en éste, como en todos los demás campos donde prevalece una complejidad esencial de tipo organizado, no puede adquirir el conocimiento pleno que haría posible el dominio de los acontecimientos. Por lo tanto, tendrá que utilizar el conocimiento que pueda adquirir, no para dar forma a los resultados como el artesano da forma a su obra, sino más bien para cultivar una planta proporcionando el ambiente apropiado, a la manera en que el jardinero hace esto con sus plantas. Existe peligro en el exuberante sentimiento de poder cada vez mayor que ha engendrado el avance de las ciencias físicas y que tienta al hombre a intentar, "mareado por el éxito", para usar una frase característica del comunismo primitivo, someter no sólo nuestro entorno natural sino también nuestro entorno humano al control de una voluntad humana. El reconocimiento de los límites insuperables de su conocimiento debería, de hecho, enseñar al estudiante de la sociedad una lección de humildad que debería protegerlo de convertirse en cómplice del esfuerzo fatal de los hombres por controlar la sociedad, un esfuerzo que lo convierte no sólo en un tirano de sus semejantes, sino que bien puede convertirlo en el destructor de una civilización que ningún cerebro ha diseñado, sino que ha crecido a partir de los esfuerzos libres de millones de individuos.

Fuente: Friedrich August von Hayek – Prize Lecture. NobelPrize.org. Nobel Prize Outreach AB 2024. Dom. 29 de septiembre de 2024. <https://www.nobelprize.org/prizes/economic-sciences/1974/hayek/lecture/>

jueves, 13 de julio de 2023

Un loro estocástico en la habitación china: ¿qué nos enseña ChatGPT sobre la mente humana?


Si le preguntamos a ChatGPT, el programa de generación de lenguaje de moda, qué es ChatGPT y cómo funciona, nos escribe –en tres o cuatro segundos– lo siguiente (que además ha traducido del inglés):

ChatGPT es un modelo de lenguaje natural basado en el modelo GPT-3 de Openai. Es un modelo de aprendizaje profundo que utiliza una arquitectura de red neuronal de transformador para generar texto. Cuando se le da una entrada de texto, ChatGPT utiliza una técnica llamada “aprendizaje por refuerzo” para producir una respuesta coherente y relevante. El modelo analiza la entrada de texto y utiliza su conocimiento previo del lenguaje para generar una respuesta que tenga sentido en el contexto dado. Para generar texto, ChatGPT utiliza una gran cantidad de datos lingüísticos, que se han pre-entrenado en una gran variedad de tareas de procesamiento de lenguaje natural. Esto le permite a ChatGPT producir respuestas coherentes y relevantes en una variedad de temas y contextos.

Aunque seguramente el lector habrá entendido bastante bien la definición, que es esencialmente correcta, lo maravilloso es que el algoritmo que la ha escrito no entiende ni una palabra de lo que dice. Tampoco sabía que unos seres humanos iban a leer su texto, y ni siquiera sabe qué es un ser humano.

ChatGPT es una herramienta de ingeniería sorprendente y sofisticada, además de extraordinariamente útil. Su potencial, incluyendo su uso comercial, está llamado a ser enorme y, como ya se está señalando intensamente, podría incluso ser peligroso (el psicolingüista y experto en Inteligencia Artificial Gary Marcus ha sido especialmente prolífico en esta alarma). Sin duda, para lo bueno y para lo malo, en la tecnología del procesamiento del lenguaje natural sí va a haber un antes y un después marcado por esta última generación de los llamados modelos masivos del lenguaje (LLM por las siglas de large language models). Pero seguramente no habrá tal cambio radical, en contra de lo que han sugerido numerosos autores, en lo que respecta a nuestro conocimiento del lenguaje y de la mente humanos.

El cerebro humano y la habitación china

Continuemos con otra prueba de la utilidad práctica de ChatGPT, puesto que en este punto pensaba desarrollar este ensayo introduciendo el concepto de “habitación china” de John Searle, pues viene al pelo cuando se discute qué tipo de conocimiento tiene realmente un sistema de IA como este modelo del lenguaje. Para ello, tendría que pensar qué voy a decir sobre la habitación china y cómo, recordar dónde leí sobre esa idea de Searle, y quizá buscar en la estantería algún libro para refrescar el concepto y su formulación (creo que era uno de Crick… ¿O era Damasio?). Pero ahora, en lugar de pensar, ponernos de pie para tomar un volumen de la estantería, consultarlo, volver a pensar y sentarnos a escribir, también podemos teclearle a ChatGPT “describe qué es la habitación china de Searle” y, de forma gratuita e instantánea (2-3 segundos), nos hace el trabajo:

La habitación china es un experimento mental propuesto por el filósofo John Searle en 1980 para cuestionar la capacidad de las máquinas para entender y procesar información de la misma manera que lo hacen los seres humanos. En el experimento, se imagina a una persona encerrada en una habitación que no habla chino, pero que tiene a su disposición un conjunto de reglas que le permiten manipular símbolos en chino en respuesta a ciertas entradas. Por ejemplo, si se le presenta una pregunta en chino, la persona consulta sus reglas y produce una respuesta en chino sin tener una comprensión real del lenguaje. Searle argumenta que, aunque la persona puede producir respuestas que parezcan adecuadas a los hablantes nativos de chino que interactúan con ella, en realidad no comprende lo que está diciendo ni tiene una verdadera capacidad para procesar información en chino. Del mismo modo, argumenta que una máquina que imita este tipo de procesamiento de símbolos no puede tener una comprensión real del lenguaje o del mundo en el mismo sentido que los seres humanos. La habitación china se ha utilizado como un ejemplo popular en la filosofía de la mente y la inteligencia artificial para ilustrar las limitaciones de la programación basada en reglas y la necesidad de desarrollar nuevas teorías de la cognición y el procesamiento del lenguaje.

Por supuesto, ChatGPT no sabe quién era Searle, qué es el chino ni hasta qué punto nuestros propios cerebros, que sí saben esas cosas, realmente lo saben. Mi argumento, en adelante, será que ChatGPT, en lo que respecta al conocimiento del lenguaje, es una “habitación china” y tiene poco que enseñarnos sobre la naturaleza del lenguaje humano y la mente que lo construye y usa.

Como era de esperar, algunos filósofos han alegado que el experimento mental de Searle no sirve para rechazar la capacidad de conocimiento de la IA, dado que bien pudiera ser que nuestros propios cerebros sean también habitaciones chinas. Deberíamos entonces concluir que, aunque hubiera un hablante de chino de verdad dentro de la famosa habitación, su cerebro funcionaría como la habitación china en la que está. De hecho, no cabe duda de que, en un cierto nivel, nuestro “conocimiento”, sea de Searle, del chino o de nosotros mismos, estará soportado por tejidos o grupos de células que se comportan como el individuo de la habitación china, o como el propio algoritmo que anima a ChatGPT: moviendo pedazos de información incomprensible de un sitio a otro. Pero, aunque eso sea cierto, no significa necesariamente que no podamos decir que “sabemos” cosas y que “sabemos que las sabemos”.

En todo caso, más allá de las paradojas y misterios profundos de la consciencia y de la naturaleza misma del conocimiento, la cuestión relevante ahora es si ChatGPT tiene un conocimiento del lenguaje análogo o comparable al que tenemos los seres humanos. Los muchos científicos que creen que sí son los que defienden que ChatGPT es un modelo útil para explicar mejor cómo es posible que podamos aprender y usar la lengua del entorno (e incluso algunos, como Steven Piantadosi, afirman que estos sistemas son auténticas teorías del lenguaje), mientras que los científicos que creen que no (por ejemplo, Chomsky, Roberts y Watumull) rechazan que los modelos masivos del lenguaje sean relevantes para comprender mejor nuestra capacidad del lenguaje, por mucho que sí sean útiles como productos de ingeniería.

Para entender cómo pueden existir esas discrepancias es relevante que primero sepamos cómo funcionan realmente estos sistemas de generación de lenguaje. Solo después podremos valorar si lo que sabemos sobre cómo el cerebro humano aprende y usa el lenguaje es comparable o equivalente, o no lo es.

Dentro del loro estocástico: ¿cómo funciona Chatgpt?

La lingüista Emily Bender ha popularizado la denominación de loros estocásticos para los modelos masivos del lenguaje porque la expresión reúne los dos rasgos esenciales de su funcionamiento: no entienden lo que dicen y se basan esencialmente en calcular las probabilidades que tiene una palabra de aparecer después de otra. Y, en efecto, lo que hace ChatGPT realmente es calcular la probabilidad de que aparezca una palabra gráfica teniendo en cuenta las palabras gráficas que ya lleva encadenadas.

He usado la expresión “palabra gráfica” porque, a diferencia de lo que sucede con el lenguaje humano, ChatGPT no opera con auténticas unidades lingüísticas (es decir, morfemas y lexemas, entidades con significado), sino con tokens, esto es, secuencias de combinaciones muy frecuentes de letras. Los programadores de OpenAI han descubierto que los resultados son mejores con estos tokens, que en inglés son secuencias de unos cuatro caracteres, de manera que un token equivale en realidad a unos “tres cuartos” de palabra gráfica en inglés (100 tokens=75 palabras gráficas). Los tokens que maneja ChatGPT son, de alguna manera, el equivalente en la lengua escrita de las sílabas de la lengua oral: secuencias recurrentes de unidades básicas sin correlación con el significado. No hay, que se sepa, una motivación teórica detrás de esa práctica, sino una mayor eficacia y flexibilidad en la tarea de predecir la próxima palabra (entendida a partir de ahora como “secuencia frecuente de caracteres”) teniendo en cuenta prácticamente todo lo que se ha escrito en inglés y estaba digitalizado.

Pero ¿de dónde salen las probabilidades que el programa emplea para valorar qué palabra escribir a continuación de la que acaba de escribir? No se trata de calcular la probabilidad de la siguiente palabra teniendo en cuenta la última usada, sino teniendo en cuenta todas las ya empleadas (de modo contrario no se generaría texto coherente y con apariencia natural, sino una secuencia confusa y repetitiva).

Sin embargo, según los cálculos de Wolfran, simplemente no hay suficiente texto en inglés escrito en el mundo para poder calcular las probabilidades de grupos de palabras. Partiendo de un léxico de unas 50.000 palabras (el número aproximado de tokens que usa ChatGPT), las combinaciones posibles de, por ejemplo, secuencias de tres palabras pasan de sesenta trillones; para combinaciones de veinte palabras el número de posibilidades es mayor que el número de partículas del universo, luego no hay –ni nunca podría haber– suficiente texto escrito en el mundo para que se pudieran calcular esas probabilidades.

Por tanto, lo que hace ChatGPT para instanciar su habilidad básica de adivinar cómo continuar el fragmento de texto que se le da es usar un modelo (una enorme función matemática) que permite estimar las probabilidades de que aparezcan ciertas secuencias de palabras tras ciertas secuencias de palabras, aunque esas secuencias nunca hayan aparecido en el corpus de entrenamiento. Así, ChatGPT es esencialmente un modelo matemático de la distribución de los tokens en el enorme corpus con el que se ha entrenado.

Para conseguir esto, ChatGPT está formado por una enorme red neural que ha sido entrenada con una cantidad inmensa de textos (un corpus de un tamaño de unos 500.000 millones de palabras). Una clave del entrenamiento de esa red neural para que aprenda a continuar textos que tengan apariencia coherente es cebarla con textos incompletos (a los que se les ha quitado un fragmento del final) y usar como output de objetivo del entrenamiento el texto completo, de manera que se pasan los ejemplos de entrenamiento hasta que la red proporciona el texto completo original (o uno muy similar) y entonces se fijan los pesos o valores numéricos de cada nodo de la enorme red (esos pesos son los que permiten luego hacer los cálculos de probabilidades).

Cada palabra/token (del total de 50.000) está caracterizada por una lista de números (las palabras que tienden a aparecer en los mismos contextos tienen números más parecidos). Partiendo de ahí, también se pueden caracterizar secuencias frecuentes de palabras por listas de números. Y eso es lo que hace ChatGPT cuando interactúa con el usuario: toma el texto que se le da (el prompt que introduce el usuario) y lo convierte en un vector de números que procesa. Como hay unas 50.000 palabras en el diccionario, lo que obtiene es una lista de 50.000 números que dan las probabilidades de cada una de las palabras posibles. De forma muy ingeniosa, ChatGPT no usa siempre la palabra más probable, sino que aleatoriamente escoge de vez en cuando una de menor probabilidad (dentro, por supuesto, de la parte alta de la lista). Al parecer, eso tiene como efecto que los textos sean menos “planos” y más originales. Esta “libertad” de la tiranía probabilística sin duda contribuye a la apariencia más humana de la conversación con ChatGPT con respecto a otros competidores y a versiones anteriores.

Según Wolfram, la red neural tiene unos 175.000 millones de “pesos” asignados y cada vez que genera un token tiene que hacer cálculos con todos esos pesos (Wolfram se refiere a GPT-3, la versión previa a la GPT-4 que incorpora ahora ChatGPT). Así, cada vez que añade una palabra al texto que genera, el sistema ha tenido que hacer unos 175.000 millones de cálculos numéricos (esto es, aplicar a las matrices numéricas de input los pesos de cada una de las conexiones para generar el output).

Las siglas GPT están por generative pre-trained transformer (transformador generativo preentrenado) y la última parte es, al parecer, la tecnología más novedosa. El llamado transformer es el recurso de arquitectura de redes neurales que permite que la predicción de las palabras siguientes tenga en cuenta las que ha ido procesando antes. Como ChatGPT no sabe de qué está hablando, ni tiene ninguna intención comunicativa, los programadores han encontrado que el medio para que mantenga cierta coherencia es volviendo atrás y recalculando las probabilidades, de unas 50.000 opciones cada vez, de la siguiente palabra. La probabilidad de la siguiente palabra también estará afectada por la última que el propio sistema ha añadido, y otra vez se repite el proceso. En algún momento, ChatGPT encuentra un punto y entonces termina la frase y empieza otra, o se queda “callado”.

La otra característica esencial de ChatGPT, y que está en buena medida detrás de su éxito en la creación de texto coherente (y en convencer al usuario de que realmente está dialogando con él) es que también se ha entrenado la red neural con feedback de usuarios humanos. Los lectores humanos detectan divagaciones, repeticiones y pérdidas de coherencia (o faltas de educación) y valoran esos resultados, de manera que el sistema reajusta sus operaciones en función de esas valoraciones. Así, se crea otra red neural auxiliar que aprende de esas valoraciones y modula el output de la red principal.

Una idea esencial que ya podemos apreciar es que ChatGPT no opera con unidades lingüísticas, sino con grupos de caracteres, esto es, letras. Por tanto, no tiene manera (ni capacidad) de vincular las secuencias de letras con significados de ningún tipo. Lo único que “sabe” ChatGPT es con qué frecuencia aparecen los grupos de caracteres al lado de otros grupos de caracteres, y en ello se basa para generar cadenas “plausibles” de caracteres, incluyendo los espacios en blanco entre ellos. Aunque pueda sonar despectivo, se merece el apodo de loro estocástico. Todo el significado que puedan tener sus respuestas es el que aporta el usuario que las lee (y que, inevitablemente, tiende a atribuir a su inorgánico interlocutor).

Muchos de los lingüistas y psicólogos que afirman que ChatGPT es un modelo del lenguaje humano que nos puede permitir entenderlo mejor (y que incluso puede refutar algunas aproximaciones científicas al mismo) parecen pasar por alto que precisamente todo el enorme esfuerzo de entrenamiento y computación que implica ChatGPT(incluyendo un enorme consumo energético) se hace precisamente para poder generar texto aparentemente coherente sin entender lo que se dice. Así, salvo desde el punto de vista cínico que dice que nosotros tampoco entendemos lo que decimos (que somos habitaciones chinas), es difícil imaginar por qué alguien podría pensar que este programa es un modelo realista de lo que hacemos los humanos cuando hablamos, dado que nosotros, aunque no sepamos cómo, sí entendemos, la mayoría de las veces, lo que decimos.

El lenguaje humano según Chatgpt

En realidad, no es tan difícil imaginar por qué hay autores que sí creen que ChatGPT es un modelo del lenguaje humano: porque desconocen cómo es el lenguaje humano. El razonamiento típico sería, más o menos, así: como ChatGPT produce oraciones gramaticales y solo sabe de probabilidades de coaparición de palabras, entonces la gramática de las lenguas es una cuestión de probabilidad de aparición de unas palabras al lado de otras. Problema resuelto.

Pero para validar esta lógica hay que asumir que ChatGPT crea oraciones gramaticales como lo hacen los seres humanos. Y esto es mucho asumir. Aunque ChatGPT y sus parientes se denominan modelos de lenguaje, lo que pretenden modelizar no es el lenguaje humano entendido como una capacidad cognitiva (esto es, el sistema de conocimiento o facultad que nos permite aprender y usar una lengua cualquiera), sino la probabilidad de aparición de grupos de caracteres junto a otros grupos de caracteres, basándose en las frecuencias observadas en los textos de entrenamiento. Y eso no es un modelo del lenguaje humano.

Para entender mejor por qué no lo es, debemos prestar atención a una distinción crucial que los autores mencionados tienden a pasar por alto: el lenguaje visto desde el punto de vista interno (el lenguaje como capacidad) y el lenguaje visto desde el punto de vista externo (el lenguaje como producto).

Pensemos por un momento qué es realmente el inglés (por usar como ejemplo la lengua en la que se ha entrenado a ChatGPT centralmente). Según la perspectiva del lenguaje interno (la perspectiva de la lingüística como ciencia cognitiva), el inglés es un sistema de conocimiento que se ha desarrollado en el cerebro de las personas que hablan inglés (por simplificar la exposición, pensemos en los hablantes nativos de esta lengua). Llamemos a ese sistema de conocimiento, siguiendo a Noam Chomsky, la lengua-i (i de interna e intensional). Una lengua-i consiste mínimamente en un repertorio de conceptos o significados asociados a cadenas de fonemas (palabras en sentido estricto) y un conjunto de reglas gramaticales para construir oraciones con ellas. Por su parte, la lengua-e (e de externa y extensional) sería la suma de todas las oraciones producidas por los hablantes de una lengua dada, por ejemplo, el corpus de todo lo que se ha escrito en inglés en los últimos trescientos años (al que aún habría que añadir todas las oraciones que los miles de millones de hablantes que ha habido de esa lengua en la historia han pronunciado sin llegar a escribirlas nunca; sin duda, muchísimas más que las que han sido escritas). Los lingüistas internistas, con Chomsky a la cabeza, creen que el objeto de estudio de la lingüística como ciencia es la lengua-i (el sistema de conocimiento que hay en los cerebros de las personas), mientras que la lengua-e es un objeto inabarcable e incoherente. Donde existe realmente el inglés es en los cerebros de sus hablantes, no “ahí fuera”.

Los lingüistas externistas creen, por el contrario, que lo que realmente existe es la lengua-e, una especie de constructo sociocultural que pasa de generación en generación, siendo la lengua-i una copia imperfecta de la lengua-e en los cerebros de las personas, desarrollada en los mismos, como decía Ferdinand de Saussure, por la práctica del habla. Independientemente de quién tenga razón, lo que parece claro es que ChatGPT es un modelo de la lengua-e, no de la lengua-i.

Es un hecho objetivo, en todo caso, que cualquier persona puede crear y entender centenares de miles de oraciones distintas, que no ha oído nunca antes. Se ha calculado que cuando estamos hablando podemos elegir unas diez palabras distintas después de la última que hemos usado. En algunas ocasiones solo vale una (detrás de sin ton ni _ solo cabe son), en otras ocasiones sirven centenares de ellas (como detrás de me comería un _), siendo diez la media, según cálculos que menciona el psicolingüista Steven Pinker. Si una persona puede hacer oraciones de veinte palabras (cualquiera de este texto tiene bastantes más) y detrás de cada palabra que usa puede escoger de entre otras diez, entonces el número de oraciones diferentes que una persona puede crear y entender es de 1020 (o sea, cien trillones de oraciones distintas), y eso limitando absurdamente la extensión máxima de una oración a veinte palabras. De nuevo según cálculos de Pinker, solo esos cien trillones de oraciones de veinte palabras requerirían de una infancia de unos cien billones de años para aprenderlas (asumiendo unos cinco segundos para aprender cada oración). Dado que esto es obviamente absurdo, siendo además que el cerebro humano “solo” tiene unos 80.000 millones de neuronas, los lingüistas internistas asumen que los hablantes disponen de un sistema generativo de reglas, mecanismos o principios que les permiten crear cada una de esas cien trillones de oraciones distintas de veinte palabras que podrían pronunciar y entender si vivieran lo suficiente.

¿Dispone ChatGPT de ese sistema? No hay evidencias de que así sea. Es importante tener en cuenta que una parte central del mecanismo generativo del lenguaje humano es la estructura jerárquica de constituyentes, que básicamente implica que las oraciones del lenguaje humano (del inglés o de cualquier lengua) no son secuencias lineales de palabras (aunque así aparecen en el habla o en la escritura), sino agrupamientos de palabras en “cajas” o constituyentes, contenidos unos en otros, que determinan el significado que realmente tienen las oraciones. La frase nominal El traficante de armas de Rusia es ambigua porque la secuencia lineal puede reflejar tanto una estructura en la que de Rusia modifica a armas (en cuyo caso entendemos que las armas son de Rusia, aunque el traficante puede ser de otro sitio), como una en la que de Rusia modifica al constituyente formado por traficante de armas, en cuyo caso entendemos que quien es de Rusia es el traficante, pudiendo ser las armas de otro sitio. En el primer caso, tenemos la estructura simplificada de (1a), en la que la secuencia armas de Rusia forma un constituyente, y en el segundo, la de (1b), en la que no lo hace:

(1)

a. El traficante de [armas de Rusia]

b. El [traficante de armas] [de Rusia]

La estructura sintáctica es inaudible e invisible (y no está en las ondas sonoras ni en las secuencias lineales de palabras que forman los textos), pero es crucial para interpretar el significado de las secuencias de palabras que nos llegan y para construir los pensamientos complejos y proposiciones que los humanos creamos y (a veces) comunicamos.

En (1b) de Rusia no puede modificar a armas porque no tiene acceso estructural a ese nombre (de quien depende sintácticamente es del nombre traficante), mientras que en (1a) de Rusia tiene que modificar a armas y no puede acceder a traficante. No hay manera de explicar estas asimetrías, ubicuas en el lenguaje humano, analizando la sintaxis como una secuencia lineal basada en el encadenamiento probabilístico de palabras, que es lo que hace ChatGPT.

Ya en 1957 Chomsky propuso la célebre oración, absurda pero perfectamente gramatical, Las ideas verdes incoloras duermen furiosamente (Colorless green ideas sleep furiously) precisamente para mostrar que la generación del lenguaje humano no se puede modelizar como un sistema de encadenamiento de la palabra más probable (más esperable) respecto de la anterior, sino empleando mecanismos formales independientes del significado de cada palabra. Esta característica de diseño del lenguaje, esto es, un mecanismo generativo que crea estructuras jerárquicas usando categorías sintácticas (nombre, verbo, conjunción, etc.) independientemente del contenido léxico de cada ítem (mesa, comer, que, etc.) es lo que realmente puede ayudar a explicar la capacidad de los hablantes de lenguas humanas de crear y comunicar ideas nuevas y albergar pensamientos libres del control del estímulo o de las interacciones con otras personas. Pero es importante observar que una sintaxis así es necesaria para crear significados (como los dos de El traficante de armas de Rusia), pero no para encadenar palabras de izquierda a derecha. ChatGPT no usa una estructura de constituyentes simplemente porque no la necesita, dado que no tiene nada que decir.

Hemos considerado cómo funcionan estos modelos masivos de lenguaje y hemos visto que no hay indicios objetivos de ningún tipo de estructura gramatical en esa tarea (y, por supuesto, nada de semántica ni de fonología). Si retomamos la distinción entre lengua-i y lengua-e, estamos en disposición de poder afirmar que de lo que es un modelo ChatGPT es de la lengua-e, no de la lengua-i. Por ello se puede afirmar que es una eficiente herramienta de ingeniería, un logro notable de la IA, pero no que sea un modelo del lenguaje humano, esto es, de la facultad que nos permite crear pensamientos nuevos y originales y volcarlos en sonidos (y estos en caracteres, como los que maneja ChatGPT). Por así decirlo, los seres humanos crean secuencias de caracteres como consecuencia de combinar previamente conceptos empleando una sintaxis recursiva jerárquica, mientras que ChatGPT crea secuencias de caracteres a partir de otras secuencias de caracteres. Es un loro estocástico en una habituación china.

Solo quien realmente crea que las lenguas humanas son conjuntos de textos planos (secuencias lineales de palabras) y que, por tanto, crea que los niños aprenden a hablar memorizando y repitiendo las oraciones que han oído, o calculando la probabilidad de la siguiente palabra, sin entender su significado, puede seguir manteniendo que ChatGPT y sus parientes son modelos del lenguaje humano.Por decirlo de otra manera: ChatGPT es un modelo matemático del producto del uso del lenguaje humano, no de la capacidad de producir el lenguaje humano.

De hecho, podría decirse que afirmar que ChatGPT habla (o escribe) en inglés (o en cualquier otra lengua) es lo mismo que igualar el procedimiento que usó Velázquez con el pincel para pintar Las Meninas con el del fotógrafo que reproduce el famoso cuadro en un mural del mismo tamaño. Puede que el resultado sea superficialmente similar, pero el proceso de creación es radicalmente distinto, y no aprenderemos mucho de la técnica creativa de Velázquez analizando el proceso de revelado de una fotografía de Las Meninas.

¿Es Chatgpt una teoría de la adquisición del lenguaje?

No todos los científicos que opinan que ChatGPT es un modelo del lenguaje humano (capaz incluso de decidir qué teorías del lenguaje son más adecuadas) son “terraplanistas” (en el sentido de que niegan la existencia de la estructura jerárquica de constituyentes). Algunos, aunque admiten que el lenguaje humano no consiste en ristras estocásticas de palabras, sostienen que ChatGPT ha debido, de alguna manera, descubrir los principios para crear esas estructuras a partir del corpus de entrenamiento. Así, a la vez que asumen que ChatGPT es un buen modelo de la mente humana (aunque quienes lo diseñaron no pretendían hacer tal cosa), afirman que ha desmentido la hipótesis (habitualmente asociada a Chomsky) de que existe un sesgo innato para el lenguaje en los seres humanos.

El razonamiento discurre, más o menos, así: puesto que ChatGPT no ha sido equipado con los principios y mecanismos que algunos lingüistas asumen que tienen que ser innatos para poder explicar el aprendizaje del lenguaje (por ejemplo, los mecanismos generativos para producir estructuras sintácticas jerárquicas recursivamente), entonces, como ChatGPT ha aprendido esos principios, la aproximación innatista es falsa.

Otro prodigio de la ingeniería del procesamiento del lenguaje natural, Google Translator, vierte así al español (con ligeras correcciones mías) la afirmación en esta línea del psicólogo cognitivo Seven Piantadosi: “El surgimiento y el éxito de los grandes modelos del lenguaje socava prácticamente todas las afirmaciones sobre el carácter innato del lenguaje que ha propuesto la lingüística generativa. El aprendizaje automático moderno ha subvertido y sobrepasado todo el marco teórico del enfoque de Chomsky”.

No deja de ser curioso (y revelador) que el argumento que emplea Piantadosi para negar que estos sistemas sean loros estocásticos sea exactamente el mismo que empleaba Chomsky en los años cincuenta y sesenta del siglo XX para afirmar que si los humanos aprendieran a hablar simplemente imitando o copiando del habla del ambiente, no se podría explicar su capacidad de crear oraciones nuevas (y aquí cito literalmente, sin traducir, para evitar sospechas de exageración): “If models only repeated what they had seen before, they would not be able to generate anything new, particularly complex sentence structures that are grammatical and coherent.”.

Y también resulta curioso pretender que sea un modelo denominado transformador generativo pre-entrenado (GPT) el que supuestamente habría demostrado que la llamada gramática generativo-transformacional es una empresa científica ilegítima.

Por supuesto, aunque sería sorprendente, la aproximación innatista podría ser falsa. Pero, desde luego, ChatGPT no presenta ninguna evidencia en esa dirección, simplemente porque no es posible afirmar que haya aprendido lengua alguna. Por muy sofisticado que parezca en sus respuestas, ChatGPT no entiende, ni pretende entender, ni una palabra de lo que escribe. No ha interiorizado ninguna gramática con la que crear y combinar conceptos, ni tiene conceptos, ni, por tanto, ha adquirido ninguna lengua por medio de aprendizaje, tal y como hacen los seres humanos. Como antes sugería, para que ChatGPT fuera un modelo del lenguaje humano, las personas deberían emplear el lenguaje sin entenderlo, usando secuencias lineales más probables en ciertos contextos, en vez de construir pensamientos nuevos empleando la gramática interna y luego convirtiéndolos en cadenas de palabras para comunicarse.

Veamos, para concluir, un ejemplo de cómo sabemos que ChatGPT en realidad no ha adquirido una lengua humana y, por tanto, no ha podido deducir de la estadística de las palabras las reglas de la sintaxis. El lingüista computacional Roni Katzir (en una contundente respuesta a Piantadosi) le pregunta a ChatGPT cuál de las dos oraciones siguientes es más aceptable (usando equivalentes en inglés):

(2)

a. La persona que María se encontró ayer y de la que Juan le hablará a Pedro mañana ya ha llegado.

b. La persona que María se encontró ayer y de la que Juan le hablará de una idea nueva a Pedro mañana ya ha llegado.

Aunque ambas son oraciones complejas, cualquier hablante nativo del español que tenga nueve o diez años sabe que la primera es gramatical y la segunda no lo es, a pesar de que ChatGPT considera que la segunda es más aceptable que la primera.

En esencia, lo que sucede en este tipo de construcción es que cuando se coordinan dos oraciones de relativo (en este caso que modifican a la persona), el “hueco” que deja el pronombre relativo tiene que ser igual en las dos (nótese que podemos decir La mujer que vino y que Pedro conocía, pero no La mujer que vino y que Pedro conocía a Luis). Así, vemos que en (2a) falta el objeto de se encontró y el objeto de hablará, mientras que en (2b) falta el objeto de se encontró, pero no falta el objeto de hablará (se ha añadido un de una idea nueva que rellena ese hueco). Por supuesto, eso crea una oración agramatical (hay dos complementos de hablará), aunque ChatGPT la prefiere, simplemente porque, aunque no entiende qué significa, sabe que es muy probable que detrás de hablará aparezca de una nueva idea. Cabe señalar que la restricción que aparece en el ejemplo de (2a), esto es, que si en un coordinando hay un “hueco” también lo tiene que haber en el otro, es una restricción formal a la sintaxis de las lenguas humanas ya descrita en los años sesenta del siglo XX por los lingüistas generativistas, una restricción que los niños humanos adquieren sin esfuerzo y con muchísimos menos datos de entrenamiento que ChatGPT. La conclusión, por tanto, es doble: ChatGPT no ha interiorizado los mecanismos y principios que los humanos emplean para construir oraciones y, por tanto, en modo alguno se puede afirmar que este modelo masivo del lenguaje haya demostrado que las propuestas de la gramática generativa (o de cualquier teoría de la adquisición del lenguaje) sean falsas. Simplemente, los sesgos inductivos que presentamos los humanos y los que presenta ChatGPT son totalmente distintos, por lo que no tiene sentido considerar al segundo un modelo de los primeros. Como concluye Katzir, esta vez traduciendo con un cerebro humano, “una cosa es usar estos modelos para escribir poemas entretenidos y narraciones cortas, y otra muy diferente usarlos para comprender la facultad humana del lenguaje en lugar de hacer lingüística de verdad”. 

Imagen: Eugenia Susel

Fuente: Letras Libres

martes, 23 de mayo de 2023

La realidad, la verdad, la lógica, las falacias y los datos


Comencemos con las falacias, es decir razonamientos con apariencia de verdad pero que son errados. Aristóteles fue el primero en detallar y explicar las falacias y tal vez el listado más abundante fue realizado por David Hackett Fisher quien se refiere a ciento catorce falacias. Aquí nos referimos a diez que son las más comunes en nuestro medio.

Primero, la falacia ad populum, es decir, si lo hacen todos está bien, si no lo hace nadie está mal. Con este criterio no hubiéramos pasado del taparrabos y el garrote pues el primero que empleó el arco y la flecha habría que condenarlo y así con todos los inventos de la humanidad. Segundo, la falacia ad hominem, esto es, referirse peyorativamente a la persona del contrincante y no a su argumentación. Decir, por ejemplo, que la contraparte está equivocada porque es extranjera o porque pertenece a tal o cual religión. Tercero, la falacia de generalización que puede aplicarse al caso de un buen deportista que por ser tal se lo consulta sobre la evolución de la economía o la política a lo que responde entusiasmado el candidato sin percatase de la trampa.

Cuarto, la falacia de carácter transitivo: se dice que una persona está equivocada porque está vinculada a otra que sostiene este o aquel principio. Puede ilustrarse esto con la pretendida refutación de un argumento de A porque es amiga de B y C o porque pertenecen al mismo país o grupo partidario. Quinto, la falacia ad baculum que amenaza con la fuerza no necesariamente física sino referida a cantidad de personas que apoyan la idea del opinante. Sexta, la falacia de autoridad que es la que circunscribe su pretendida razón porque fulano o mengano lo dicen. Séptimo, la falacia ad misericordiam, esto es la pretendida razón apelando a la situación de la persona. La ilustración extrema que es la más citada y la más ridícula es la del parricida que clama perdón por quedar huérfano.

Octava, la falacia de ignorancia que pretende un argumento valedero al concluir que por el hecho de no poder demostrar la falsedad de algo resulta verdadero o, por el contrario, por el hecho de no poder demostrar la veracidad de algo resulta falso. Por ejemplo, sostener que hay serpientes en cierto planeta no lo convierte en verdadero por el hecho de no poder demostrar su falsedad o por el contrario el afirmar que no hay esas serpientes en ese planeta no lo convierten en falso por el hecho de no poder constatar su veracidad. Novena, la falacia de causa falsa, esto es la pretensión de establecer nexo causal por el mero hecho que un acontecimiento precede a otro. Y por último en nuestro inventario en forma de decálogo, la petición de principio, la cual se presenta reiterando en la conclusión lo mismo que se estableció en la premisa.

Respecto al valor de los datos estadísticos y los gráficos, ponemos en una cápsula lo que hemos desarrollado detenidamente en otra oportunidad en este mismo medio en torno al slogan de aquello que dato mata relato. Ahora solo decimos que si fuera cierto que dato mata relato no habría relato pues hubiera fenecido dado el abarrotamiento de estadísticas que aparecen por doquier, sin embargo observamos que los relatos no sólo no han muerto sino que se multiplican con audiencias cada vez mayores en nuestra época.

¿Por qué ocurre esta llamativa multiplicación? Pues porque el debate de fondo no tiene lugar entre dato y relato sino en un plano anterior y de mucho mayor peso, cual es la confrontación entre interpretaciones contrarias de los nexos causales de la realidad y recién entonces, una vez comprendidos estos nexos, puede agregarse como una demostración de aquella refutación rigurosa la serie estadística en cuestión que ya en esa instancia sirve para reconfirmar el punto.

Esto que dejamos consignado lo ha explicado el premio Nobel en economía Friedrich Hayek en un célebre y notable texto titulado "The Facts in Social Sciences" donde muestra la gran diferencia entre las ciencias naturales y las sociales. Señala que en el primer caso se observan hechos como la mezcla entre un líquido y otro en el laboratorio produce tal o cual resultado, sin embargo en ciencias sociales no hay laboratorio sino que enfrentamos fenómenos complejos que hay que interpretar todos ellos, no hay las reacciones de laboratorio sino que hay acciones humanas que requiere se las entienda. En otras palabras, si por ejemplo el historiador se propone describir la Revolución Francesa aun viviendo en la época no la entenderá con solo mirar los movimientos de los personajes, debe interpretar el sentido y la razón de lo que ocurre (para no decir nada de los que no la vivieron que deben reinterpretar lo que otros interpretaron). Es decir, si alguien sostuviera que ese acontecimiento se produjo porque Luis XVI estornudó no hay forma de refutarlo en los hechos, solo se puede explicar a través del desarrollo de nexos causales.

Lo que venimos comentando desde luego no significa que cada cual tenga su interpretación y todas sean valederas, habrá unas que se acercan más a lo sucedido que otras y las habrá que dan en el clavo. El asunto entonces no es caer en la ingenua posición de sostener que todo se resuelve mostrando una planilla con los suficientes datos pues esos mismos datos serán (y son) interpretados de muy diversas maneras precisamente respecto al otro plano que venimos comentando. Como queda consignado, en ciencias naturales el hecho físico es suficiente pues no hay acción sino reacción, en cambio en ciencias sociales el hecho físico requiere explicación e interpretación de propósitos deliberados. Por eso es que libros y ensayos desde Ragnar Frisch, Jan Tinbergen, Roy G.D. Allen y Enrico Giovanini al actual Thomas Piketty están inundados de series estadísticas (y fórmulas), mientras que obras como las de Murray Rothbard, Israel Kirzner, Anthony de Jasay, James Buchanan, von Mises y Hayek no contienen una sola serie estadística para probar sus puntos. Entonces, para combatir el relato hace falta mucha más argumentación que lamentablemente por el momento está en gran medida ausente. Por eso en esta etapa los liberales en gran medida estamos perdiendo la batalla cultural. Los socialismos disimulan con estadísticas pero otros flancos argumentan a fondo con insistencia bajo el lema del mayo francés: “Seamos realistas, pidamos lo imposible”.

Por último, respecto a lo que se discute en torno al realismo, se ha dicho que lo que no es percibido no es real, es decir, la tesis originalmente expuesta por Berkeley. Pero eso habría que extenderlo al mismo sujeto que observa, esto es, que no existiría si no lo percibe otro y así sucesivamente lo cual no termina en la Primera Causa ya que, paradójicamente, no tendría existencia real si no es percibida por otro, situación que conduce a la inexistencia de todo (incluso de la afirmación del no-realismo).

Por otra parte, hay cosas que se estiman percibidas como, por ejemplo, los espejismos, las ilusiones y las estrellas que creemos observar cuyas luces navegan en el espacio pero que pueden haber dejado de existir hace tiempo.

Por el principio de no-contradicción, una proposición no pude corresponderse y no corresponderse simultáneamente con el objeto juzgado (el relativista toma como verdad su relativismo). También cabe destacar que, sin duda, todo lo que entendemos es subjetivo en el sentido de que es el sujeto que entiende, pero cuando hacemos referencia a la objetividad o a la verdad aludimos a las cosas, hechos, atributos, propiedades y procesos que existen o tienen lugar independientemente de lo que opine el sujeto sobre aquellas ocurrencias y fenómenos que son ontológicamente autónomos. Lo antedicho en nada se contradice con el pluralismo y los diversos fines que persiguen las personas, dado que las apreciaciones subjetivas en nada se contraponen a la objetividad del mundo. Constituye un grosero non sequitur afirmar que del hecho de que las valorizaciones y gustos son diversos, se desprende la inexistencia de lo que es.

Cuando se dice que no puede tomarse partido por tal o cual posición debe tenerse en claro que quien eso dice está de hecho tomando partido por no tomar partido, del mismo modo que quien sostiene que no debe juzgarse está abriendo un juicio. Como explicita Konrad Lorenz, si no hubiera tal cosa como proposiciones verdaderas no tendría sentido ninguna investigación científica puesto que no habría nada que investigar.

Paul Watzlawick en su libro titulado ¿Es real la realidad? concluye que “la tesis básica del libro según la cual no existe una realidad absoluta, sino solo visiones o concepciones subjetivas, y en parte totalmente opuestas [de lo que es] la realidad, de las que se supone ingenuamente que responden a la realidad ´real´, a la ´verdadera´  realidad”.

Nos parece que aquí se confunden planos de análisis. Como queda dicho, el juicio subjetivo en nada cambia la existencia de las cosas, sus propiedades y atributos. Ese juicio podrá desde luego estar más cerca o más lejos de describir al objeto juzgado puesto que la proposición verdadera consiste en la concordancia o correspondencia del juicio con el objeto juzgado. Pero nuevamente decimos que esto no significa que las dificultades de lograr el cometido se hayan disipado: el camino para captar la realidad es siempre uno sinuoso y lleno de obstáculos. Se trata de una peregrinación. Hay en este sentido una permanente navegación pues no hay puerto o destino final en el conocimiento ya que remite a corroboraciones provisorias sujetas a refutaciones. Nunca el ser humano llegará a una situación en que pueda ufanarse de haber completado su faena de haber abarcado la totalidad de lo real ya que estamos hablando de seres imperfectos, limitados y sumamente ignorantes.

Lo dicho no quita para nada lo certera de la observación de Watzlawick en cuanto a la influencia malsana del grupo en el individuo cuando un sujeto se deja atropellar por lo que dicen o hacen otros.

Pero esto no modifica nuestros comentarios sobre la realidad, solo que demuestra la enorme presión de la multitud sobre quienes opinan distinto, lo cual puede comprobarse a diario con personas que no se atreven a opinar lo que se considera “políticamente incorrecto” y, por ende, dejan de cumplir con su obligación moral de comportarse de acuerdo con la integridad elemental y la honestidad intelectual por cobardía, y así los timoratos dejan cada vez más espacio a la corriente dominante para que imponga su visión.

Para poner el asunto de otra manera, una cosa es afirmar erróneamente que la realidad depende de la opinión y que, por tanto, no hay verdad objetiva y otra bien diferente es reconocer que cada uno tiene el derecho de interpretar, debatir, exponer y mostrar según su criterio cual es la realidad de tal o cual cosa. Precisamente, en esto consiste la posibilidad de progreso y acercamiento a la captación de diferentes realidades. Como se ha apuntado, las sucesivas refutaciones parciales o totales permiten el avance en el conocimiento.

La duda (no de todo puesto que no dudamos que dudamos) y el racionalismo crítico son buenos ejercicios: ubi dubiun ubi libertas (si no hay duda, no hay libertad) puesto que en un mundo de dogmáticos no se requiere libertad ya que todo sería certezas. Pero lo contrario no significa escepticismo en el sentido de desconfianza en nuestra capacidad perceptual, sino que la conciencia del error nos da la pauta que somos capaces de distinguirlo de la verdad.

El realismo –también crítico– profesa la existencia del mundo exterior al sujeto que observa que es, por ende, distinto al sujeto que conoce. La ciencia se refiere a la expansión del conocimiento de ese mundo exterior que presupone para sus estudios y experimentos. La inteligencia, el inter-legum, apunta a expandir el conocimiento que no se refiere solo a lo que puede comprobarse en el laboratorio sino a fenómenos no verificables en la experimentación sensible sino en el razonamiento de procesos complejos.

Nicholas Rescher en su obra Objetivity escribe que “La independencia ontológica de las cosas –su objetividad y autonomía de las maquinaciones de la mente– constituye un aspecto crucial del realismo” de lo cual no se sigue que la mente pueda captar toda la realidad del universo, por lo que “coincidimos con el realismo en el énfasis de la independencia del carácter de la realidad, pero sabiendo que la realidad tiene una profundidad y complejidad que sobrepasa el alcance de la mente”. Esto, nuevamente recalcamos, es debido a las limitaciones de los humanos: el esfuerzo por captar la realidad para nada elimina la posibilidad de captar fragmentos de lo que existe.

Entonces y en resumen, una cosa es la proposición falsa o verdadera y otra es la lógica o ilógico del razonamiento para lo cual nada mejor que consultar el formidable estudio sobre lógica de Aristóteles quien también criticó a los sofistas al escribir que “la sofística es una sabiduría aparente, pero no lo es” y que como apunta Julián Marías son relativistas. Morris Cohen ha refutado la manía de sostener que una verdad debe ser demostrada vía la verificación empírica al responder al opinante que su conclusión no es verificable empíricamente y como nos ha enseñado Karl Popper solo hay corroboraciones provisorias abiertas a refutaciones, pero en ningún caso en la ciencia hay verificación.

Fuente: El Cato

miércoles, 20 de abril de 2022

Las predicciones sobre computación cuántica están comenzando a ocurrir


El físico Juan Ignacio Cirac, director del Instituto Max Planck de Óptica Cuántica, con sede en Múnich (Alemania), es considerado uno de los padres de la computación cuántica, la tecnología disruptiva que promete cambiar el mundo como en su día lo hicieron los experimentos de Faraday. Los ordenadores cuánticos pueden resolver problemas que a los clásicos les llevaría millones de años. «Es una revolución, pero las revoluciones llevan tiempo y lo más importante está aún por descubrir», ha dicho el investigador, Premio Príncipe de Asturias en 2006 y premio Wolf en 2013 -considerado una antesala del Nobel-. Con él se ha inaugurado el ciclo Diálogos de Futuro, organizado por ABC y la Fundación La Caixa para reflexionar con la ayuda de prestigiosos especialistas en ciencia, investigación y medio ambiente sobre temas trascendentales para la sociedad.

Preguntado por José Manuel Nieves, periodista especializado en ciencia y tecnología, Cirac ha reconocido que es muy difícil predecir cómo la computación cuántica repercutirá en la sociedad, «de igual manera que cuando apareció internet no sabíamos lo que representa hoy en día».

Según ha explicado, los ordenadores cuánticos resuelven los mismos problemas que los clásicos, pero de una manera distinta, con otras leyes de la física. Son las leyes del mundo microscópico, en las que pasan cosas tan increíbles como la superposición cuántica, «el primer shock» cuando alguien se acerca a este campo. Cirac lo compara con tocar la pata de un elefante sin haberlo visto nunca. «Estas leyes nos dicen que una partícula puede estar en dos sitios a la vez. Pero si la observamos, esa capacidad desaparece. Llevándolo al mundo macroscópico, es como si la Luna no estuviera ahí cuando no la miramos. A Einstein esto le volvía loco», explica. Y si al genio le costaba aceptarlo, para el resto de los mortales parece de ciencia ficción. Cuando hacía el doctorado, Cirac se lo intentó explicar a su abuela, de una aldea de Galicia. No quiso que se rieran de su nieto: «'Fenomenal Ignacio, muy bien, pero no se lo digas a nadie', me dijo».

Más que átomos en el universo

Pero cuando los científicos ven propiedades extraordinarias, intentan hacer cosas extraordinarias con ellas. Si un ordenador clásico procesa la información en ceros y unos, en uno cuántico, cada cúbit o bit cuántico puede ser cero y uno al mismo tiempo. Y ahí radica su potencia. «Jugamos con ese mundo en el que todas las cosas ocurren a la vez. Y eso es muchísimo mas rápido», señala. Claro que construir ordenadores cuánticos es terriblemente complicado, ya que los cúbits tienen que estar aislados para poder conservar sus superposiciones. Ya se ha conseguido un ordenador con 200 cúbits, en la Universidad de Hárvard. No parece muy impresionante, pero su capacidad es exponencial. «Si tuviéramos 300, el número de combinaciones sería mayor que el número de átomos en el universo. Podría hacer un cálculo mejor que cualquier ordenador que tengamos ahora mismo», dice el físico.

¿Llegará el momento en el que todos tengamos una computadora así en casa? Cirac no está del todo convencido, ya que no puede imaginar para qué necesitaríamos esa potencia de cálculo si nos dedicamos a navegar por internet o enviar correos electrónicos. «Aunque no sabemos cuáles serán las necesidades de los consumidores dentro de treinta años», matiza.

Para lo que sí se emplearán estas máquinas es para resolver cálculos en el ámbito de la física, la química -como el desarrollo de fármacos-, aplicaciones de inteligencia artificial... O para problemas de optimización: por ejemplo, qué recorrido debe hacer un viajante que visita 50 ciudades para emplear el menor tiempo posible.

Dominio de China

Cirac recuerda que Google consiguió en 2019 la supremacía cuántica (cuando un ordenador cuántico realiza una tarea que está más allá del alcance del superordenador convencional más poderoso) y que China ha logrado superar al gigante de internet, iniciando una carrera en la que, advierte, Europa no puede quedarse atrás. «Sería peligroso que países que no son democráticos se situaran por delante. Es importante que demos no solo apoyo académico para estas investigaciones sino también un impulso a la industria», afirma. Uno de los riesgos, por ejemplo, sería la desprotección de las comunicaciones encriptadas frente a los ordenadores cuánticos, algo que podría producirse en una década y para lo que habrá que prepararse.

El investigador cree que en tres años veremos aplicaciones cuánticas prácticas (el resultado de Google fue solo un cálculo académico) y en el siguiente paso, dentro de diez años, los ordenadores cuánticos ya no tendrán errores, algo muy habitual ahora. Cuando el ministro de Hacienda británico Gladstone le interrogó a Faraday sobre la utilidad práctica de la energía eléctrica, este le contestó: «Sir, un día podrá usted gravarla con impuestos». Cirac cree que lo mismo podría ocurrir con la computación cuántica.

Imagen: MTP

Fuente: ABC

domingo, 27 de marzo de 2022

El insólito error de las tropas rusas que frustró los deseos de Putin de una invasión rápida a Ucrania


Las tropas rusas en Ucrania han confiado, con sorprendente frecuencia, en dispositivos de comunicación no seguros, como teléfonos inteligentes y radios de pulsar para hablar, dejando a las unidades vulnerables a los objetivos, y subrayando aún más las deficiencias de mando y control que han llegado a definir la invasión de un mes de Moscú, dicen los observadores.

“Estamos viendo que utilizan mucho más las comunicaciones no clasificadas porque su capacidad de comunicaciones clasificadas... por una u otra razón, no es tan fuerte como debería ser”, dijo a los periodistas en una reciente sesión informativa un alto funcionario de defensa estadounidense, que habló bajo condición de anonimato según los términos establecidos por el Pentágono.

Los militares rusos poseen equipos modernos capaces de realizar transmisiones seguras, pero las tropas en el campo de batalla han recurrido a líneas más sencillas de utilizar pero menos seguras debido a una disciplina desigual entre las filas, a una aparente falta de planificación para llevar a cabo una lucha sostenida a larga distancia y a los ataques rusos a la infraestructura de comunicaciones de Ucrania, en la que también se ha apoyado, dicen los expertos.

Un funcionario de los servicios de inteligencia europeos, que habló bajo condición de anonimato para discutir las evaluaciones de la OTAN en el campo de batalla, dijo que desde que comenzó la invasión a finales de febrero, ha habido múltiples casos de comandantes rusos que confiscaron los teléfonos personales de sus subordinados por temor a que revelaran involuntariamente la ubicación de una unidad.

Del mismo modo, los civiles ucranianos han denunciado el robo de sus teléfonos por parte de las tropas rusas, que los utilizan para hablar entre ellos y con su familia en su país, dijo este funcionario. Esas llamadas, señaló el funcionario, han revelado las frustraciones de las tropas y el descenso de la moral, ya que el ejército ucraniano ha obstaculizado el avance de Rusia en torno a ciudades clave, matando a miles de rusos en el proceso.

El Pentágono dijo el viernes que sus últimos datos de inteligencia mostraban que las fuerzas rusas habían perdido el control total de Kherson, una ciudad portuaria a lo largo del Mar Negro, a medida que Ucrania amplía sus operaciones ofensivas en la parte clave del país y Rusia parece haber cambiado su énfasis a la región separatista de Donbas en el este. Las fuerzas ucranianas también han hecho retroceder los avances rusos en las afueras de la ciudad septentrional de Chernihiv, con otras ofensivas en curso en los suburbios occidentales de Kiev, la capital, dijo el alto funcionario de defensa estadounidense.

Hay pruebas de que Estados Unidos y otros países de la OTAN han proporcionado a las fuerzas ucranianas equipos de guerra electrónica capaces de interrumpir las transmisiones rusas y permitirles apuntar a los puestos de mando rusos, dijo Kostas Tigkos, un experto militar ruso de la empresa de análisis de defensa Janes Group. Al destruir los nodos de comunicación de Rusia, los ucranianos podrían presionar a sus adversarios para que utilicen equipos menos seguros, dijo, aumentando la probabilidad de que sus conversaciones sean interceptadas o sus posiciones trianguladas.

Aunque el ejército ruso ha revisado su tecnología militar en las últimas dos décadas, con cierto énfasis en la modernización de su hardware de comunicaciones, Tigkos dijo que el equipo es sólo una parte de la ecuación. “Una cosa es desarrollar una buena radio que funcione bien. Otra cosa es desplegar esa radio, construir una red y llevar a cabo una compleja operación militar con miles de piezas móviles, y hacer que funcionen juntas como una sinfonía.”

Las transmisiones militares rusas a través de líneas no seguras han sido tan frecuentes, dicen los analistas, que los entusiastas de la radioafición las han sintonizado en línea utilizando sitios como Web SDR. Algunas conversaciones han revelado las frustraciones de las tropas. En una transmisión del 5 de marzo, un miembro del servicio ruso se identifica como “Blacksmith”, en lugar de un indicativo de llamada. “¡No digas los apellidos en el aire!”, responde otro. La transmisión fue proporcionada a The Washington Post por Shadow Break International, una consultora de inteligencia de código abierto con sede en Gran Bretaña.

En otra discusión, los soldados rusos parecen confundirse al confundir sus indicativos. Uno se identifica como “Exchange”. Otro dice entonces que, de hecho, ese es su indicativo. “¡Te has confundido!”, explica uno de ellos.

Los comandantes rusos también han mostrado dificultades para orquestar las comunicaciones en un campo de batalla tan vasto y dinámico, dicen los analistas. Sus fuerzas se extienden por toda Ucrania, el país más grande de Europa fuera de Rusia, lo que supone un reto para los planificadores militares que deben coordinar los sitios de transmisión móviles y asegurarse de que las radios funcionan en frecuencias que deben cambiarse constantemente.

Al mismo tiempo, los analistas militares han advertido de que no se deben hacer generalizaciones sobre el rendimiento de las comunicaciones de los rusos. Algunas unidades, dicen, pueden estar mejor equipadas y disciplinadas que otras.

Las fotos de los equipos rusos capturados por las fuerzas ucranianas muestran radios sofisticadas y seguras, dijo Sam Bendett, un experto en tecnología militar rusa del Centro de Análisis Navales en Arlington, Virginia. Otras imágenes muestran equipos de uso corriente. Es posible que algunos miembros del personal ruso utilicen estas radios para mezclarse en el amplio espectro de frecuencias civiles -como una aguja en un pajar, dijo Bendett- en lugar de las frecuencias militares, que son más limitadas y detectables con el equipo adecuado.

Hay pruebas anecdóticas de que las comunicaciones no seguras de Rusia han provocado pérdidas en el campo de batalla. Un general ruso murió supuestamente en un ataque aéreo después de que su teléfono móvil fuera detectado por los ucranianos, según informó el New York Times a principios de este mes.

En otro caso, compartido por el Ministerio de Defensa ucraniano, se escuchó a dos oficiales de inteligencia rusos discutir por una frecuencia abierta la muerte de un oficial superior. Cuando uno de ellos pidió hablar por una línea cifrada, el otro dijo que no funcionaba.

“No podemos ponernos en contacto con nadie en absoluto”, dijo el funcionario, lamentando su teléfono inoperativo, llamado Era. El dispositivo, de fabricación rusa, depende de una red celular para funcionar, pero los intensos bombardeos han destruido las torres de telefonía móvil en muchas partes del país, lo que a su vez limita la capacidad de los rusos para utilizar teléfonos seguros, dijo Tigkos, el analista de Janes Group.

También es probable que los altos mandos rusos, con experiencia en la lucha contra fuerzas menos capaces en otros escenarios, hayan caído en la complacencia y se hayan visto sorprendidos por la determinación de las fuerzas ucranianas. Los comandantes rusos han rotado por Siria durante años, donde las radios y los teléfonos móviles podían utilizarse sin preocuparse por las interferencias o el seguimiento, señaló Bendett, del Centro de Análisis Navales.

“Parece probable”, dijo, “que algunos oficiales adquirieron malos hábitos que pensaron que funcionarían en Ucrania”.

Imagen: Aplicantes

Fuente: Washington Post

miércoles, 15 de septiembre de 2021

Siete estrategias para combatir las falsas dicotomías y teorías conspirativas durante la pandemia


La pandemia de covid-19 es tierra fértil para la propagación de información incorrecta, ya sea originada por accidente o adrede. Vivimos un tsunami de evidencia científica, infodemia, ruedas de prensa especulativas y teorías de conspiración.

En medio de todo esto ha aparecido una gran variedad de sesgos cognitivos y falacias lógicas. Su origen está en cómo nos enfrentamos a los temores ocasionados por un evento tan inusual como la pandemia. La intuición, la emoción, y el raciocinio juegan un papel importante en cómo interpretamos la información sobre la covid-19. Se trata de grandes desafíos en la comunicación y respuesta a una pandemia, porque tienen que ver con la interpretación de los datos, los argumentos y las decisiones.

A todo esto hay que sumar la intolerancia a la incertidumbre, la falta de cultura científica, la perseverancia de las creencias, las fijaciones ideológicas, el sectarismo político, la sensación de falta de control, la desconfianza pública y los intereses financieros.

El resultado es un importante desafío en la comunicación y respuesta a la covid-19.

Todos podemos ser víctimas de nuestros sesgos y preconcepciones. Como científicos, tratamos de identificar aquellos relacionados con la pandemia y contraargumentar la desinformación.

El problema de las falsas dicotomías

Una falacia lógica ampliamente observada en la pandemia es la llamada “falsa dicotomía”, “falso dilema” o “falacia de blancos y negros”. Se trata de la presentación de un hecho en forma de dos opciones mutuamente exclusivas. En otras palabras, es la representación binaria, polarizada, reduccionista y simplista de una situación.

Las falsas dicotomías relacionadas con la pandemia han venido acompañadas de gran polarización política y social, sensacionalismo y rumores que amenazan nuestra respuesta contra la pandemia.

Es natural que muchas personas se ubiquen ideológicamente en uno de los extremos anteriores en tonos blancos y negros. Por ejemplo, “las mascarillas no sirven” o “cerrar la sociedad es la única solución”. Esto ha creado bandos a menudo irreconciliables en la academia que luego se trasladan al público general.

Este tipo de pensamiento no solo es erróneo, sino que deja de lado los matices grises de una discusión imprescindible.

Resulta fundamental involucrar términos medios y evitar la polarización mediática para entender cómo la ciencia evoluciona con el tiempo, y cómo las políticas en salud pública cambian según el contexto cultural y las dinámicas sociales. La preparación y respuesta ante una pandemia se ve enormemente afectada si no se permite y promueve la discusión y comunicación de estos matices con la comunidad.

Surgen varias preguntas: ¿qué se puede hacer para combatir las falsas dicotomías y las teorías de conspiración? ¿En quién recae esa responsabilidad? ¿Cómo mejorar la comunicación entre la comunidad científica y la sociedad?

Se debe luchar contra todo fenómeno que lleve a la desinformación, pero esta responsabilidad no recae exclusivamente en los científicos y en los periodistas. Es necesario involucrar a la población general. Entender y luchar contra la covid-19 requiere de trabajo colaborativo por parte de muchas disciplinas científicas y el público.

Estrategias

A continuación planteamos siete estrategias, necesarias para combatir y prevenir las falsas dicotomías y teorías de conspiración durante la pandemia:

1. Explicar que las cosas raramente son simples, binarias y generalizables

Es esencial explicar al público que en ciencia y salud pública (e incluso en la vida en general) la complejidad y los tonos grises abundan.

Aunque hay decisiones que deben tomarse en términos de “sí” y “no”, en muchos temas de la covid-19 un pensamiento binario no permite proveer el contexto, examinar los escenarios que relativizan las situaciones y explicar el detalle detrás de las decisiones.

Por ejemplo, el contexto socioeconómico, la voluntad política y los recursos de cada país han sido factores decisivos en el alcance de las intervenciones; pero no se ha hablado de ello lo suficiente.

De manera similar, hemos cometido el error de pensar que las políticas tienen que ser simples para ser claras o se corre el riesgo de confundir al público. Una recomendación para que la comunicación permita los tonos grises es no utilizar un lenguaje absoluto o exagerado. Se deberían utilizar expresiones como “puede ser”, “mayor/menor riesgo”, y “probablemente” en vez de frases como “el fin de la pandemia”, “la solución definitiva” y “la panacea”. También se debería educar en reducción de daños y medir los riesgos como probabilidades.

2. Comunicar con consistencia y transparencia

Las evidencias relacionadas con la covid-19 deben ser evaluadas de forma rápida y constante por los científicos antes de ser compartidas con el público. Por desgracia, la comunicación no siempre ha fluido sin contratiempos. Aunque es difícil mantener la consistencia de los mensajes durante una crisis sanitaria, hay aspectos por mejorar.

Los ciudadanos necesitan entender que la evidencia puede cambiar con el tiempo y que las estrategias de salud pública no son perfectas, pero intentan balancear beneficios y riesgos según los conocimientos y recursos existentes.

No pretendemos que el público se vuelva experto en la covid-19, pero lo justo y efectivo es ir un poco más allá de mensajes simplistas. Sobre todo, cuando el público exige transparencia y está preocupado.

La pandemia nos ha enseñado que el público puede recibir mensajes claros con un poco más de información ajustada al contexto temporal y geográfico, al tiempo que se evita caer en mensajes simplistas e insuficientes que afectan a la respuesta a la pandemia.

Resulta imprescindible explicar que las medidas son provisionales y están siempre expuestas a cambios según las nuevas evidencias. Esto no implica que las medidas anteriores se tomaran por error, sino que se basaron en los datos disponibles entonces.

Sin embargo, también es necesario reconocer los errores cuando se cometen, dado que su negación sirve de alimento a las teorías negacionistas y conspirativas y deteriora la confianza del público en las autoridades.

3. Aceptar la incertidumbre como una realidad de la ciencia y la vida

La intolerancia a la incertidumbre es común, especialmente en épocas de crisis, cuando las personas son vulnerables y buscan respuestas esperanzadoras.

La gente no está acostumbrada a ver a la ciencia en acción en tiempo real con sus aciertos, errores, avances y demoras. Tampoco a soportar las innumerables y variables políticas en salud pública dispuestas por los gobiernos y basadas en una creciente y complicada base de evidencia científica.

Sin embargo, la complejidad, los vacíos del conocimiento y la incertidumbre son elementos intrínsecos de la ciencia y como tal deben ser explicados. El público debe aprender que la ciencia no tiene todas las respuestas ni pretende tenerlas, que las que obtiene no son certezas ni hechos fijos y sencillos, y que las brechas en el conocimiento constituyen su fuerza motriz.

Además, aunque a algunos académicos les preocupa que comunicar la incertidumbre resulte deletéreo, la evidencia) muestra lo contrario: las incertidumbres pueden ser aliadas de una comunicación transparente, de la consciencia sobre la manipulación emocional de las certezas, y tienen el potencial de generar confianza.

Los esfuerzos encaminados a que el público reconozca y tolere la incertidumbre están conectados a la necesidad de mejorar la educación, la cultura científica y el empoderamiento cultural. Todo esto demostrará frutos visibles a largo plazo.

4. Promover el pensamiento crítico

Incentivar el pensamiento crítico es el antídoto para el pensamiento basado en falsas dicotomías y teorías conspirativas.

Este consiste en enseñar a las personas a analizar críticamente la información a su alcance. Requiere de una dosis de cultura científica y de escepticismo saludable para hacer frente a los sesgos y falacias que perpetúan las teorías conspirativas.

Con el ritmo con el que surgen nuevas evidencias durante la pandemia, aprender a procesar información nueva resulta esencial. Sin embargo, las personas deben tomarse su tiempo para analizarla y así no diseminar información falsa por accidente debido a la premura, el miedo, y la ansiedad.

Igualmente, es importante que las personas reconozcan sus límites y pericia para evaluar la información y eviten caer en el extremo de creer que los expertos no son necesarios. También, expertos en otros campos deben ser cuidadosos antes de emitir opiniones fuertes y confiadas (fenómeno conocido como “invasión epistemológica”), lo que podría llevar a promover información errónea.

Cuanto mejor sepamos filtrar críticamente la información que circula, más podremos entender lo que el virus hace y lo que podemos hacer para prevenirlo y protegernos de él.

5. Defender las fuentes confiables de información

Para el público, reconocer las fuentes adecuadas de información no es fácil.

Los medios de comunicación, divulgadores y periodistas tienen un papel complejo y vital porque son el puente entre los científicos y el público. Este rol es clave debido a que los investigadores no tienen el tiempo ni las capacidades para trasladar la ciencia al público. Además, el ritmo de consumo de información exige que el público consulte fuentes de acceso general que dependen de los medios de comunicación.

La sociedad debe defender y hacer conocer estas fuentes confiables y las organizaciones encargadas de verificación de hechos (fact-checkers), de manera que lleguen a otras personas. Es importante recalcar que los medios deberían trabajar para representar rigurosamente la ciencia y evitar reportar información sensacionalista o con intereses políticos.

En este sentido, redes sociales como Twitter han permitido conectar directamente a la comunidad científica con el público, lo cual puede ser beneficioso para incentivar la cultura científica y generar confianza.

6. Analizar y controlar las fuentes de desinformación

Al mismo tiempo que reconocemos las buenas fuentes de información, tenemos que identificar las que promueven pseudociencias, socavan la importancia de la medicina basada en evidencia (al promover remedios sin evidencia sólida como la hidroxicloroquina y la ivermectina), y amplifican resultados científicos cuestionables antes de su revisión por pares (preprints).

Los análisis de redes sociales y la calidad y veracidad del contenido diseminado son fundamentales.

Las agencias de salud deberían rastrear la desinformación. Los periodistas deberían siempre estar entrenados y actualizados para tal propósito. Por desgracia, hemos visto en innumerables ocasiones titulares que exageran o distorsionan la evidencia científica. Además, personas sin conocimiento y experiencia continúan siendo entrevistadas para emitir una opinión científica sobre la pandemia.

7. Inocular contra la desinformación

La inoculación psicológica es una estrategia fundamental para combatir la desinformación.

El término hace una analogía con la vacunación (también conocida como inoculación). Con la inoculación psicológica se busca persuadir al público usando información transparente y contundente al tiempo que se exponen, de manera anticipada, las artimañas y mentiras usadas para desinformar (“refutación preventiva”).

La identificación de patrones en las teorías de conspiración es clave para inocularnos e inocular a otros en contra de la desinformación. Esto permite reducir la influencia de los “desinformadores” y proteger a la gente de un desafío mayor, como una teoría conspirativa o una dosis peligrosa de desinformación, mediante una respuesta protectora (e.g., pensamiento crítico).

Aunque la evidencia que favorece la inoculación psicológica aplicada a la covid-19 está apenas emergiendo, existen evidencia que indica la importancia de esta estrategia con temas como el cambio climático.

Iniciativas de comunicación anticipada e inoculación psicológica podrían ser más útiles para la pandemia en temas relacionados con noticias falsas y vacunas.

Esto es debido a que, aunque los métodos comúnmente practicados incluyen desmentir las afirmaciones falsas, verificar hechos y cazar mitos, se corren algunos riesgos derivados de estas estrategias. Corregir información falsa por refutación directa puede promover el sesgo de confirmación, provocar resistencia psicológica y perpetuar la perseverancia de las creencias. Esto conduce a un fenómeno conocido como el efecto backfire.

Fuente: The Conversation