Twitter bloqueó a un país

El 29 de marzo, el primer ministro de India, Narendra Modi, pronunció un discurso virtual en la segunda Cumbre por la Democracia, en el que enalteció a su país como “el mejor ejemplo de democracia en el mundo”. Mientras las palabras de Modi se transmitían ante decenas de otras naciones, el gobierno indio estaba, una vez más, tomando fuertes medidas contra los derechos digitales de sus ciudadanos.

Según reportó Reuters, el mismo día en que Modi se dirigió a los asistentes de la cumbre, Twitter “detuvo” el acceso a la cuenta oficial de Pakistán a usuarios en la India, “en respuesta a una demanda legal”, como se lee en el texto que ahora aparece en todos los tweets de @GovtOfPakistan si vives en la India. Se trató de la tercera vez en el último año que Twitter India restringe el acceso a la cuenta de Pakistán sin dar ninguna explicación, y es la preocupante continuación de una campaña de censura que arrancó un mes antes. Dos semanas antes, las fuerzas policiales del estado de Punyab lanzaron una persecución contra Amritpal Singh Sandhu, líder militante de un movimiento para conceder a los sijs de la India su propia nación soberana.

Mientras que los sijs en Punyab se manifestaban en apoyo de Singh, las autoridades detuvieron a cientos de ellos y cancelaron, durante días, las redes de internet y los servicios de SMS en todo el estado, afectando a unos 30 millones de punyabíes. Las autoridades indias, que siguen sin capturar a Singh, han mantenido una estrategia de control de la información: la semana pasada, según informó Rest of World, Twitter bloqueó 122 cuentas en India a petición del gobierno, incluyendo las de sijs prominentes como la poeta Rupi Kaur y el político canadiense Jagmeet Singh, que viven fuera de India y que, en el caso del segundo, había expresado públicamente sus preocupaciones por la represión en Punyab. (Muchos sijs en Estados Unidos y Canadá se han movilizado para apoyar a Amritpal Singh). Un día antes del discurso de Modi sobre la democracia, Twitter ocultó la cuenta en lengua punyabí de BBC News en la India.

No hace falta apoyar el movimiento separatista “Khalistan” que representa Amritpal Sing –ni respaldar su irrupción en una comisaría punyabí en febrero para liberar a uno de sus socios– para reconocer que estos eventos desafían las virtudes democráticas que Modi asegura defender. No es que esto lo haya detenido antes; como mencioné previamente, las peticiones hechas a Twitter por el gobierno de la India de bloquear tuits y cuentas que contradicen al régimen político han aumentado de manera exponencial durante el mandato de Modi, al punto en que Twitter demandó a India por esta práctica el pasado mes de julio. Sin embargo, eso fue antes de que Elon Musk tomara las riendas de la red social, y ha habido poco movimiento en el caso desde entonces. Mientras tanto, Twitter ha accedido a las peticiones indias de censura, incluyendo la eliminación masiva de tuits relacionados a un documental que la BBC publicó en enero sobre Modi, así como en la restauración de cuentas de nacionalistas hindúes que tenían previamente prohibido el acceso a Twitter por promover discurso de odio.

No está claro qué tanto sabe Musk sobre la situación política en la India, pero sin duda está al tanto de la demanda de Twitter, así como de la persistente censura en la India. A finales de enero, cuando The Intercept escribió sobre la censura del documental de la BBC sobre Modi, el youtuber David Freiheit tuiteó el artículo y etiquetó a Musk, preguntándole si Twitter se había transformado en “censura absoluta”. En su respuesta, Musk afirmó que era la “primera vez que escuchaba” sobre el incidente. Los medios de comunicación señalaron la contradicción de que un autoproclamado “absolutista de la libertad de expresión” como Musk cediera ante la presión de censura de gobiernos internacionales. Notablemente, Musk aseveró el año pasado que no incumpliría las leyes gubernamentales en su intento de hacer de Twitter un foro más conducido por la libertad de expresión. Desde entonces, casi todas las acciones que ha tomado India para bloquear las redes sociales e interrumpir las protestas son técnicamente legales, gracias a varios y controversiales proyectos de ley que se han aprobado durante el gobierno de Modi.

Lo que hace que las últimas medidas de represión en las redes sociales sean especialmente provocadoras es el nuevo contexto nacional en el que han surgido. India probablemente quería censurar al gobierno de Pakistán en internet porque, como lo expresó el ministro jefe del Punyab, Bhagwant Sing Mann, los partidarios del Khalistán han sido financiados por agencias de inteligencia paquistaníes y otras fuentes bastante cuestionables. (Aunque Mann ha ofrecido pocas pruebas al respecto de la actual situación, es cierto que fuentes paquistaníes han patrocinado a los activistas khalistaniés más violentos en las décadas pasadas; sin embargo, también es cierto que @GovtofPakistan no ha tuiteado nada sobre Khalistán ni sobre Amritpal Singh). El que las autoridades hayan bloqueado las comunicaciones nacionales y las fuentes de información internacionales de decenas de millones de punyabíes mientras perseguían a un único personaje, sienta un peligroso precedente para futuras actuaciones policiales. India ya ha recurrido con frecuencia a cortes prolongados de internet en estados como Haryana, Jammu y Cachemira, usualmente para reprimir la organización digital como una forma de protestar contra el gobierno. La escalofriante implicación de esta medida represiva es que se convierta en una herramienta común para cualquier persecución criminal sancionada por el gobierno. En la actualidad, las fuerzas policiales en India operan de manera extrema y arbitraria, arrestando a cientos de ciudadanos por cualquier tipo de protesta, sospecha de disidencia, o infracción de la ley que sea percibida, incluso sin pruebas.

Un siniestro ejemplo se está viviendo en estos momentos. Rahul Gandhi, el vástago de la dinastía política Nehru-Gandhi que ha liderado una enérgica oposición al régimen de Modi, ahora enfrenta una flagrante persecución por parte del Estado por esa misma resistencia, tanto en el ámbito físico como en el virtual. Hace unas semanas, un tribunal de Gujarat, estado natal de Modi, sentenció a Gandhi a dos años en prisión por un discurso del 2019 donde señaló que el primer ministro comparte apellido con dos infames criminales indios, Nirav Modi y Lalit Modi, infiriendo así la propia ilegalidad de Narendra Modi. El tribunal estatal consideró que esta única declaración era difamatoria en contra de la casta Modh-Ghanchi, misma a la que pertenece el jefe de Estado y, por lo tanto, inhabilitó a Gandhi de ejercer en la función pública.

Gandhi aún no se encuentra tras la rejas debido a que se le concedió libertad bajo fianza para poder apelar la sentencia a un tribunal superior, pero ha sido removido de su cargo electo en el Parlamento indio, y puede que también se vea obligado a desalojar la vivienda que se le asignó como legislador. La fragilidad de esta acusación ha alimentado la creencia entre los críticos de Modi de que la persecución de Gandhi es una flagrante venganza política, considerando que el ahora exparlamentario encabezó una multitudinaria “marcha de la unidad” desde septiembre hasta enero, con la intención de demostrar una alternativa ideológica a la política de odio de Modi. También está el hecho de que Gandhi y sus partidarios han acusado a YouTube de suprimir el alcance de los videos subidos por Gandhi sobre el trato favorable de Modi al multimillonario caído en desgracia Gautam Adani; según informa el Wall Street Journal, el equipo ejecutivo de YouTube está investigando estas acusaciones.

Es fácil imaginar un contexto donde Gandhi sea condenado y sentenciado una vez más, y donde el gobierno indio decida tomar medidas drásticas contra más cuentas de redes sociales relacionadas con Gandhi y sus seguidores mientras estos protestan. Tal vez algunos de estos mismos manifestantes sean acusados y perseguidos por todo el subcontinente por agentes del gobierno y fuerzas policiales. En ese caso, es razonable esperar que múltiples regiones indias pierdan el acceso a ciertas cuentas de redes sociales o al internet en su totalidad. El mejor ejemplo de democracia del mundo deja mucho que desear.

Fuente: Letras Libres

Internet, libertades comunicativas y ¿nuevas reglas de juego?

El paradigma comunicativo ha sido transformado por internet y las redes, lo que abre debates constantes. Cabe destacar, por una parte, la supuesta desaparición del elemento de intermediación, y, de otra, la necesidad de reconocer nuevos derechos para la ciudadanía y obligaciones para los poderes públicos y privados.

La (aparente) desaparición de la intermediación en este espacio permite a cualquier individuo situarse, al menos formalmente, a la altura comunicativa de cualquier otro individuo, institución o plataforma. Internet es un foro abierto al que cualquiera puede acceder y expresarse de forma libre. Ahora bien, el acceso libre, sin embargo, se ve limitado por diferentes brechas de acceso y condicionado, muchas veces, por la voluntad del algoritmo que, en más ocasiones de lo que creemos, decide por nosotros qué vemos, o qué o a quien leemos. En esta nueva esfera, los poderes privados juegan un papel mucho más determinante, en algunos aspectos, que los poderes públicos. Como consecuencia, no siempre perceptible, las reglas de juego constitucional se están viendo alteradas porque la esfera global digital no es fácil de encorsetar en los parámetros jurídico-institucionales clásicos. Un ejemplo paradigmático se produce sobre las reglas de pluralismo democrático y el respeto de los derechos fundamentes, ámbitos en que las instituciones se han visto obligadas a confiar en la autorregulación empresarial para tutelarlos; una prueba de ello es el Código de Buenas Prácticas en materia de desinformación revisado de 2022, impulsado por la Comisión Europea.

Respecto del segundo de los debates, las expertas mantienen mayoritariamente que a las libertades comunicativas en las redes se les debe aplicar los mismos criterios que fuera de ellas. Esta es la línea defendida por el Tribunal Europeo de Derechos Humanos (Estrasburgo), que en sus análisis sobre la libertad de expresión e internet parte de las bases sentadas en su sentencia Handyside de 1976; sintéticamente: la libertad de expresión del Convenio Europeo de Derechos Humanos constituye una base esencial de la sociedad democrática. Por ello, sus limitaciones deberán ser interpretadas restrictivamente, solo cuando sea necesario en una sociedad democrática, proporcionalmente al objetivo perseguido y autorizadas por decisiones judiciales suficientemente motivadas. El Tribunal Europeo construyó sobre esta base su respuesta al caso Delfi AS contra Estonia de 2015 (de Gran Sala), el primer asunto sobre las responsabilidades de un portal de noticias respecto de los comentarios que pudieran verterse en él.

Delphi AS, empresa propietaria de uno de los mayores portales de noticias de internet en Estonia, llegó a Estrasburgo alegando que su libertad de información había sido vulnerada. En su sentencia, el Tribunal reconocía los importantes beneficios que se derivan de internet en el ejercicio de las libertades comunicativas, pero ello no impide que la responsabilidad por discursos difamatorios o ilícitos se mantenga y que exista un recurso efectivo para tutelar las violaciones de derechos online. En este caso, el sistema automatizado de moderación de contenidos con el que contaba la empresa no había sido suficiente para evitar la publicación del contenido ilícito que, además, estuvo online durante seis semanas. El Tribunal resaltó el carácter profesional y comercial del portal de noticias y su interés económico —la llamada monetización del tráfico y su impacto— en la publicación de comentarios. En este contexto, el portal tenía una participación en la publicación de los comentarios sobre sus artículos que iba más allá de la de un mero proveedor de servicios pasivo y puramente técnico.

En la misma línea está la jurisprudencia del Tribunal Constitucional español que considera que al ejercicio de las libertades comunicativas online le son aplicable los mismos criterios generados por su jurisprudencia para la esfera offline. Así lo manifestó en sus sentencias en el llamado caso Strawberry (2020) o en el más reciente asunto Naranjo (2022).

En todo caso, las plataformas se han convertido en sujetos activos de la actividad comunicativa e informativa, y no siempre para bien desde el punto de vista democrático. Estas plataformas, a las que en principio no se considera responsables de los contenidos que se vierten en ellas, no siempre respetan la neutralidad que se les presume. Dicha neutralidad es esencial para que el proceso comunicativo no se vea condicionado por intereses de ningún tipo y se garantice que el tráfico informativo no viene manipulado. Sin embargo, como es sabido, en ocasiones, las plataformas no han sido neutrales y han favorecido, a través de diferentes técnicas, determinadas opciones políticas. Esto es, se han convertido en un sujeto político activo, tomando partido, obviando su naturaleza de mero vehículo de comunicación

Estas plataformas, que son el ecosistema necesario para que exista el mundo online, han sido convertidas por los propios Estados, instituciones públicas y organismos reguladores como árbitras, cuando no juezas, de la actividad comunicativa que se produce en/a través de ellas. Esta autotutela no ha impedido que en los últimos años se vertieran críticas contra las redes sociales, en especial, Twitter y Meta, por permitir —incluso favorecer— la distribución de desinformación de diferentes tipos a través de sus plataformas, habiendo influido así en distintos procesos electorales. Estas críticas y la presión institucional han hecho reaccionar a las plataformas, con más o menos éxito. Meta creó la Overisght Board, cuya misión, según se dice en su web, es “garantizar el respeto a la libertad de expresión mediante un juicio independiente”. Este consejo asesor, compuesto por expertos independientes, tiene por misión revisar decisiones tomadas por Facebook e Instagram sobre cuentas y contenidos; funciona a instancia de los usuarios, aunque tiene la facultad de escoger a qué quejas dar respuesta por suponer, por ejemplo, un problema sistémico, reiterativo, relevante o especialmente grave. De momento, su composición y funcionamiento son controvertidos.

En Twitter, hasta la llegada de Musk, la moderación de contenidos se llevaba desde la propia empresa que contaba con un sistema de denuncia de cuentas y contenidos puesto a disposición de los propios usuarios. La moderación se hacía, también, de oficio, a través de sistemas de inteligencia artificial que, conforme a las normas de usuario, buscaban contenidos contrarios a las reglas de uso. Esta red se vanagloriaba de ser donde se producía la conversación global, donde “hacemos que la gente entienda los diferentes puntos de vista de un tema y animamos a que se discutan abiertamente las opiniones y puntos de vista discrepantes”. Esto no ha impedido las críticas sobre su papel como propagadora de contenidos desinformativos. A ello se suma la llegada del nuevo propietario y su supuesto espíritu libertario. De momento, las quejas son crecientes en cuanto a la mayor inseguridad en la navegación, provocada, en parte, por el nuevo sistema de verificación que se activa mediante pago, haciéndose efectivo el aforismo catalán “qui paga, mana”.

En la Unión Europea estamos de estreno porque en noviembre se aprobó el Reglamento de Servicios Digitales, identificado como la nueva constitución digital europea. Esta norma, dirigida en buena parte a las grandes plataformas, configura un espacio en el que los derechos digitales de los usuarios sean respetados, articulando obligaciones de los actores implicados y sistemas de tutela más efectivos. Pronto sabremos si esta regulación inédita supone un antes y un después en el ejercicio seguro de nuestros derechos en internet y si las plataformas asumen de forma efectiva las responsabilidades que les toca en la esfera digital. A esta normativa, sumaremos el reglamento sobre inteligencia artificial: otro reto inédito y determinante para nuestras relaciones públicas y privadas.

Fuente: Almendron

Qué es la misteriosa caja negra de la inteligencia artificial que desconcierta a los expertos

Los desarrolladores de inteligencia artificial (IA) de Google se encontraron hace poco con la misteriosa "caja negra".

Unos ingenieros estaban trabajando en un software de IA que, de manera inesperada, adquirió la habilidad de entender un nuevo idioma.

"Descubrimos que con muy pocas indicaciones en bengalí, ahora puede traducir todo el bengalí", contó James Maneka, el jefe de la división de IA de Google, en la reciente emisión del programa 60 Minutes, de la cadena CBS.

Al comentar al respecto, el director ejecutivo de Google, Sundar Pichai, dijo que esta capacidad de los programas de IA de generar habilidades u ofrecer respuestas de manera inesperada es lo que los expertos llaman la "caja negra".

"No lo entiendes del todo. No puedes decir muy bien por qué [el robot] dijo esto o por qué se equivocó en esto otro. Tenemos algunas ideas y nuestra capacidad para entenderlo mejora con el tiempo. Pero ahí es donde estamos hasta ahora", señaló.

El desarrollo de la inteligencia artificial se ha acelerado en los últimos años. Las grandes firmas tecnológicas están invirtiendo importantes sumas para generar chatbots como Bard, de Google, o ChatGPT, de OpenAi y Microsoft. Más recientemente el multimillonario Elon Musk anunció que entraría a esta carrera.

Al mismo tiempo, expertos en AI han señalado que puede haber riesgos si la tecnología no es controlada por sus desarrolladores, como el que adquieran habilidades para las que no fueron instruidas.

En este último escenario es en donde habita la caja negra.

La caja blanca

La idea de la caja negra es la parte opuesta a lo que los expertos en IA llaman caja blanca.

Ian Hogarth, cofundador de la empresa tecnológica Plural y autor del libro The Status of AI Reports, explica a la BBC que cuando los desarrolladores de software crean un programa de manera "tradicional", las líneas de código que introducen se reflejan claramente en el resultado que arroja el software.

"A veces la gente lo describe como una caja blanca", señala.

"Pero en la IA, los sistemas son realmente muy diferentes. Están más cerca de una caja negra en muchos sentidos, pues no entiendes realmente lo que sucede dentro", añade.

Y es que los programadores no esperan que arrojen resultados tan creativos.

"Me gusta pensar que las cultivamos. Esa es la mejor idea que he oído sobre cómo construimos estos sistemas hoy en día. Y lo difícil es que, a medida que las desarrollamos, se producen grandes saltos bruscos en sus capacidades", explica.

A diferencia de la programación de software más tradicional, basada en la implementación de instrucciones para obtener un resultado, en el desarrollo de IA los ingenieros trabajan para conseguir un sistema que imite las "redes neuronales" de la inteligencia humana.

Esto involucra una gran cantidad de procesadores interconectados que pueden manejar grandes cantidades de datos, detectar patrones entre millones de variables utilizando el aprendizaje automático y, más importante, autoadaptarse en respuesta a lo que están haciendo.

David Stern, gerente de investigación cuantitativa en G-Research, una empresa de tecnología que utiliza el aprendizaje automático para predecir precios en los mercados financieros, advierte que "el progreso más rápido en la investigación de IA en los últimos años ha implicado un enfoque de caja negra cada vez más basado en datos".

"En el enfoque de red neuronal que es tendencia en la actualidad, este procedimiento de entrenamiento determina la configuración de millones de parámetros internos que interactúan de manera compleja y son muy difíciles de explicar y aplicar ingeniería inversa", señaló a la BBC.

Otra tendencia es el "aprendizaje de refuerzo profundo" en el que un "diseñador simplemente especifica los objetivos de comportamiento del sistema y este aprende automáticamente interactuando directamente con el entorno", expone.

"Esto da como resultado un sistema que es aún más difícil de entender".

¿Debe preocuparnos?

Ian Hogarth hace notar que, aunque los nuevos chatbots como Bard y ChatGPT parecen una ser tecnología surgida muy recientemente, en realidad son producto de una década de investigación y desarrollo.

"Si nos remontamos a 2012 y comparamos los sistemas que estábamos creando entonces y los sistemas que estamos creando ahora, hemos aumentado de manera muy consistente la cantidad de datos y la potencia de cálculo en el desarrollo de los modelos de IA", explicó a la BBC.

"Hemos aumentado la cantidad de potencia de cálculo consumida por estos modelos en aproximadamente 100 millones en la última década. Así que, aunque en la práctica ChatGPT parezca que surgió de la nada para la mayoría de las personas, esta es una tendencia de muy larga data que continuará".

Las nuevas capacidades de robots que se han dado a conocer recientemente han generado cuestionamientos sobre las diversas formas en las que tendrán influencia en la sociedad, desde los impactos en el mercado laboral hasta el control de procesos de seguridad pública o el ámbito militar.

En el programa de 60 Minutes, el director ejecutivo de Google fue cuestionado sobre el hecho de que los ingenieros no comprendan por completo cómo pasan cosas en la caja negra, pero aún así ya estén funcionando chatbots como Bard.

"Permítanme decirlo de esta manera: tampoco creo que entendamos completamente cómo funciona la mente humana", respondió Sundar Pichai, quien considera que la llegada progresiva de la IA a la sociedad es una manera de acostumbrarse a ella.

"Creo que en el desarrollo de esto debe incluirse no solo a ingenieros, sino también a científicos sociales, especialistas en ética, filósofos, etcétera. Y tenemos que ser muy reflexivos. Estas son las cosas que la sociedad necesita resolver a medida que avanzamos. No le corresponde a una empresa decidir", señaló a 60 Minutes.

Ian Hogarth también considera que la IA terminará por tocar la vida de la gente y es necesario un diálogo abierto sobre sus impactos.

"Creo que tiene un potencial notable para transformar todos los aspectos de nuestras vidas. En cierto modo, es quizás la tecnología actual más poderosa. Lo principal es que deberíamos tener un debate mucho más público sobre la rapidez con la que progresan estos sistemas y lo diferentes que son de las generaciones anteriores de software", concluye.

Fuente: BBC