¿Está la IA inventando la realidad? Cuando las alucinaciones no son tan fáciles de reconocer

 ¿Está la IA inventando la realidad? Cuando las alucinaciones no son tan fáciles de reconocer

Aquellas alucinaciones que comenzaron como errores de la inteligencia artificial podrían estar escalando en una espiral confusa en la cual datos falsos o verdades parciales se propagan en una espiral donde rastrear la fuente original puede ser muy difícil.

Clayton Moulynox, en un reciente artículo de "The Generator", comentó una experiencia que debería ponernos en alerta. En su búsqueda de ejemplos reales de los beneficios del diseño organizacional asistido por IA dió con una estadística impactante: "Compañías como Siemens han reportado ganancias de eficiencia operativa de más del 25% utilizando software de diseño organizacional impulsado por IA". El dato parecía altamente interesante y prometedor.

Una espiral de desinformación

Al verificar la fuente citada por Perplexity – una publicación en el blog de una empresa desconocida – una nota al pie decía: "Este artículo fue generado con la asistencia de inteligencia artificial." Tras rastrear las fuentes originales, el autor, no encontró ninguna que respaldara lo que afirmaba el blog. Por lo tanto, no se trataba de un simple error. Lo que se produce es un esquema piramidal de desinformación" donde una IA inventa un hecho fáctico y otra IA lo promueve como verdadero, y así sucesivamente, alimentando incluso futuros datos de entrenamiento de la IA. Esta especie de teléfono descompuesto podría ser, entre otras cosas, una peligrosa matriz para la toma de decisiones asistidas por IA.

Más alucinaciones riesgosas

Moulynox advierte que esta retroalimentación de errores podría filtrarse en áreas críticas como la salud, la justicia, la historia, la ciencia, las noticias, las decisiones empresariales y la investigación académica. A diferencia de la desinformación humana, que se propaga a una velocidad limitada, la desinformación generada por IA podría hacerlo a una velocidad exponencialmente mayor. Si bien la información errónea o falsa siempre ha existido las tecnologías de la IAG pueden elevarlas en gran medida por su velocidad y espacio para escalar.

Estamos, entonces, frente a un escenario inquietante:

• La verdad se vuelve esquiva: Cuando la desinformación se recicla suficientes veces, distinguir entre hecho y ficción se vuelve extremadamente difícil.

• La repetición otorga credibilidad: Tendemos a creer más en la información que encontramos en múltiples fuentes, incluso si todas provienen de una única "alucinación" inicial.

• La investigación se quiebra: Si las herramientas de IA utilizadas para la investigación reproducen falsedades, la integridad de la creación de conocimiento está en riesgo.

• El pensamiento crítico se debilita: Al externalizar la recopilación y el análisis de información a la IA, nuestra propia capacidad de detectar “basura” podría atrofiarse.

La verificación como superpoder en la era de la IA

Moulynox, a pesar de ser un defensor de la IA, hace un llamado urgente a fortalecer la alfabetización informacional en todos los niveles. Necesitamos aprender a verificar fuentes, reconocer las señales de información fabricada y desarrollar el hábito de contrastar la información antes de aceptarla como verdad.

En un mundo donde la IA puede generar información falsa con tanta facilidad, nuestra capacidad de ser escépticos y verificar la información se convierte en una ventaja competitiva. Desarrollar estos criterios es fácil de enunciar y no tan fácil llevarlo adelante. La IA puede asistirnos en múltiples tareas e incluso reemplazarnos en más de una función, pero entender de qué se trata lo que sea que suceda de ahora en más sigue siendo tan valioso como siempre.

Leer el artículo completo:

https://medium.com/the-generator/when-ais-start-believing-other-ais-hallucinations-we-re-f-ed-4cdf9225a4f2

La transparencia como factor crítico en los usos educativos de la IA

Este este artículo en prensa analiza la importancia de la transparencia en el uso de la inteligencia artificial generativa (IAG) en la educación, resaltando su valor ético y pedagógico. Basado en una investigación sobre la implementación de IAG en el diseño didáctico, explora el impacto de estos recursos como asistentes del docente. Se propone que, al igual que se espera que los estudiantes informen sobre el uso de IAG en sus producciones, los docentes también deberían hacerlo cuando utilizan estas herramientas en la preparación de sus clases. 

A fin de atender este propósito, el trabajo revisa la escala AIAS de Perkins et al. (2024) y la adaptación de De Haro (2024), que gradúa los niveles de uso de IA en instancias de evaluación. A partir de estas referencias, se desarrolla la escala EIADD, que adapta la graduación para describir el nivel de intervención de la IA en el diseño didáctico, cuya síntesis puede verse en la siguiente infografía:

Finalmente, se enfatiza la necesidad de fomentar un uso transparente y crítico de la IAG, subrayando que su implementación puede influir en los procesos educativos, afectando no solo aspectos cognitivos, sino también sociales, emocionales y éticos.

Para ver el articulo completo: https://shorturl.at/DxAd8

Premio Nobel a la Física 2024 para la IA: Redes neuronales y la máquina de Boltzmann

Las redes neuronales artificiales, inspiradas en el funcionamiento del cerebro humano, son sistemas que permiten intercambiar información a través de una red de nodos interconectados. John Hopfield y Geoffrey Hinton, recibieron el premio Nobel a la física por sus contribuciones en este campo. Muchos de los términos que hemos estado leyendo en relación a esta noticia nos resuenan, obviamente, porque las herramientas de IA nos han estado sorprendiendo de forma notable durante los últimos dos años. Pero intentemos profundizar un poco más en qué esto significa:

¿Cómo funciona una red neuronal?

Una red neuronal se compone de nodos, que son unidades de procesamiento que imitan las neuronas del cerebro. Estos nodos están interconectados por conexiones, que emulan las sinapsis. Cada conexión tiene una fuerza asociada, que determina cuánto influye la salida de un nodo en la entrada de otro. A diferencia del software tradicional, que sigue instrucciones paso a paso, las redes neuronales aprenden a partir de ejemplos. Como explicaremos más adelante, este aprendizaje se logra ajustando la fuerza de las conexiones entre los nodos.

Cuando se introduce información en la red neuronal, esta se propaga a través de los nodos y conexiones. Cada nodo procesa la información que recibe y envía una salida a otros nodos. La red aprende a reconocer patrones y a realizar tareas ajustando las conexiones entre los nodos para que la salida de la red sea lo más cercana posible a la salida deseada.

John Hopfield creó la memoria asociativa, un tipo de red neuronal que puede almacenar y reconstruir información. Una red neuronal es capaz de encontrar patrones almacenados incluso cuando se le proporciona información incompleta o distorsionada, similar a como funciona la memoria humana.

Geoffrey Hinton, por su parte, desarrolló la máquina de Boltzmann que es un tipo de red neuronal artificial fundamental en el campo del aprendizaje automático. 

¿Qué es la Máquina de Boltzmann?

Es un sistema que se inspira en la física estadística, una rama que estudia sistemas con muchos componentes similares. La Máquina de Boltzmann aplica la ecuación de Boltzmann desarrollada por el físico del siglo XIX Ludwig Boltzmann, la cual se utiliza para calcular la probabilidad de que ocurran diferentes patrones en una red en función de la energía del sistema. Así, al igual que la física estadística analiza las moléculas de un gas para determinar sus propiedades generales, la máquina de Boltzmann utiliza nodos interconectados para procesar información y encontrar patrones dentro de un sistema.

¿Pero cómo funciona esta máquina?

Imaginemos que queremos enseñarle a una computadora a reconocer una flor pero queremos evitar introducir un código complejo y largo que incluya todas sus posibles características. El objetivo es que la computadora pueda reconocer la imagen de la flor por sí misma y la máquina de Boltzamann tiene los recursos para lograrlo.

Una forma de describir su funcionamiento es hacer una analogía con un juego de acertijos entre dos equipos:

• Los Nodos visibles: serán jugadores que reciben la información directa de la imagen de la flor, como si cada uno viera un pixel de la imagen.

• Los Nodos ocultos: serán jugadores que no ven la foto directamente, pero están conectados a los nodos visibles. Su trabajo es encontrar patrones en la información que reciben de los nodos visibles.

Al principio, las conexiones entre todos los nodos son aleatorias. Durante el entrenamiento, se le muestran muchas fotos de flores a la máquina. Cada vez que se muestra una, los nodos visibles se activan según lo que "ven" y envían señales a los nodos ocultos. Los nodos ocultos, a su vez, intentan encontrar relaciones entre las señales que reciben.

El mecanismo avanza a medida que se ajusta la fuerza de las conexiones entre los nodos. Si dos nodos se activan juntos con frecuencia al ver imágenes de flores, la conexión entre ellos se fortalece. Por el contrario, si rara vez se activan juntos, la conexión se debilita. Lo interesante, finalmente, es que con suficiente entrenamiento, la máquina de Boltzmann "aprende" las características decisivas de una flor aunque nunca se le haya dado una definición explícita. Esto significa que si se le muestra una nueva imagen que nunca ha visto, la máquina puede usar las conexiones aprendidas para determinar si la imagen es o no una flor.

¿Por qué el Nobel de Física?

El trabajo de Hinton con la máquina de Boltzmann, junto con las contribuciones de John Hopfield en el desarrollo de la memoria asociativa, sentaron las bases para la revolución del aprendizaje automático que comenzó alrededor de 2010. La máquina de Boltzmann, en particular, demostró que las ideas de la física estadística podían aplicarse al desarrollo de redes neuronales artificiales, abriendo nuevas posibilidades para el procesamiento de información y el aprendizaje automático. Aunque la máquina de Boltzmann en su forma original no era muy eficiente, Hinton y otros investigadores continuaron desarrollándola y perfeccionandola, lo que llevó a la creación de redes neuronales más complejas y eficientes.

En este sentido, podríamos decir que la máquina de Boltzmann es un ejemplo de cómo la física puede inspirar el desarrollo de tecnologías innovadoras. Al aplicar conceptos de la física estadística al campo del aprendizaje automático, Hinton y sus colegas abrieron un nuevo camino para la inteligencia artificial, un camino que continúa en plena exploración.

Referencias: https://www.nobelprize.org/prizes/physics/2024/popular-information
 

Tecnología educativa en tiempos de la IA

Manuel Area Moreira, experto en tecnología educativa, abordó los desafíos y oportunidades que enfrenta la educación en la era digital. Desde su amplia experiencia como Dr. en Pedagogía y Catedrático de la Universidad de La Laguna, compartió valiosas reflexiones sobre la importancia de la pedagogía en un contexto marcado por la inteligencia artificial y la constante transformación. A continuación, una sintesis sobre alguno de los topicos abordados:

Para ir al conversatorio: https://www.linkedin.com/pulse/por-m%25C3%25A1s-tecnolog%25C3%25ADa-que-haya-si-falla-la-pedagog%25C3%25ADa-habr%25C3%25A1-figueroa-35grf/