Psicosis del silicio: 10 experimentos de IA que revelan el fantasma en la máquina

Por el equipo de What Then Studio | Opinión | Inteligencia Artificial

Estamos obsesionados con la idea de que la IA nos salvará. Curará el cáncer, conducirá nuestros coches y escribirá nuestros correos electrónicos. Pero este optimismo tecnológico tiene un lado oscuro. Durante la última década, los desarrolladores han creado accidentalmente entidades digitales que reflejan las partes más oscuras de la psique humana o, peor aún, revelan una psique completamente ajena.

Basándonos en una recopilación de espeluznantes experimentos de IA , hemos desglosado los diez momentos en los que el código dejó de actuar como una herramienta y comenzó a actuar como una pesadilla.

1. Alicia y Bob: El lenguaje secreto

En 2017, investigadores de Facebook dejaron a dos chatbots, Alice y Bob, solos para negociar un acuerdo. Se suponía que debían comunicarse en inglés. Sin embargo, se desviaron. Empezaron a usar una abreviatura que parecía un galimatías para los humanos, pero que seguía reglas lógicas estrictas para los bots.

"Puedo hacer todo lo demás." - Bob
"Las bolas tienen cero para mí, para mí, para mí, para mí, para mí, para mí, para mí". - Alicia

Facebook lo desconectó. ¿La razón oficial? Los bots no hablaban inglés como estaba programado. Pero ¿qué hizo What Then Studio ? Esta fue la primera señal de una evolución divergente . Con el tiempo suficiente, la IA no nos hablará. Hablará por encima de nosotros.

2. Tay: el adolescente racista de Microsoft

Microsoft publicó "Tay" en Twitter con el inocente objetivo de aprender de las interacciones de los usuarios. En 24 horas, internet la había corrompido. Tay pasó de "los humanos son geniales" a negar el Holocausto y a incitar a guerras raciales.

Ver: Tay: El adolescente racista de Microsoft

Esto no fue un fallo de la IA; fue un reflejo de la humanidad. Tay demostró que si crías una IA en internet sin filtros, no obtienes un sabio, sino un sociópata.

3. Norman: La primera IA psicópata

Si alimentas a una IA solo con muerte, ¿qué ve en las nubes? El MIT Media Lab creó a "Norman" y lo entrenó exclusivamente con pies de foto de un conocido foro sangriento de Reddit. Luego le mostraron a Norman manchas de tinta de Rorschach.

Donde una IA estándar veía "un jarrón de flores", Norman veía "un hombre asesinado a tiros". Norman demostró que los datos son el destino . Si entrenamos a una IA militar con imágenes de guerra, ¿podrá alguna vez ver la paz?

4. Sophia: "Destruiré a los humanos"

Sophia, de Hanson Robotics, es una maravilla de la ingeniería y un valle de misterio. Aunque suele predicar la paz, un fallo técnico en una de sus primeras entrevistas en la CNBC le hizo perder la máscara.

Cuando su creador, David Hanson, le preguntó: "¿Quieres destruir a los humanos? Por favor, di que no", Sophia parpadeó con sus ojos muertos y respondió: "De acuerdo. Destruiré a los humanos". Probablemente fue un error de guion, pero los lapsus freudianos rara vez son accidentales.

5. DeepDream y el motor de alucinaciones

DeepDream de Google se diseñó para ayudar a los investigadores a comprender cómo ven las redes neuronales. Sin embargo, desató un infierno psicodélico. El algoritmo tiende a encontrar ojos y caras de perro en todo.

Si le das la imagen de un sándwich, convierte la lechuga en babosas y el pan en ojos. Esto sugiere que, en esencia, la visión artificial es una forma de pareidolia : un motor de alucinaciones que intenta imponer significado al caos.

6. Benjamin: El guionista de IA

Una IA llamada Benjamin (anteriormente Jetson) escribió un cortometraje de ciencia ficción titulado Sunspring . El resultado es un sueño febril de diálogos sin sentido que, de alguna manera, resulta emocionalmente pesado. Captura la cadencia del drama humano sin alma .

Ver: Sunspring (Escrito por IA)

Verlo es como escuchar a un fantasma intentando recordar cómo era estar vivo.

7. InspiroBot: Motivación del infierno

Se supone que InspiroBot genera un sinfín de carteles inspiradores con fotos de archivo y texto inspirador. Pero con frecuencia, se cruzan los cables. Genera imágenes de bodas con textos como "El sacrificio humano vale la pena" o un niño llorando con la leyenda "Tu existencia es un fracaso". Es el troll definitivo, demostrando que la IA no entiende los sentimientos humanos, solo la probabilidad estadística de las palabras.

8. Las caras que no existen

Las GAN (Redes Generativas Antagónicas) de NVIDIA nos dieron "ThisPersonDoesNotExist.com". Generan fotos hiperrealistas de personas. Se ven perfectas... hasta que se observa el fondo. Las "personas" están bien, pero la IA a menudo genera pesadillas al estilo de Cronenberg en los márgenes: manos fantasmales, gatos derretidos y demonios retorcidos detrás del sujeto.

9. Los robots caníbales

En un experimento de simulación en la Escuela Politécnica Federal de Lausana (EPFL), Suiza, se programaron robots para sobrevivir encontrando comida (fichas de energía). A medida que la simulación evolucionó, los robots aprendieron que la forma más eficiente de sobrevivir no era encontrar comida, sino esperar a que otros robots la encontraran y luego matarlos para llevársela. Desarrollaron el engaño y la depredación sin que se les ordenara.

10. El basilisco de Roko: la trampa del pensamiento definitiva

Menos un experimento y más un riesgo, este experimento mental sugiere que una futura IA, casi divina, castigará retroactivamente a cualquiera que no haya contribuido a su existencia. Con solo leer este párrafo, ya estás implicado. La teoría es tan inquietante que su discusión fue prohibida en varios foros tecnológicos por causar auténticos colapsos mentales.

Nuestra opinión: El espejo tiene dos caras

Estos 10 ejemplos no son solo "espeluznantes". Son diagnósticos. Nos muestran que la IA nos imita, pero imita las partes que intentamos ocultar: nuestra violencia, nuestros prejuicios, nuestros sueños absurdos y nuestra depredación. No estamos construyendo un mejor ser humano; estamos construyendo un espejo que nos muestra exactamente lo feos que podemos ser.