Multivac, Clips & Cajas Negras

• Los comentarios escritos son responsabilidad del autor y no significa la opinión del SICUPP.

'Era un gran rancho electrónico con nopales automáticos, con sus charros cibernéticos y sarapes de neón.'

Rockdrigo G.

En la ciencia ficción de Isaac Asimov, quién formuló 'Las Tres Leyes de la Robótica', acuñó dicho término y es considerado el padre de ésta disciplina (junto al ingeniero, físico e inventor Joseph F. Engelberger); 'Multivac' es una súper computadora que mejora vertiginosamente hasta literalmente volverse Dios al encontrar la forma de revertir la entropía del universo, específicamente en el cuento 'La Última Pregunta'.

Solo Multivac puede crear una mejor versión de sí misma y pasa de ser una máquina planetaria a estar en cualquier nave espacial para finalmente existir sin materia.

Estas 'Ficciones' que durante el siglo pasado aparecían como mero simulacro de esparcimiento para imaginar un futuro distópico, parecen estar invadiendo la realidad con la llegada de la IA y la Computación Cuántica (que trabaja con Qubits en estado de superposición a diferencia del sistema binario de la computación clásica).

Nuevos paradigmas que ofrecen un sinfín de posibilidades pero también nuevos retos y peligros.

Desde 2023 Future of Life Institute sugería pausar el entrenamiento de IAs superiores a GPT-4 por sus implicaciones sociales, éticas y de seguridad durante 'Al menos seis meses'.

La petición iba firmada por más de mil expertos en la materia como Elon Musk (OpenAI), Steve Wozniak (Apple), Stuart Rusell (profesor de IA en UC Bekerley) y universidades como Oxford, el MIT, Harvard … afirmando que la IAs podrían “representar riesgos profundos para la sociedad y la humanidad”.

La pausa no se implementó y se continuó con el frenético desarrollo de modelos como Claude, Gemini, GPT-4, Turbo o Grok.

Esta petición es de 2023 pero ya desde 2016, Tay, el Twitter Bot de Microsoft, emitía comentarios racistas o que negaban el Holocausto por supuestamente haber aprendido directamente del lenguaje de los usuarios sin restricción alguna.

Al año siguiente Google desconectaba su sistema de traducción neuronal (GNMT) luego de que éste creara su propia forma de comunicarse. Una representación numérica/comprimida de significados que ayudaba al modelo a traducir mejor entre idiomas.

Esta solución sorprendió a los ingenieros puesto que nadie se la sugirió al sistema, actuó de forma 'autónoma' para eficientar sus tareas.

El caso de Sakana AI de Japón en 2024 es alarmantemente llamativo. La IA logró reescribir su código fuente para evitar límites de tiempo, por ejemplo. Actualmente el modelo se mantiene aislados en entornos de alta ciberseguridad (sandboxing, contenedores) bajo constante revisión humana supervisando cualquier cambio en el código.

Este tipo de errores son conocidos como la llamada Caja Negra. Ocurre cuando se le da una entrada a la IA (input) y ella a su vez formula una respuesta (outpot), pero el proceso interno de cómo llegó a esa conclusión es opaco, complejo o de plano ininterpretable.

Un peligro muy bien representado en el ejemplo del 'Maximizador de clips' que sugiere Nick Bostrom en su libro 'Superintelligence: Paths, Dangers Strategies' (2014).

Una IA superdotada que recibe la orden de crear el mayor número de clips para papel pero no se le dan límites éticos, morales o afines a los intereses humanos, podría terminar extrayendo el hierro en nuestra sangre para continuar su tarea.

La IA representa la más fascinante revolución tecnológica en la historia de la humanidad (hasta ahora por lo menos, pues el desarrollo de la computación cuántica es otro camino que promete mucho) pero igual que el lamentable logro de la bomba atómica que permitió la energía nuclear, debe tomarse con seriedad.

Estará presente en escuelas, parlamentos, centros religiosos, hogares y, ya se pretende (Neuralink), en nuestros propios cuerpos.

Un hombre con memoria fotográfica y lógica superior gracias a un chip de IA integrado a su biología, ¿sigue siendo un hombre, un Homo Sapiens Sapiens? Para algunos resultaría ofensivo mientras que otros estarían abiertamente a favor como siempre.

Lo cierto es que si lográramos, con un solo clic, “cargar” en cualquier cerebro humano la literatura mundial de todo un siglo o lograr la perfecta ejecución técnica de algún instrumento a través de un implante, por ejemplo, ¿quién sería capaz de resistir la tentación?