Seis escenarios del peor caso de la IA en el mundo real
El peor escenario con inteligencia artificial (IA) es conocido por todos gracias a los blockbusters de ciencia ficción: las máquinas adquieren una mente humana, se vuelven conscientes y, inevitablemente, se convierten en tiranos malvados que intentan exterminar a la raza humana. Esta historia se basa en nuestro miedo innato a la tecnología, que es un reflejo de los profundos cambios que suelen acompañar a los nuevos avances tecnológicos.
Sin embargo, según Malcolm Murdoch, ingeniero de aprendizaje automático y autor de la novela «El precio cuántico» (2019), la IA no necesita ser consciente para acabar con todos nosotros. Hay muchos otros escenarios que nos borrarían de la faz de la Tierra antes de que una IA consciente llegara a ser un problema.
«Nos adentramos en un territorio peligroso y desconocido con el aumento de la vigilancia y el rastreo de datos, y apenas entendemos las posibles consecuencias»
En entrevistas con expertos en IA, la publicación IEEE Spectrum identificó seis de los peores escenarios de desarrollo de la inteligencia artificial en el mundo real, mucho más mundanos que los que aparecen en las películas. Pero no son menos utópicos.
Cuando la ficción define nuestra realidad
Si permitimos que la ficción defina nuestra realidad, podría producirse una tragedia innecesaria. Pero ¿qué podemos elegir si no somos capaces de distinguir lo real de lo falso en el mundo digital?
En un escenario aterrador, el auge de los deepfakes —imágenes, vídeos, audios y textos falsos creados con herramientas avanzadas de aprendizaje automático— podría llevar algún día a los responsables de la toma de decisiones en materia de seguridad nacional a actuar de verdad basándose en información falsa, provocando una gran crisis o, lo que es peor, una guerra.
Andrew Lohn, investigador sénior del Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown, afirmó que «los sistemas con apoyo de IA ya son capaces de generar desinformación a gran escala». Al crear grandes volúmenes y una gran variedad de mensajes falsos, estos sistemas pueden ocultar su verdadera naturaleza y optimizarse para tener éxito, mejorando con el tiempo el efecto deseado.
La mera idea de los deepfakes en una situación de crisis también puede hacer que los líderes duden a la hora de actuar si la veracidad de la información no puede confirmarse a tiempo.
Marina Favaro, investigadora del Instituto de Investigación y Política de Seguridad de Hamburgo (Alemania), señaló que «los deepfakes socavan por defecto nuestra confianza en los flujos de información». Tanto la acción como la inacción provocadas por los deepfakes pueden tener consecuencias catastróficas para todo el mundo.
Una peligrosa carrera hacia el fondo
Cuando se trata de la IA y la seguridad nacional, la velocidad es a la vez el objetivo y el problema. Como los sistemas con apoyo de IA dan a sus usuarios grandes ventajas en velocidad, los países que primero desarrollen aplicaciones militares obtendrán una ventaja estratégica. Pero ¿qué principios podrían sacrificarse en el proceso?
Helen Toner, directora de estrategia del CSET, sugiere que una crisis podría «empezar como un inofensivo punto único de fallo que desconecta todas las comunicaciones, provocando pánico entre la gente y la paralización de la actividad económica. La falta constante de información, acompañada de otros errores de cálculo, podría hacer que la situación se descontrole».
Vincent Boulanin, investigador sénior del Instituto Internacional de Investigación para la Paz de Estocolmo (SIPRI) en Suecia, advierte de que pueden producirse grandes catástrofes «cuando las grandes potencias tomen atajos para ser las primeras en obtener una ventaja. Si un país prioriza la velocidad sobre la seguridad, las pruebas o el control humano, será una peligrosa carrera hacia el fondo».
El fin de la privacidad y del libre albedrío
Con cada acción digital generamos nuevos datos: correos electrónicos, mensajes de texto, descargas, compras, publicaciones, selfis y ubicaciones GPS. Al dar a empresas y gobiernos acceso ilimitado a estos datos, entregamos las herramientas de vigilancia y control.
Con la incorporación del reconocimiento facial, la biometría, los datos genómicos y la analítica predictiva con apoyo de IA, Lohn, del CSET, se preocupa de que «nos adentramos en un territorio peligroso y desconocido con el aumento de la vigilancia y el rastreo de datos, y apenas entendemos cuáles podrían ser las consecuencias».
Michael C. Horowitz, director de Perry World House de la Universidad de Pensilvania, advierte «sobre la lógica de la IA y lo que significa para la represión interna. En el pasado, la capacidad de los autócratas para reprimir a su población dependía de un gran grupo de soldados, algunos de los cuales podían ponerse del lado de la sociedad y dar un golpe de Estado. La IA podría reducir esas limitaciones».
El poder de los datos, una vez recopilados y analizados, va mucho más allá de la vigilancia y el monitoreo, permitiendo la gestión predictiva. Hoy los sistemas de IA predicen qué productos compraremos, qué entretenimiento veremos y en qué enlaces haremos clic.
La caja de Skinner humana
Los usuarios de las redes sociales se han convertido en ratas de laboratorio que viven en cajas de Skinner humanas (la caja de Skinner es un instrumento de laboratorio utilizado para estudiar el comportamiento animal), pegadas a las pantallas de sus smartphones, obligadas a entregar su tiempo y atención, más valiosos, a plataformas que se benefician a costa de ellos.
Helen Toner, del CSET, afirmó que «los algoritmos están optimizados para que los usuarios permanezcan en la plataforma el mayor tiempo posible». Ofreciendo recompensas en forma de me gusta, comentarios y suscripciones, explica Malcolm Murdoch, «los algoritmos cierran el circuito de nuestro cerebro, haciendo que nuestra siguiente participación sea irresistible».
Para maximizar los ingresos publicitarios, las empresas desvían nuestra atención del trabajo, la familia y los amigos, de las obligaciones e incluso de los pasatiempos. Y lo que es peor, el contenido a menudo nos hace sentir desdichados y peor que antes. Toner advierte de que «cuanto más tiempo pasamos en estas plataformas, menos tiempo dedicamos a perseguir una vida positiva, productiva y plena».
La tiranía del diseño de la IA
Cada día entregamos gran parte de nuestra vida cotidiana a máquinas con apoyo de IA. Esto es problemático porque, como señala Horowitz, «aún nos queda por comprender plenamente el problema del sesgo en la IA. Incluso con las mejores intenciones, el diseño de los sistemas con apoyo de IA, tanto de los datos de entrenamiento como de los modelos matemáticos, refleja la experiencia limitada e los intereses de las personas sesgadas que los programan. Y todos nosotros tenemos nuestros prejuicios».
Lidia Costopoulos, vicepresidenta sénior de nuevas tecnologías de KnowBe4, empresa de seguridad de la información, sostiene que «muchos sistemas con apoyo de IA no tienen en cuenta la experiencia y las características diversas de las distintas personas». Como la IA resuelve problemas basados en puntos de vista y datos sesgados, y no en las necesidades únicas de cada persona, estos sistemas ofrecen un nivel de conformidad que no existe en la sociedad humana.
Incluso antes de la IA, el diseño de objetos cotidianos solía servir a un tipo concreto de personas. Por ejemplo, los estudios han demostrado que los coches, las herramientas manuales, incluidos los teléfonos móviles, e incluso los parámetros de temperatura en las oficinas se diseñaron pensando en hombres de estatura media, lo que coloca a personas de distinta altura y complexión, incluidas las mujeres, en una situación incómoda e incluso peligrosa.
El miedo a la IA priva a la humanidad de sus ventajas
Como la IA moderna trabaja con conjuntos de datos, modelos estadísticos avanzados y algoritmos predictivos, el proceso de creación de inteligencia artificial acaba centrándose en las matemáticas. Según Murdoch, «el álgebra lineal puede hacer cosas tremendamente poderosas si no tenemos cuidado».
Pero ¿qué pasaría si la gente llegara a temer tanto a la IA que los gobiernos la regularan de forma que privara a la humanidad de muchas de sus ventajas? Por ejemplo, el programa AlphaFold de DeepMind logró un gran avance al predecir cómo se pliegan los aminoácidos en proteínas, lo que permitió a los científicos determinar la estructura del 98,5% de las proteínas humanas. Este hito sentará una base fértil para el rápido desarrollo de las ciencias de la vida.
Piensa en las ventajas de una mejor comunicación y de la comprensión intercultural que hacen posible la traducción fluida entre cualquier combinación de idiomas humanos, o en el uso de sistemas con apoyo de IA para descubrir nuevos tratamientos de enfermedades.
Las medidas reguladoras de los gobiernos para protegerse de los peores escenarios de desarrollo de la IA también podrían tener efectos desagradables y generar sus propias consecuencias negativas no intencionadas, hasta el punto de que temamos tanto el poder de esta asombrosa tecnología que nos resistamos a usarla para el bien que puede aportar al mundo.
