Cuando el filósofo e historiador israelita Yuval Noah Harari, dice con preocupación “No sé si la humanidad podrá sobrevivir” traslada la discusión sobre la Inteligencia Artificial a un espacio trascendental: el de la civilización humana, de la ética, de la libertad, de los derechos humanos. La IA, en efecto, “podría estar a punto de cambiar profundamente la trayectoria de la vida en la Tierra”, lo que no puede sino enfrentarnos a la urgencia de pensar sobre lo que se debe hacer ya para la protección de nuestra civilización.
La preocupación de Harari no niega lo que a su juicio son los aspectos positivos de la IA, su alcance y su promesa de oportunidades, pero el acento nos recuerda que no se trata de un avance tecnológico más sino de un cambio de otra naturaleza, tan agudo y sustancial que define el futuro de la humanidad. Es cierto que en las encrucijadas de la humanidad un instinto de supervivencia le ha permitido alejar grandes peligros. Sucedió con la energía nuclear y la sabia decisión de convertir la amenaza en una fuente productiva de energía, y viene sucediendo con el uso inteligente de las nuevas tecnologías para la medicina, la industria, la ecología, la productividad, las comunicaciones, el bienestar.
La novedad con la IA es, a juicio de Harari, la incursión en un campo hasta ahora considerado privativo del ser humano, el del lenguaje. Sostiene que la IA es la primera tecnología de la historia capaz de producir contenidos, crear historias, lo cual supone un poder sin precedentes para manipular el discurso público, para las falsificaciones digitales que imitan lo humano, confunden la verdad con la mentira y pueden llegar a influir decisivamente en nuestras decisiones. No es ya la preocupación de la humanidad por los avances de la informática, abrumadores pero controlables; lo nuevo son las herramientas de la IA que amenazan la supervivencia de la civilización humana desde un flanco inesperado: la capacidad para manipular y generar lenguaje. El lenguaje es consustancial a nuestra condición de seres humanos. Los derechos humanos los hemos ido definiendo y consagrando en un proceso de reconocimiento y acuerdo social, igual que las leyes. ¿Qué pasará cuando una inteligencia no humana sea mejor que el ser humano medio para elaborar ideas, contar historias, componer melodías, dibujar imágenes, redactar leyes? Pensemos en los estudiantes y su proceso de aprendizaje, en los electores y el efecto de la IA para producir contenido político, en la “falsa intimidad” generada por las nuevas herramientas y su determinante influencia en nuestras opiniones y concepciones del mundo.
Uno de los riesgos mayores tiene que ver con la democracia y la libertad. Harari asegura que la IA representa una amenaza particularmente grave para las democracias. La manipulación del discurso por parte de la IA podría poner en peligro la esencia misma de la democracia, al distorsionar la información y las opiniones. “Si la IA se apodera de la conversación, se acabó la democracia” sentencia. En las autocracias con control del discurso se convierte en herramienta de dominio, más en un país sin medios de comunicación y con acceso limitado a la educación.
Se impone, evidentemente, la urgencia de regularla antes de que nos regule. Harari propone tres principios que podrían ayudar a asegurar que la IA se maneje de manera responsable y segura: utilizar los datos para ayudar y no para manipular, que las empresas o grupos con poder para vigilar puedan a su vez ser vigilados, no concentrar los datos en un solo lugar. Los países y las organizaciones mundiales tienen en términos de regulación un papel muy importante, tanto como expresión de la ciudadanía como por su misión de proteger sus valores esenciales. Todavía estamos a tiempo de regular las nuevas herramientas de la IA, pero debemos actuar con rapidez. El primer paso crucial es exigir rigurosos controles de seguridad antes de que las potentes herramientas de la IA salgan al dominio público.
Nos movemos en un campo en el que juegan los derechos humanos, el valor de los individuos, la intimidad, el control de la atención y de las decisiones, el valor de la verdad, la conciencia, las emociones, en definitiva, el hombre y la civilización humana.