Por CARLOS COLINA
…Obra de tal modo que uses a la humanidad, tanto en tu persona como en la persona de cualquier otro, siempre al mismo tiempo como fin y nunca simplemente como medio…
Immanuel Kant.
Entre oportunidades, riesgos e incertidumbres
El desarrollo vertiginoso de la inteligencia artificial (IA) en los albores de la cuarta revolución robótica conlleva fenómenos socioculturales harto complejos que deben ser analizados y evaluados de manera transdisciplinaria. La sociología, la antropología, la ética, el derecho, la psicología, la neurociencia, la comunicología y las disciplinas tecnológicas correlacionadas, entre otras, tienen mucho que decir al respecto. El diálogo de saberes no debería estar ausente y la perspectiva de un ciudadano informado verazmente, tampoco. En realidad, existen escenarios de oportunidades infinitas, riesgos y configuraciones inciertas, como las que podría abrir la IA fuerte, si llega a consumarse algún día. La evaluación social de la ciencia y la tecnología es perentoria hoy día, más que nunca, para el diagnóstico y para fundamentar políticas públicas de raigambre democrática.
Ahora bien, cierta ficción literaria moderna y alguna que otra expresión audiovisual, alejada del mainstream mediático, no pueden ser desdeñadas del todo. La ficción es en ocasiones mítica y nebulosa, pero a veces se ha tornado en cielo azul celeste, con hermosos destellos de luz, como los ofrecidos por el escritor estadounidense de origen ruso Isaac Asimov y sus tres leyes robóticas, publicadas por primera vez en su relato Círculo Vicioso, en el año 1942. Las leyes robóticas asimovianas parecen esbozar criterios cruciales pero también encrucijadas paradójicas. Son tres, a saber:
- Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
- Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes están en oposición con la primera Ley.
- Un robot debe proteger su propia existencia, hasta donde esta protección no esté en conflicto con la primera o segunda Ley. Manual de Robótica,1 edición, año 2058 (Asimov, I.1985).
Evidentemente, con la IA se vislumbran ventajas amplísimas, como por ejemplo, en la precisión, prontitud, eficiencia y profundidad del diagnóstico médico, en la telemedicina oportuna, la asistencia social, la educación, y en la mejora de las políticas y servicios públicos. Igualmente, en la productividad en general y en la administración y producción energética sostenible en particular, desde el nivel estatal hasta el entorno doméstico. La IA propicia la creación de nuevos productos y servicios, mercados e industrias y renovadas fuentes de ingresos, aportando nuevas soluciones a los problemas. Buena parte de las empresas que tienen las mejores valoraciones en la bolsa cimentan su modelo de negocios en la IA. De hecho, su implementación, será prerrequisito de competitividad empresarial en los años venideros. En el arte, las ventanas son inconmensurables.
No obstante, existen elementos deleznables como la potenciación de las capacidades de vigilancia, la vulneración radical de la privacidad, la manipulación subliminal de la conducta y la posibilidad de menoscabar los procesos democráticos. El maridaje de la IA y las neurociencias cognitivas, señalado por Yuval Noah Harari (2016-2023), operacionalizan, ahora sí, el efecto que planteaba Vance Packard en The Hidden Persuaders, en los lejanos años cincuenta del siglo pasado, que ni la tecnología del momento ni las prenociones psicoanalíticas permitían para ese entonces.
Por otra parte, en torno al impacto sobre el empleo y las profesiones y oficios, se suele encontrar una futurología infundada que se dirime entre el desplazamiento o relevamiento de roles y funciones. Dado el momento inicial del ciclo vital tecnológico sería necesaria la realización continua de estudios representativos de diagnóstico y prospectivos de impacto, porque no es poco lo que nos estamos jugando. Cierto marketing nos promete un hogar inteligente, con acompañamiento y soporte psicológico robótico y la denominada sexnología, en donde estarían imbricados sexo y tecnología. En esta oferta domótica distópica, los robots y los asistentes virtuales sustituirían a las mascotas y los androides reemplazarían a las compañeras y compañeros humanos.
Si bien, en muchos casos está en juego, sin más, la noción de uso de la tecnología en su concepción más simple y común, en ocasiones, ciertos dispositivos tienen preestablecido empleos netamente nocivos e inadmisibles y que, si se aplicaran criterios éticos en el diseño, no se podrían desarrollar sus prototipos ni sus versiones finales. Es el caso de los sistemas de armas autónomas letales. La decisión sobre la vida o la muerte humana, está delegada aquí, a la tecnología; nada más y nada menos. De hecho, la campaña internacional Stop Killer (1) en contra de los denominados robots asesinos y en pro del control humano del uso de la fuerza, cumplió ya diez años en el año 2023, y su membresía cuenta con más de 180 organizaciones, entre ellas, Amnistía Internacional y Human Rights Watch.
Un estudio del caso de Amazon (Allard, 2021) reporta serios problemas. El uso de la IA en este modelo de almacén logístico y cadena de suministro, ha redundado en productividad, eficiencia, competitividad y liderazgo en el mercado, pero según la tesis de grado de Andéol Allard de Grandmaison, las condiciones de trabajo de los operadores logísticos también han resultado mecanizadas y desmejoradas y se evidencia la pérdida de ética de la empresa. No obstante, los estudios de caso son insuficientes. En realidad, se requieren investigaciones sectoriales, generales y longitudinales, que incluyan todos los ámbitos de la economía. Estudios preliminares disponibles, como por ejemplo, aquellos profusamente citados de la Universidad de Oxford, muestran que la cuarta ola de automatización de la producción que ha sido posible gracias a la creación de redes y a IA, llevará a la destrucción «neta» de millones de puestos de trabajo, incluso teniendo en cuenta los numerosas plazas creadas. Esto afectará principalmente a las personas menos cualificadas y a las mujeres para las que no existen alternativas (VDW, 2019:.22.23).
Asimismo, las huelgas de los sindicatos de guionistas y actores de Hollywood en el año 2023, contenían entre sus negociaciones el impacto inédito de la IA, que implica en la industria audiovisual una serie de derechos que necesitarían discutirse en un desarrollo aparte.
Si bien el ciberderecho se sustenta en una ciberética, no nos referiremos extensamente a esta última, porque la venimos desarrollando en otro lugar y con otro nivel de análisis. Nos centraremos en el primero a sabiendas de que según la filosofía moral, los derechos son restricciones éticas que tienen un carácter absoluto o preminente en relación con otras consideraciones morales. En el terreno regulatorio, la Unión Europea se prefigura como pionera y ha venido pugnando por una IA confiable, segura y sostenible.
…Obra de tal modo que los efectos de tu acción sean compatibles con la permanencia de una vida humana auténtica en la Tierra…
Hans Jonas
Ciberderecho en ciernes
Comúnmente hablamos de derechos offline, pero en el año 2018, el Consejo de Derechos Humanos de las Naciones Unidas estableció la idéntica importancia de los primeros y los derechos online. Desde hace tiempo se viene trabajando en el reconocimiento de nuevos derechos y no sólo en la simple adaptabilidad de derechos tradicionales. Cabe mencionar la constitucionalización de los neuroderechos en Chile, que pretende proteger la privacidad e integridad mental y psíquica ante el uso abusivo de las neurotecnologías.
Como en otros campos, la Unión Europea lidera la discusión y los avances éticos y legislativos en el tema de la IA. Cabe mencionar dos grandes documentos, 1º. El Libro Blanco de la IA (CE, 2020), que busca promover el desarrollo de ecosistemas de excelencia y de confianza, que se lograrían con políticas públicas, un nuevo marco normativo y la cooperación de los estados miembros de la UE y, 2º. El Informe Una Europa Adaptada a la Era Digital (CE, 2021), que incluye nuevas normas y medidas. En este mismo año, en el plano nacional, se resaltan dos iniciativas nacionales: la Carta Portuguesa de los Derechos Humanos en la Era Digital, que refrendó derechos tradicionales y estableció nuevos derechos y la Carta de Derechos Digitales en España, aprobada pocos meses después.
Es importante mencionar como antecedente legal relevante, la aprobación en 2016 del Reglamento General de Protección de Datos (RGPD), que protege la privacidad en la nueva era y establece en su artículo 22 que tenemos el derecho a no someternos a decisiones jurídicas sobre bases exclusivamente automatizadas, que pueden incluir la elaboración de perfiles.
Como un hito señero hemos de citar la propuesta de Reglamento de la IA, presentada por la Comisión Europea el 21 de abril de 2021, cuyo propósito explícito es el fomento de una IA segura, legal y fiable en el mercado único, con el debido respeto de los derechos humanos. La meta es la seguridad jurídica para la inversión y la innovación, agilizando y flexibilizando los procesos. Se fundamenta en el enfoque de niveles de riesgo, estableciendo cuatro niveles: inaceptable, alto, limitado y mínimo.
El día 25 de noviembre de 2022, el comité de representantes permanentes del Consejo de Europa adoptó una Orientación que redefine y acota ciertos aspectos. Entre otros, prohíbe el uso de la IA para la explotación de cualquier tipo de grupo vulnerable y los sistemas de identificación biométrica en tiempo real en espacios públicos, salvo estrictas excepciones. Se excluye como ámbito de aplicación aquellos que tienen fines militares, de defensa o de seguridad nacional.
En la línea de la discusión pública europea, la idea pertinente sería incorporar el enfoque de derechos humanos en el diseño, desarrollo, implementación y uso de la IA y de las denominadas NBIC, a saber: nanotecnologías, biotecnologías, infotecnologías y neurotecnologías. Entre los nuevos derechos se incluyen todos aquellos relacionados con las NBIC, es decir, tecnologías emergentes relacionadas o correlacionadas con la cuarta revolución industrial.
El día 15 de diciembre de 2022, el Consejo, el Parlamento y la Comisión Europea suscribieron la Declaración sobre Derechos y Principios Digitales, en donde priman las personas y sus derechos. En ese mismo año se refrendan la Ley de Servicios Digitales y la Ley de Mercados Digitales que será aplicada a partir del año 2024 y que obliga a los prestadores de servicios a la supervisión de contenidos ilícitos.
A nivel internacional, son innumerables las iniciativas encomiables por parte de actores de la sociedad civil, la academia, asociaciones y organismos internacionales tales como el BID, ONU, Digital 9, Alianza del Pacífico, CAF, Red GEALC, G20 y sus ministros de economía digital, IEEE, Ada Lovelace Institute y AI Now Institute.
El Parlamento Europeo aprobó el miércoles 14 de junio de 2023 el proyecto de Ley sobre la IA (AI Act.), cuya propuesta original data del día 21 de abril de 2021, citada anteriormente. La Oficina Europea de Inteligencia Artificial, cuya creación se estipula en el reglamento, coordinará el uso de la tecnología entre las autoridades nacionales y contará con el asesoramiento de un panel de científicos y de organizaciones no gubernamentales. A partir del momento inicial se inician las negociaciones con los veinte y siete Estados de la UE y la Comisión, de cara a su puesta en vigor antes de 2026. Todo parece indicar que este marco regulatorio y jurídico será pionero en el mundo. A la propuesta original se le agregaron más requisitos y responsabilidades, pero con la mira dirigida también a estimular la innovación. Prevalece el enfoque basado en riesgo y en ese marco se estipulan obligaciones para proveedores y usuarios, sobre la base del nivel de inseguridad de cada dispositivo de IA. El 9 de diciembre de 2023 se llegó al último acuerdo provisional, luego de intensos debates y negociaciones, que intentan conciliar intereses y derechos variopintos. El camino administrativo está en marcha.
- El riesgo inaceptable establece la prohibición, por ejemplo, del reconocimiento facial para la creación indiscriminada de bases de datos de los individuos, la manipulación de conductas con técnicas subliminales y la explotación intencional de las vulnerabilidades de las personas. Asimismo, se proscriben los sistemas de puntuación y valoración social del ciudadano y otros usos intrusivos y discriminatorios. Adicionalmente, se prohíben los sistemas de reconocimiento de emociones en centros de trabajo y escuelas. Se considera que los usos mencionados anteriormente vulneran radicalmente los derechos civiles de las personas. La vigilancia biométrica en tiempo real solo podrá utilizarse si existe una orden judicial.
- El riesgo alto establece obligaciones estrictas para su uso en distintos ámbitos de la sociedad; alto nivel de robustez, trazabilidad de resultados, documentación detallada y supervisión humana. Se incluyen áreas por posibles daños a la salud, la seguridad, el medio ambiente y los derechos fundamentales de las personas. Se incorporan aquí los sistemas de IA para influir en los votantes en las campañas políticas y los sistemas de recomendación empleados por las plataformas sociales más importantes.
- El riesgo limitado exige un mínimo de transparencia y la advertencia a los usuarios de su interacción con la máquina, por ejemplo, con los chatbots. Los modelos de base generativa como ChatGPT tendrán que revelar que sus contenidos han sido generados por la IA, evitar contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor. (CIO México,11.05.23). Los sistemas de IA clasificados en los ítems 2 y 3 necesitarán una evaluación obligatoria de la conformidad, es decir, una autoevaluación ejecutada por el proveedor, antes de su comercialización.
- El riesgo mínimo o ausencia de riesgo, no estipula normas al respecto. Aquí se incluyen los videojuegos, las aplicaciones de imagen u otros sistemas de IA. Sin embargo, se recomiendan códigos voluntarios de conducta para este nivel.
La robótica y la IA ofrecen ventajas amplísimas y posibilidades inconmensurables, pero también incertidumbres y riesgos nada desdeñables. La ética y la legislación implican la necesidad de control y límites y presuponen que el imperativo tecnoeconómico que reza que todo lo que puede hacerse ha de acometerse, no es válido sí nuestro norte es intervenir en la configuración democrática de la sociedad que viene.
En Latinoamérica existen pequeños avances en este ámbito, dentro de los cuales cabe mencionar la Carta Iberoamericana de Principios y Derechos en los Entornos Digitales, aprobada el 25 de marzo de 2023, en la XXVIII Cumbre Iberoamericana de jefes y jefas de Estado y de gobierno, en República Dominicana. Si bien la penetración de Internet y de la tecnología móvil celular, nos habla del impacto cotidiano de estas tecnologías en Venezuela, nuestro país no aparece entre las listas de países que han desarrollado iniciativas públicas explícitas en el área, tales como México, Brasil y Chile, Colombia, Costa Rica, Perú, Argentina y Uruguay. Otro terreno más en que la revolución es involución, con una de las conexiones digitales más lentas del orbe.
En general, hoy día, convivimos con la llamada IA débil, es decir, aquellos sistemas tecnológicos que tienen aplicaciones y funciones específicas. Por otra parte, la IA fuerte es aquella que iguala o supera la inteligencia humana y cumple variadas funciones. No existe consenso sobre su viabilidad, ni el momento en que eso ocurra, aunque para el innovador, científico y futurólogo neoyorkino Raymond Kurzweil, se producirá en las próximas dos décadas. Es la denominada singularidad, que para algunos es un desiderátum mítico y para otros es un riesgo existencial para la especie.
Ahora bien, no podemos permanecer anclados en la concepción antropomórfica del humanismo tradicional y no admitir que la ciborgización está en marcha desde hace unos lustros y que la sobrenaturaleza tecnológica orteguiana nos ha acompañado desde los albores de la humanidad. No obstante, esto no implica que debamos aceptar sin ambages cualquier nivel de ciborgización, tal como lo plantea el movimiento transhumanista. La ética nos habla de la noción de responsabilidad y de la necesidad de establecer límites, lo que tendría que estar unido en estos tiempos, a renovados conceptos de autonomía y de derechos humanos. La autonomización de la tecnología que una vez mencionó Landong Winner y la adaptación inversa, es decir, el acoplamiento de los fines a los medios tecnoecónomicos, es un fenómeno que pareciera salirse del ámbito mítico frankesteniano y esbozarse con la emergencia de los estados-plataforma corporativos, identificados por Pierre Levy. El lugar que hoy ocupan Microsoft (LinkedIn, Skype), Google (YouTube, Gmail), Amazon, Meta (Facebook, Instagram y WhatsApp), X, ByteDance (Tik Tok) y OpenAI (Chat GPT), entre otros, nos indica que el estado nacional no puede ser el referente exclusivo para incidir en las políticas que decidamos delinear.
Finalmente, quizá sea pertinente hablar de un neohumanismo que no debe ser crítico de manera exclusiva con los fenómenos de la contemporaneidad, sino también con ciertas nociones superadas del humanismo clásico y acoger los aportes, tanto de la ética normativa como de las neurociencias. La argumentación sólida y profunda es imprescindible pero la evidencia empírica sistemática también lo es. La reivindicación de la perentoriedad de que dibujemos entre todos una aristotélica vida buena y nuestros fines más preciados, debe estar aunada al reconocimiento del papel de las emociones en nuestras decisiones. Los seres humanos estamos mutando y también nuestra autorrepresentación. De resultas, el carácter dilemático del concepto de naturaleza humana ha alcanzado el paroxismo.
1 https://www.stopkillerrobots.org/es/
Referencias
*Allard de Grandmaison, A. (2021). La cuarta revolución industrial: cuando la inteligencia artificial desafía la dimensión ética de los almacenes logísticos. Madrid. Universidad Pontificia Comillas. Trabajo de Grado. Disponible en: https://repositorio.comillas.edu/xmlui/handle/11531/49725
*Asimov, Isaac (1985). Yo, Robot. Novena reimpresión, p.3. Disponible en: https://irreverenciaemergente.files.wordpress.com/2015/05/asimov-isaac-futuro-01-yo-robot.pdf
*Consejo de la UE (25/11/2022). Orientación General. Expediente interinstitucional. Comité de representantes permanentes. Disponible en: https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/es/pdf
*Consejo de la UE (6/12/2022). Reglamento de Inteligencia Artificial: el Consejo pide que se promueva una IA segura que respete los derechos fundamentales. Comunicado de prensa. Disponible en: https://www.consilium.europa.eu/es/press/press-releases/2022/12/06/artificial-intelligence-act-council-calls-for-promoting-safe-ai-that-respects-fundamental-rights/
Harari, Yuval N. (2018). 21 lecciones para el siglo XXI . Barcelona: Debate. Disponible en: https://pmadsena.weebly.com/uploads/1/2/7/1/12712314/21_lecciones_para_el_siglo_xxi_-_yuval_n.pdf
(10.07.2023). La historia de los imparables. Yuval Noah Harari, historiador y escritor. Aprendemos juntos 2030. BBVA. Disponible en:https://www.youtube.com/watch?v=_TbJU3MgA_E
Jonas, Hans (1995). El Principio de responsabilidad. Ensayo de una ética para la civilización tecnológica. Barcelona: Herder. Disponible en: https://doctoradohumanidades.files.wordpress.com/2015/04/jonas-el-principio-de-responsabilidad.pdf
Kant, Immanuel (2012). Fundamentación para una metafísica de las costumbres. Madrid: Alianza Editorial. Versión castellana y estudio preliminar de Roberto R. Aramayo. Disponible en: http://juliobeltran.wdfiles.com/local–files/cursos:ebooks/Kant,%20I.Fundamentaci%C3%B3n%20para%20una%20metaf%C3%ADsica%20de%20las%20costumbres%20(Alianza).pdf
UNESCO (23.11.2021). Recomendación sobre la Ética de la IA. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
*VDW (2018). Informe sobre los Principios Asilomar en Inteligencia Artificial. Grupo de Estudio Evaluación de las tecnologías de digitalización VDW. Federación de Científicos Alemanes. Disponible en: https://vdw-ev.de/wp-content/uploads/2019/05/Informe-sobre-los-principios-Asilomar-en-Inteligencia-Artificial_final.pdf