La implantación de los sistemas avanzados de Inteligencia Artificial está dando lugar a diferentes estudios y enfoques más allá de las capacidades prácticas de esta tecnología. Cada vez se abordan más debates y planteamientos centrados en cuestiones éticas, de gobernanza y de repercusión en el progreso de la sociedad. De ahí que algunos investigadores estén proponiendo nuevos paradigmas, como por ejemplo el de Inteligencia aumentada.
La frase “Un humano en la máquina” es cada vez más utilizada en relación al uso de la IA. Se refiere a la idea de que un humano siempre debe participar en las decisiones tomadas por las herramientas de IA.
Sobre todo mientras aún se está trabajando en identificar a ciencia cierta cuándo se debe confiar en los seres humanos y su experiencia… y cuándo las cosas pueden automatizarse con los sistemas de la inteligencia artificial más modernos, como la Inteligencia Artificial Generativa o, la que ya es el gran vector de cambio, la IA agéntica.
La creciente preocupación por los riesgos de una IA no regulada ha ocasionado que la ONU ponga en marcha su Panel Científico Internacional Independiente sobre IA. Entre los expertos del panel, es muy reconocida la investigadora Menna El-Assady por sus aportaciones. Entre ellas, el nuevo concepto «inteligencia aumentada».
Inteligencia aumentada, por Menna El-Assady
En Zúrich, la investigadora egipcia Menna El-Assady ha desarrollado el concepto de “inteligencia aumentada”. Se refiere al uso de la IA para potenciar las capacidades humanas en lugar de sustituir por completo a las personas. Su enfoque fomenta la cooperación entre la IA y las personas en diversos campos.
El-Assady es miembro del primer Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU. Su trabajo se centra en desarrollar esta «inteligencia aumentada», en contraposición a la automatización total.
Su enfoque es especialmente útil para la labor del Panel, que examina las formas en que el uso de la IA está afectando a diferentes ámbitos de la sociedad, como el mercado laboral y el sistema sanitario.
Además, otra aportación clave de El-Assady es la de abogar por una infraestructura digital pública, que permita a todo aquel que desee desarrollar IA disponer de los recursos necesarios.
En palabras de la investigadora y profesora del Instituto Federal Suizo de Tecnología (ETH) de Zúrich: ”También debemos estudiar cómo incorporar diferentes culturas e idiomas en los modelos de IA para que no se limiten a un pequeño número de países”.
El bucle de coadaptación, base de la inteligencia aumentada
El llamado “Bucle de coadaptación” es la relación entre la IA y los modelos humanos. Es el proceso continuo en el que los humanos y la máquina aprenden, se ajustan y se influyen mutuamente. En este enfoque, en lugar de reemplazar a la persona, la IA se adapta a los comportamientos del humano. Por su parte, este modifica su comportamiento al interactuar con el sistema de IA.
En este paradigma, se dan 3 procesos simultáneos y constantes:
- Adaptación de la máquina: las respuestas, recomendaciones o contenidos de la IA moldean las decisiones y las formas de trabajar o pensar de las personas.
- Adaptación humana: la interacción del usuario y los nuevos datos generados regresan a la IA como retroalimentación de entrenamiento. Esto permite que el sistema se modifique para ajustarse a las necesidades del usuario.
- Retroalimentación continua: los modelos, entrenados inicialmente con datos humanos, generan resultados y contenidos que se comparten, imitan o consumen, dando lugar a ajustes constantes en el humano y la máquina.
En definitiva, se trata de entender la evolución que se produce cada vez que los seres humanos reciben nueva información, o lo mismo cuando lo hace la IA, así como el vínculo entre ambos.
El Panel Científico Internacional Independiente sobre IA
Es el primer organismo científico mundial dedicado a la inteligencia artificial, que reúne a expertos de primer orden para evaluar cómo la IA está transformando nuestras vidas.
El Panel elabora un informe anual con evaluaciones científicas basadas en datos empíricos sobre las oportunidades, riesgos e impactos de la IA. Este se presentará en el Diálogo Mundial de las Naciones Unidas sobre la Gobernanza de la IA. Este foro universal reúne a todos los países para debatir sobre la gobernanza internacional de la IA.
El objetivo es abordar la compleja relación entre innovación y ética, poniendo en marcha un estudio histórico sobre las tecnologías que están transformando la vida moderna.
El Panel no es un organismo regulador, no establece normas ni aplica estándares ni prescribe políticas. Proporcionará el análisis riguroso, basado en pruebas, relevante para las políticas y la toma de decisiones informada.
El Panel es uno de los mecanismos clave creados para implementar el Pacto Mundial Digital, que aboga por enfoques inclusivos y cooperativos para la gobernanza de la inteligencia artificial.
Principales retos éticos en el avance de la IA
El avance de la inteligencia artificial plantea preocupaciones éticas a nivel mundial, a saber:
- Sesgo algorítmico y discriminación: los sistemas de IA son entrenados con volúmenes masivos de datos históricos, lo que significa que pueden heredar y amplificar prejuicios humanos raciales, de género o socioeconómicos. Esto puede llegar a afectar a áreas de suma importancia como contrataciones laborales o decisiones judiciales.
- Desinformación masiva: la capacidad de generar contenidos hiperrealistas (deepfakes) y texto automatizado también está sirviendo para crear noticias falsas a gran escala. Esto afecta e influye en la opinión pública y contribuye a desestabilizar procesos democráticos.
- Privacidad de los datos comprometida: la ingente cantidad de información personal empleada para entrenar modelos plantea dudas sobre el consentimiento y el control de los datos. También sobre los riesgos del reconocimiento facial y la vigilancia masiva.
- Desplazamiento laboral: la automatización de tareas cognitivas y creativas que pueden desplazar profesionalmente a innumerables perfiles exige la puesta en marcha de políticas de reconversión laboral para evitar mayor brecha económica.
- Falta de transparencia sobre cómo las máquinas toman decisiones autónomas: el problema de la «caja negra» se refiere al hecho de que muchos algoritmos de aprendizaje profundo son tan complejos que ni siquiera sus creadores pueden explicar exactamente cómo llegaron a una conclusión específica. Esto es importante porque impide asignar responsabilidades en caso de errores o daños.
Falta de sincronización en el avance y la regulación
En cualquier caso, mientras por un lado se avanza en la implementación de IA a pasos agigantados, los progresos en materia de gobernanza y ética lo hacen también, aunque a menor ritmo.
La tecnología evoluciona mucho más rápido que la capacidad legal y organizativa para procesarla. Añadido a eso, las regulaciones suelen centrarse en auditar el modelo inicial y no en controlar el comportamiento dinámico del sistema una vez en producción.
Por eso es necesario que los organismos internacionales, así como los gobiernos de los países, hagan un esfuerzo común por impulsar las medidas necesarias.
