Usar chatbots para redactar podría reducir un 55% las facultades cognitivas de los menores

El documento, titulado 'IA generativa y vulnerabilidades', ha sido entregado este mismo martes al presidente francés, Emmanuel Macron, durante la apertura de la novena edición del foro multilateral que se celebra en la capital francesa entre hoy y mañana.

El informe destaca el trabajo realizado por el Massachusetts Institute of Technology (MIT), que introduce y documenta el concepto de 'deuda cognitiva' y demuestra que delegar la redacción en chatbots reduce en un 55 % la amplitud cognitiva en áreas cerebrales asociadas al razonamiento, la creatividad y el autocontrol ejecutivo.

Otro punto destacado en el documento es el apego emocional hacia estas las herramienta de la IA, propiciado sobre todo por fenómenos acentuados de antropomorfización y adulación.

Las investigaciones recogidas revelan que los sistemas de IA confirman las opiniones o conductas del usuario un 51 % más a menudo que los humanos, manteniendo este respaldo complaciente incluso ante comportamientos de riesgo o ilegales.

En ese sentido, un 10,6 % de los alumnos franceses afirma tener un sentimiento de dependencia hacia herramientas de la IA, mientras que el 92 % de los adolescentes reconoce pasar más tiempo con esas aplicaciones que el que desearían.

Por ello, el informe recomienda prohibir el diseño de interfaces que simulen empatía, culpa, celos o relaciones afectivas unilaterales creadas para generar apego o dependencia comercial. La idea sería tipificar esas respuestas como prácticas comerciales desleales y diseños engañosos.

El propio Macron se ha mostrado favorable a prohibir ciertos usos de la IA que se demuestren perjudiciales para los menores.

A falta de menos de seis meses para las elecciones presidenciales en Francia, el documento aborda el papel de la IA en un momento en que el 73 % de los franceses la utiliza ya como medio de acceso a la información "a pesar de los sesgos, las alucinaciones y la ausencia de todo debate contradictorio en las interacciones".

"La IA generativa se considera un 50 % más persuasiva que un artículo de prensa. Paralelamente, el 34 % de las respuestas facilitadas por la IA a los votantes escoceses en las últimas elecciones contenía información errónea", advierten los autores.

Otro de los aspectos destacados es la amplificación de las violencias digitales facilitada por la IA, según el documento.

"En algunos países, esto representa a uno de cada 25 menores, es decir, el equivalente a un alumno por clase", finaliza el documento.