Nueva York exige a Google aclarar la retirada de su buscador en escuelas que veten su IA

Menin y el concejal Shekar Krishnan, presidente del Comité de Supervisión e Investigaciones del Concejo, enviaron una carta al director ejecutivo de Google, Sundar Pichai, en la que expresan su preocupación por la medida anunciada por la compañía el pasado 3 de noviembre.

Los dos legisladores también solicitaron información sobre la incorporación de la IA a las escuelas, la fiabilidad de las respuestas que ofrece a los estudiantes y el respeto a la libertad de los educadores para elegir las herramientas de aprendizaje que utilizan en las aulas, según un comunicado conjunto.

Google anunció que la compañía desactivará por defecto el acceso a Gemini (su herramienta de IA) y a otras funciones de inteligencia artificial en las cuentas escolares de alumnos de primaria y secundaria, salvo que los administradores decidan habilitarlas.

La medida afecta también al buscador Google Search: las escuelas que opten por prohibir completamente estas herramientas de IA perderán el acceso al buscador en las cuentas de sus estudiantes, ya que Google sostiene que ambas tecnologías están profundamente integradas.

"El Concejo Municipal no permitirá que Google ni ninguna empresa privada abuse de su poder de mercado para imponer sus productos en las aulas, especialmente aquellos que utilizan inteligencia artificial", advierten Menin y Krishnan en la carta.

Señalaron además que ninguna empresa privada debe tener una influencia "desproporcionada" en la educación de los niños.

"En lugar de brindar más opciones a nuestros educadores, como afirma la empresa, esta decisión obligaría a las escuelas a adoptar productos de IA para mantener el acceso a la herramienta de búsqueda en línea más utilizada", indica además la misiva.

En septiembre pasado, el alcalde de Nueva York, Zohran Mamdani, anunció una moratoria de un año sobre el uso de la IA en las escuelas públicas, desde preescolar hasta octavo grado, las que, según el anuncio de Google, correrían el riesgo de perder el acceso a su buscador.

La misiva da a la tecnológica hasta el 19 de noviembre para proporcionar la información solicitada. Entre otras cuestiones, los concejales quieren saber si seguirá permitiendo que las escuelas y los estudiantes de Nueva York accedan y utilicen la búsqueda de Google sin activar el 'Modo IA', las 'Vistas generales de la IA' ni ninguna otra herramienta de IA dirigida a los estudiantes que la empresa planee desarrollar.

También quieren que Google informe sobre las medidas que está tomando para garantizar que los estudiantes reciban información precisa, fiable y adecuada a su edad, así como sobre cómo mide, supervisa y mitiga el riesgo de desinformación generada por IA en entornos educativos.