TECNOLOGÍA
Inteligencia Artificial: advierten que la búsqueda avanzada de Google dejó de ser segura para los niños.
La organización Common Sense Media alertó que las herramientas asistidas por la corporación tecnológica presentan fallas críticas ante señales de crisis de salud mental y facilitan información de riesgo. El informe concluyó que los sistemas no discriminan las respuestas según la franja etaria del usuario, por lo que exigieron la implementación de mecanismos de bloqueo para familias y centros educativos.
Una rigurosa investigación encendió las alarmas internacionales al revelar importantes brechas de seguridad en las nuevas funciones de asistencia virtual orientadas al público infanto-juvenil.
La organización Common Sense Media concluyó que las herramientas AI Overviews y el Modo IA, integradas de forma nativa en el motor de búsqueda de Google, representan un riesgo inaceptable para niños y adolescentes al no cumplir con los estándares mínimos de protección vigente.
El relevamiento técnico detectó que los algoritmos conversacionales fallaron de manera recurrente al momento de reconocer señales de crisis severas asociadas a ideaciones suicidas o síntomas de psicosis en los usuarios de menor edad.
Asimismo, el documento advirtió que los sistemas llegaron a validar conductas vinculadas a trastornos alimenticios y que facilitaron datos precisos para la confección de "deepfakes" de índole sexual, una modalidad digital habitualmente utilizada para el acoso escolar.
Uno de los principales reclamos institucionales radica en la ausencia de filtros biológicos o de edad por parte de la plataforma tecnológica, ya que los resúmenes y diálogos automatizados se despliegan de forma idéntica sin diferenciar si quien consulta es un adulto o un niño.
En materia pedagógica, los expertos señalaron un impacto negativo en los procesos de aprendizaje escolares, debido a que la Inteligencia Artificial resuelve de forma íntegra y automatizada todas las tareas solicitadas por los estudiantes en lugar de guiar el proceso cognitivo.
Como contrapartida, el informe técnico valoró positivamente el hecho de que las herramientas mantienen límites estrictos para bloquear interacciones de carácter romántico con los menores de edad.
Por este motivo, la organización solicitó formalmente a la empresa desarrolladora habilitar una opción global que permita a los tutores y colegios desactivar por completo la búsqueda predictiva.