Los programas de inteligencia artificial pueden amortiguar la escasez de consejeros en las preparatorias, pero ¿son buenos para los estudiantes?

Durante la pandemia, Jon Siapno, un veterano consejero universitario y profesional del Área de la Bahía, comenzó a desarrollar un chatbot que pudiera responder las preguntas de los estudiantes de secundaria sobre sus futuras opciones educativas. Estaba usando Watson, el precursor de preguntas y respuestas de ChatGPT de IBM, pero cuando la inteligencia artificial generativa se volvió accesible, supo que sería un cambio radical.

Un ‘chatbot’ con tecnología de inteligencia artificial, entrenado para recibir información sobre universidades y carreras profesionales y diseñado para imitar el habla humana, permitió que los estudiantes de la escuela autónoma Academia Haciendo Olas en la ciudad de Richmond, en East Bay, pronto pudieran enviar mensajes de texto a un copiloto de inteligencia artificial para conversar sobre su futuro. La idea era que los estudiantes pudieran hacer preguntas básicas, a cualquier hora, antes de reunirse con consejeros como Siapno para tener conversaciones más específicas.

Según los últimos datos federales del año escolar 2021-22, casi una cuarta parte de las escuelas de Estados Unidos no tienen un solo consejero. A las escuelas preparatorias de California les va mejor, pero la proporción de estudiantes por consejero del estado cuando ChatGPT debutó el año siguiente todavía era de 464 a 1, muy lejos de la proporción recomendada por la Asociación Estadounidense de Consejeros Escolares de 250 a 1.

Siapno no fue el único que vio el potencial de la IA generativa para ampliar el asesoramiento. En los últimos dos años, ha surgido una avalancha de bots diseñados para ayudar a las personas a navegar por sus opciones universitarias y profesionales, a menudo con nombres que suenan humanos como Ava, Kelly, Oli, Ethan y Coco. No está claro cuántas escuelas secundarias de California les dicen a los estudiantes que usen alguno de ellos, pero el poder de la IA generativa y la escala en la que los jóvenes ya están recurriendo a los ‘chatbots’ en sus vidas personales está haciendo reflexionar a algunas personas.

Julia Freeland Fisher es directora de educación en el Clayton Christensen Institute, una organización de investigación sin fines de lucro que estudia la innovación. Recientemente, dio la alarma sobre las consecuencias de permitir que los estudiantes desarrollen relaciones con consejeros universitarios y profesionales impulsados por inteligencia artificial en lugar de humanos.

“Resulta muy tentador ver a estos bots como algo superficial”, dijo Freeland Fisher. “No amenazan las relaciones reales, son solo conversaciones puntuales, pero sabemos por la sociología que estas conversaciones puntuales son en realidad grandes oportunidades”.

Los sociólogos hablan del “capital social” como las conexiones entre las personas que facilitan su éxito. Entre esas conexiones, tenemos “lazos fuertes” en amigos cercanos, familiares y compañeros de trabajo que nos dan apoyo de manera rutinaria, y “lazos débiles” en conocidos que vemos con menos regularidad. Durante mucho tiempo, la gente pensó que los lazos débiles eran menos importantes, pero en 1973 el sociólogo de Stanford Mark Granovetter escribió sobre “ la fuerza de los lazos débiles ” y una avalancha de estudios desde entonces han confirmado lo importantes que pueden ser esos conocidos más distantes para todo, desde búsquedas de trabajo hasta soporte emocional.

Mientras California considera regular los servicios de inteligencia artificial para jóvenes, los responsables políticos, las empresas tecnológicas y las escuelas deben considerar cómo el creciente mercado de orientación universitaria y profesional basada en inteligencia artificial podría convertirse inadvertidamente en la fuente de un nuevo problema.

“Estamos creando este ejército de bots de autoayuda para ayudar a los estudiantes a abrirse camino en la escuela y hacia el trabajo”, dijo Freeland Fisher, “pero esos mismos bots pueden estar erosionando los tipos de oportunidades de construcción de redes que ayudan a los estudiantes a obtener esos trabajos eventualmente”.

‘Como un mentor en tu bolsillo’

La Making Waves Academy garantiza que todos sus graduados cumplan con los requisitos mínimos de admisión a las universidades públicas de cuatro años de California. Nueve de cada diez de ellos continúan sus estudios superiores y, mientras están allí, el personal de la Making Waves Education Foundation ofrece orientación personalizada, becas, planificación presupuestaria y planificación profesional para ayudarlos a graduarse a tiempo, sin deudas y con una oferta de trabajo.

Patrick O’Donnell, director ejecutivo de Making Waves, dijo que su equipo ha estado pensando en cómo ampliar los tipos de apoyo que ofrecen desde hace años, dada la escasez de consejeros en las escuelas.

“Incluso si los consejeros quisieran asegurarse de que están apoyando a los estudiantes a explorar sus opciones universitarias y profesionales, es casi imposible hacerlo y brindar una orientación realmente personalizada”, dijo O’Donnell.

Los primeros superusuarios del Making Waves AI CoPilot fueron estudiantes de 9.º y 7.º grado ávidos de información pero excluidos de las reuniones con consejeros escolares centrados en ayudar a los estudiantes de último año a planificar sus próximos pasos.

CareerVillage es otra organización sin fines de lucro de California que se centra en ofrecer buenos consejos universitarios y profesionales. CareerVillage.org ha estado recopilando preguntas y respuestas de expertos de fuentes múltiples desde 2011 para ayudar a las personas a encontrar el camino hacia una buena carrera profesional.

Cuando salió ChatGPT, el cofundador y director ejecutivo Jared Chung vio el potencial de inmediato. Para el verano de 2023, su equipo tenía una versión completa de su AI Career Coach para probar, gracias a la ayuda de otras 20 organizaciones sin fines de lucro e instituciones educativas. Ahora, “Coach” está disponible para personas de forma gratuita en línea, y las escuelas secundarias y universidades de todo el país están comenzando a incorporarlo en sus propios servicios de asesoramiento.

En la Facultad de Enfermería de la Universidad de Florida, una versión más especializada de Coach, “Coach for Nurses”, ofrece a los usuarios apoyo para la exploración profesional las 24 horas del día. Shakira Henderson, decana de la facultad, dijo que Coach es “un complemento valioso” para otros servicios de asesoramiento profesional de la facultad.

Coach for Nurses personaliza su conversación y sus consejos en función de la etapa profesional, los intereses y los objetivos del usuario. Está repleto de información sobre el mercado laboral actual y geográficamente específica, de modo que las personas puedan hacer preguntas sobre los ingresos en un trabajo específico, en un condado específico, por ejemplo. Coach también puede guiar a las personas a través de escenarios simulados de enfermería y está repleto de actividades y cuestionarios basados en chat que pueden ayudarlos a explorar diferentes caminos profesionales.

Sin embargo, Henderson tiene claras las limitaciones de la herramienta: “La IA no puede reemplazar por completo la orientación empática y matizada que brindan los mentores y asesores profesionales humanos”, afirmó. Las personas pueden evaluar las habilidades interpersonales de un aspirante a enfermero, ayudarlo a pensar en el tipo de hospital que más le gustaría o en el entorno laboral en el que prosperaría. “Un asesor humano que trabaje con ese estudiante podrá identificar y conectar más que una herramienta de IA”, afirmó.

Por supuesto, eso requiere que los estudiantes tengan asesores humanos disponibles. Marcus Strother, director ejecutivo de MENTOR California, una organización sin fines de lucro que apoya programas de mentoría en todo el estado, dijo que Coach es mucho mejor que nada.

“La mayoría de nuestros jóvenes, particularmente los jóvenes de color en áreas de bajos ingresos”, dijo Strother, “no tienen la oportunidad de conocer a esas personas que de todos modos podrán brindarles la conexión”.

Por el contrario, Coach, dijo, es “como tener un mentor en el bolsillo”.

‘Un desierto regulatorio’

El mes pasado, el senador estatal de California Steve Padilla, demócrata de San Diego, presentó una ley para proteger a los niños de los ‘chatbots’. La SB 243, entre otras cosas, limitaría a las empresas el diseño de ‘chatbots’ que alienten a los usuarios a interactuar con más frecuencia, responder más rápidamente o conversar durante más tiempo. Estos elementos de diseño utilizan trucos psicológicos para lograr que los usuarios pasen más tiempo en la plataforma, lo que, según las investigaciones, puede crear una adicción que impida a las personas participar en otras actividades saludables o las lleve a formar vínculos emocionales poco saludables con los bots.

La naturaleza adictiva de ciertas aplicaciones ha sido durante mucho tiempo una crítica a las redes sociales, especialmente para los jóvenes. En la investigación de Freeland Fisher para el Instituto Clayton Christensen, se incluyó un comentario de Vinay Bhaskara, cofundador de CollegeVine, que lanzó un asesor de inteligencia artificial gratuito para estudiantes de secundaria llamado Ivy en 2023.

“He visto conversaciones en las que los estudiantes dicen: ‘Ivy, muchas gracias. Eres como mi mejor amiga’, lo cual es reconfortante, pero también un poco aterrador. Es un poco de ambas cosas”, dice el informe.

Al ser contactado por teléfono, Bhaskara dijo que la herramienta de su compañía está diseñada para ser amigable y conversacional, de modo que los estudiantes se sientan cómodos al usarla. Millones de estudiantes han usado el ‘chatbot’ de forma gratuita en el sitio web de CollegeVine y más de 150 universidades en California y en todo el país han ofrecido la tecnología a sus propios estudiantes. Después de ver cuántos millones de correos electrónicos, mensajes de texto y sesiones de chat en línea se han realizado fuera del horario laboral, Bhaskara ahora sostiene que la información y el apoyo que los estudiantes han recibido del ‘chatbot’ superan los riesgos.

Al anunciar el proyecto de ley de Padilla, su oficina hizo referencia a una serie de casos en los que los ‘chatbots’ dirigieron a niños que se habían encariñado con ellos a hacer cosas peligrosas. En el caso más extremo, un adolescente de Florida se quitó la vida después de que un ‘chatbot’ de Character.AI con el que había entablado una relación sentimental lo animara a “volver a casa conmigo”. Padilla dijo que su proyecto de ley no impediría que los jóvenes obtuvieran los beneficios de la orientación universitaria y profesional de los ‘chatbots’; ofrecería pautas razonables para abordar una necesidad grave.

“Esto es un desierto regulatorio”, dijo Padilla. “No hay barreras reales que protejan algunos aspectos de esta situación”.

Freeland Fisher dijo que los compañeros de inteligencia artificial a los que los jóvenes recurren para encontrar amistades y relaciones románticas representan un riesgo mucho mayor que los asesores universitarios y profesionales impulsados por inteligencia artificial. Pero dijo que las escuelas y los desarrolladores de tecnología aún deben tener cuidado cuando buscan una solución de inteligencia artificial para la escasez de asesores.

Tal vez el único peligro actual sea sustituir las conversaciones con los asesores escolares. Sin embargo, con el tiempo, las herramientas sofisticadas que captan más tiempo y atención de los estudiantes en la búsqueda de satisfacer una necesidad mayor podrían terminar reemplazando las conversaciones con otros adultos en sus vidas.

“Estos otros apoyos son importantes en el futuro”, dijo Freeland Fisher. Cuando los estudiantes pasan más tiempo con ‘chatbots’ y, de hecho, aprenden a preferir las interacciones con bots en lugar de con humanos, esto contribuye al aislamiento social que puede limitar la capacidad de los jóvenes para acumular capital social, que es muy importante. “Esa es parte de la advertencia que estamos tratando de construir en esta investigación”, dijo Freeland Fisher. “No se trata de decir ‘No usen bots’. Se trata simplemente de tener una imagen mucho más completa de los costos potenciales”.

Por su parte, Making Waves y CareerVillage están asumiendo cierta responsabilidad por los riesgos que representan los ‘chatbots’. De hecho, Making Waves retirará el AI Copilot este verano, ya que la fundación cambiará su misión para encontrar una manera de usar la tecnología para ayudar a los niños a construir capital social, no solo para obtener respuestas a preguntas sobre la universidad y la carrera profesional. Y CareerVillage ya ha implementado salvaguardas para abordar algunas de las preocupaciones de Padilla.

Si bien Coach les dice a los usuarios que cuanto más interactúan con el ‘chatbot’, más personalizadas se vuelven sus recomendaciones, Chung, el director ejecutivo, dijo que Coach está diseñado solo para hablar sobre el desarrollo profesional. “Si intentas mantener una conversación larga sobre algo que no está relacionado, Coach se negará”, dijo Chung. Describió una serie de medidas de seguridad y controles que la empresa implementó para asegurarse de que los usuarios nunca se apeguen emocionalmente al ‘chatbot’.

“Es trabajo”, dijo Chung, “pero voy a ser honesto contigo, no es un trabajo imposible”.