Qué medidas de seguridad incluye ‘ChatGPT para Adolescentes’

OpenAI lanzó el martes una versión de su chatbot diseñada específicamente para menores de edad, ChatGPT para Adolescentes , adaptada a usuarios de entre 13 y 17 años.

La herramienta incorpora restricciones de contenido en torno a temas como el suicidio, las autolesiones y las conversaciones románticas o sexuales, además de un sistema de ayuda para tareas escolares pensado para orientar el aprendizaje en lugar de ofrecer respuestas directas.

La compañía, con sede en San Francisco, indicó que la primera generación que crece junto a la inteligencia artificial ya utiliza estos sistemas para trabajos escolares, consultas cotidianas e incluso como compañía.

Ese uso extendido motivó el desarrollo de una versión con protecciones más sólidas que la edición estándar del chatbot.

“Queremos tratar a los adolescentes como adolescentes, lo que significa que tenemos que asegurarnos de presentarnos con la etapa de desarrollo adecuada, sin hablarles con condescendencia ni tratarlos como niños, pero también asegurándonos de que no estén expuestos a material al que no deberían estar expuestos”, señaló Ann O’Leary, vicepresidenta de política global de OpenAI .

Detección de edad y bloqueo de contenido sensible sin verificación directa OpenAI no exige una comprobación formal de edad, pero aplica mecanismos que estiman si un usuario es menor de 18 años según el tipo de consultas que realiza.

Cuando el sistema identifica a un adolescente —o cuando la persona se identifica como tal—, se le asigna de manera automática la versión adaptada del chatbot , con las restricciones de contenido sobre suicidio, autolesiones y conversaciones románticas o sexuales activadas por defecto.

El enfoque resulta similar al que utiliza Meta en las cuentas de adolescentes de Instagram , que también aplican restricciones más estrictas en contenido, chats y privacidad respecto de las cuentas regulares.

Los controles parentales permiten horas de silencio y alertas de riesgo Para activar los controles parentales, tanto el usuario adolescente como su padre, madre o tutor deben aceptarlos de forma conjunta.

Sin embargo, O’Leary remarcó que el objetivo del chatbot para adolescentes es “asegurarnos de que esto sea seguro, incluso si no usas controles parentales”.

Quienes sí vinculen una cuenta parental podrán establecer horas de silencio durante las cuales el menor no tendrá acceso a la aplicación, y recibirán notificaciones de seguridad en situaciones limitadas de alto riesgo, como la posibilidad de que un usuario se cause daño a sí mismo.