OpenAI dijo que este redireccionamiento busca que las interacciones críticas,donde hay señales de angustia emocional,sean atendidas por GPT-5,que es un modelo más sensible.
Crédito: Adobe Stock
Comparte
OpenAI anunció una serie de mejoras destinadas a hacer de ChatGPT una herramienta más segura y responsable,tras las controversias recientes vinculadas al suicidio de un adolescentede 16 años de edad en California.
Entre las medidas más destacadas están la redirección de conversaciones sensibles hacia modelos de razonamiento como GPT-5 y la implementación,el próximo mes,de controles parentales en la plataforma.
De acuerdo con la compañía,este redireccionamiento busca que las interacciones críticas,donde hay señales de angustia emocional o advertencias de crisis,un modelo con razonamiento más profundo y sensible,con el fin de ofrecer respuestas más útiles y seguras.
Paralelamente,OpenAI informó que introducirá herramientas de control parental que permitirán a los padres o tutores supervisar el uso de ChatGPT por parte de sus hijos adolescentes.
Estas funciones incluyen la vinculación de cuentas familiares,la revisión de conversaciones y la activación de alertas automáticas en caso de detección de estados emocionales inestables. La compañía indicó que esta configuración estará disponible a lo largo de octubre.
La decisión de implementar estas medidas llega justo después de que los padres de Adam Raine,un adolescente de 16 años,presentaran una demanda por homicidio culposo contra OpenAI,alegando que GPT-4o,el modelo anterior usado por el joven,“ayudó activamente” al menor a explorar métodos de suicidio,sin activar ningún tipo de protocolo de emergencia.
OpenAI subrayó que estas mejoras se desarrollan en coordinación con un Consejo de Bienestar e Inteligencia Artificial y una red global de médicos especializados en salud mental.
Su objetivo,agregó,es asegurar que las respuestas de ChatGPT no sólo sean informativas,sino también compasivas y adecuadas al contexto emocional del usuario. Este enfoque,dicen,es sólo el inicio de un esfuerzo que continuará durante los próximos meses.
El enfoque en GPT-5 como modelo de referencia para conversaciones sensibles y los controles parentales representan un hito en la evolución de ChatGPT hacia una herramienta más segura y confiable,especialmente para los usuarios más vulnerables.