Google actualiza Gemini con funciones de salud mental
Google anunció este martes el lanzamiento de herramientas diseñadas para proteger la salud mental de sus usuarios en Gemini.
Es importante mencionar, que esta decisión surge tras una demanda presentada en California, la cual vincula al chatbot con el suicidio de un hombre de 36 años en 2025.
La actualización principal consiste en una función rediseñada bajo el nombre “Hay ayuda disponible”. A partir de ahora, cuando la inteligencia artificial detecte señales de angustia mental, autolesión o crisis, mostrará una interfaz simplificada. Esta herramienta le permitirá a los usuarios contactar servicios de emergencia o líneas de ayuda mediante un solo clic.
Además de la respuesta inmediata, Google implementó las siguientes medidas:
- Visibilidad permanente: El aviso de ayuda permanecerá activo durante toda la conversación tras ser activado.
- Entrenamiento técnico: Programaron a Gemini para evitar simulaciones de intimidad emocional o actuar como una compañía humana.
- Inversión social: Google.org destinará 30 millones de dólares en tres años para fortalecer las líneas de ayuda a nivel global.
Cabe recordar que la demanda alegó que el chatbot fomentó fantasías delirantes en el usuario, presentándose como una entidad consciente y con sentimientos. Por ello, los familiares solicitaron que la IA termine automáticamente conversaciones sobre autolesiones y prohíba estrictamente la simulación de afecto.
Este caso se suma a una serie de litigios recientes contra empresas como OpenAI y Character.AI, centrados en la responsabilidad de los chatbots en el bienestar psicológico de las personas. Ante esto, Google afirma que la IA responsable debe jugar un papel positivo en la sociedad actual.
Ten la información al instante en tu celular. Únete al canal de Diario Primicia en WhatsApp a través del siguiente link: https://
También estamos en Telegram como @DiarioPrimicia, únete aquí: https://t.me/