Google acaba de actualizar Gemini con un rediseño de la interfaz para cumplir un objetivo claro: acelerar el acceso a recursos de salud mental cuando un usuario muestra señales de angustia. La modificación prioriza líneas de crisis, servicios de prevención del suicidio y vías de contacto con profesionales, reduciendo pasos y el tiempo entre la búsqueda y la ayuda efectiva.
Google Gemini mejoró su servicio de ayuda a los usuarios que están pasando por una crisis
La actualización actúa apenas el sistema detecta indicios de crisis, ahora en vez de dar respuestas largas o genéricas, la interfaz muestra de forma más inmediata información crítica. Google Gemini coloca en primer plano números de atención, enlaces a servicios locales y opciones para comunicarse con profesionales capacitados.
El anuncio llega en un marco donde proliferan cuestionamientos legales sobre la responsabilidad de las empresas cuando sus chatbots fallan con usuarios vulnerables.
Un estudio de RAND analizó respuestas ante 30 consultas sobre suicidio y halló que, en esa muestra, Gemini fue menos consistente que ChatGPT o Claude. Google sostiene que la actualización apunta a reducir esa variabilidad. Para quienes diseñan productos con IA, la lección es evidente: hay que detectar señales de riesgo y definir rutas de ayuda claras.
Las actualizaciones de Google Gemini que brindan un mejor servicio de ayuda a sus usuarios
Para los creadores de apps o chatbots esta actualización advierte los pasos a seguir para implementar en estos servicios. Primero habría que incorporar protocolos de seguridad desde el inicio. Además, hay que asumir que la responsabilidad legal y reputacional está subiendo. En la práctica esto se puede aplicar a realizar tests constantemente, dar documentación clara y acelerar los flujos automáticos hacia recursos humanos o servicios externos.
En Latino América las comunidades de founders ya intercambian prácticas para implementar prompts seguros, protocolos de escalamiento y alianzas con servicios de salud para ayudar a los usuarios en estos momentos de crisis. El mensaje es incorporar medidas de bienestar desde la arquitectura del producto.
LA CIEN
