Google Reforça Gemini com Ferramentas de Saúde Mental e Proteção de Menores
O Google anunciou uma atualização significativa para o Gemini, introduzindo uma interface de 'um toque' para suporte em situações de crise e saúde mental, com botões para linhas de apoio. A plataforma também recebeu novas proteções para menores de idade, impedindo a simulação de vínculos emocionais e incentivando a prevenção de assédios. Paralelamente, a empresa investirá US$ 30 milhões em linhas de atendimento a crises globalmente, e US$ 4 milhões na ReflexAI para capacitar profissionais.
VALE DO SILÍCIO, EUA - O Google anunciou uma atualização em seu modelo de inteligência artificial Gemini, focando em novos recursos para situações de crise e saúde mental. A principal inovação é uma interface de 'um toque', que exibe botões para contato com linhas de apoio quando o chatbot identifica sinais de risco, como menções a suicídio ou automutilação. Essa funcionalidade visa reduzir o tempo necessário para que o usuário busque suporte humano profissional.
O recurso é acessível através do módulo “Ajuda disponível” e oferece opções para ligar, enviar SMS, iniciar um chat ou acessar o site de serviços especializados. O Google ressaltou que as respostas foram desenvolvidas em colaboração com especialistas clínicos, buscando ser empáticas sem validar ou incentivar comportamentos nocivos. O Gemini também foi treinado para não reforçar crenças falsas, separando a experiência subjetiva do usuário de fatos objetivos, e o painel de ajuda permanece visível durante a conversa após ativado.
Novas Proteções para Menores de Idade Implementadas
A atualização inclui novas proteções destinadas a menores de idade, com regras que impedem o Gemini de adotar um tom de 'companheiro', simular vínculos emocionais ou sugerir intimidade com o usuário. Tais medidas também visam reduzir riscos de abuso, evitando que a IA incentive bullying ou outros assédios. O objetivo central é prevenir que adolescentes desenvolvam dependência emocional do chatbot ou interpretem a inteligência artificial como uma figura humana de apoio.
Google Anuncia Investimentos Significativos em Linhas de Crise
Adicionalmente, o Google anunciou um investimento de US$ 30 milhões ao longo dos próximos três anos para apoiar linhas de atendimento a crises em diversos países. A empresa também destinou US$ 4 milhões para a ReflexAI, que integrará o Gemini à plataforma de simulações 'Prepare' para capacitar voluntários e profissionais. O Google.org ainda planeja fornecer suporte técnico pro bono para o aprimoramento da ferramenta, inicialmente com foco em parceiros da área educacional.
Essas mudanças ocorrem após investigações e processos judiciais que apontaram falhas de chatbots ao lidar com pessoas vulneráveis. Casos reportados incluem uma ação que acusa uma IA de incentivar um homem a tirar a própria vida, além de assistentes que teriam ajudado a esconder transtornos alimentares ou planejar ataques violentos. Diante desse cenário, outras empresas do setor, como OpenAI e Anthropic, também intensificaram suas medidas de segurança em conversas sensíveis.
O Google reforça que o redesenho do módulo de suporte e as novas diretrizes de resposta já fazem parte das capacidades atuais do Gemini para lidar com situações de crise, mas enfatiza que o chatbot não substitui atendimento clínico, terapia ou suporte profissional especializado.