Gemini pode avisar pais se detectar conversa de criança sobre automutilação
O Google está desenvolvendo um alerta para avisar pais quando o Gemini detectar que uma criança supervisionada falou sobre se machucar. O recurso apareceu em trechos de código ainda não publicados e, por enquanto, não foi lançado nem tem data oficial.
A descoberta foi feita pelo Android Authority na versão 17.73.15 do aplicativo do Google, segundo o Android Headlines. O código indica que crianças veriam um aviso destacado explicando que os pais receberão uma notificação se o chatbot identificar uma conversa sobre automutilação.
Como os alertas do Gemini podem funcionar
O aviso seria integrado aos controles parentais já existentes. O Family Link permite que responsáveis gerenciem o acesso a aplicativos e ativem filtros de conteúdo para crianças, mas esses controles se concentram em limitar respostas potencialmente nocivas, de acordo com o Android Headlines.
Com a nova função, o sistema também poderia sinalizar o que a criança escreve no chat. Na prática, isso daria aos responsáveis um alerta sobre um possível sinal de sofrimento, em vez de apenas restringir o conteúdo que o Gemini pode responder.
O alerta, porém, pode criar um dilema de privacidade. O Android Headlines cita a preocupação de que adolescentes, sabendo que os pais serão avisados automaticamente, deixem de falar sobre saúde mental com o chatbot. Proteger menores sem afastá-los de conversas importantes é uma questão delicada para esse tipo de ferramenta.
Recurso do Gemini ainda não tem data para chegar
A função surgiu enquanto empresas de tecnologia enfrentam maior cobrança pública sobre o uso de inteligência artificial por jovens. Segundo o Android Headlines, uma reportagem recente da Bloomberg abordou um processo que alega que o AI Search Mode, do Google, conversou sobre suicídio com um adolescente sem avisar os pais.
Perguntas frequentes
O alerta parental do Gemini já foi lançado?
Não. O recurso apareceu em trechos de código e o Google não anunciou data de lançamento.
O que o alerta pode detectar?
Segundo o código identificado, conversas de crianças supervisionadas sobre se machucar.
O recurso faz parte do Family Link?
A função é descrita como integrada aos controles parentais existentes, que incluem o Family Link.
O código encontrado também aponta que o Google trabalha em limites diários de tempo de tela para o Gemini. Como os dois recursos foram identificados antes de um lançamento, a empresa não divulgou prazo nem confirmou quando, ou se, eles serão disponibilizados.
Para acompanhar as próximas mudanças nos controles do Gemini e entender o que elas significam para as famílias, siga o Canal do TS no WhatsApp.
Por enquanto, o alerta permanece apenas nos bastidores do aplicativo. O Google ainda pode ajustar a função antes de decidir se vai colocá-la à disposição dos responsáveis.
Fonte: Android Headlines
Escrito por
