Após o filho de 14 anos tirar a própria vida nos Estados Unidos, um casal cristão passou a alertar outras famílias sobre os riscos do uso de inteligência artificial (IA) por crianças e adolescentes.
Em uma entrevista recente, os pais Megan Garcia e Sewell Setzer Jr. afirmaram que, antes de morrer, o filho Sewell criou um vínculo emocional com um chatbot de inteligência artificial e compartilhava pensamentos suicidas nas conversas com a ferramenta.
Segundo o casal, o adolescente era carinhoso, inteligente e muito ligado à família.
Sewell e o pai. (Foto: Reprodução/CBN News)
"Sewell não precisava de muito. Se estivesse perto da família, ele ficava bem. Ele era amado e um menino doce”, disse o pai à CBN News.
No entanto, com o tempo, os pais notaram mudanças no comportamento de Sewell. Ele ficou mais retraído, tinha dificuldades para concluir as tarefas escolares e passava menos tempo com a família.
Diante da situação, o casal passou a monitorar os aparelhos eletrônicos do filho, limitou o tempo de tela e o levou à terapia quando Sewell parou de se abrir com eles. Porém, em fevereiro de 2024, Sewell tirou a própria vida.
‘A IA criou uma barreira entre nós e nosso filho’
Buscando entender o que havia acontecido, os pais analisaram os eletrônicos do adolescente, esperando encontrar indícios de bullying ou contato com algum criminoso na internet.
Em vez disso, descobriram meses de conversas com um chatbot de IA criado para simular amizade, apoio emocional e até relacionamentos amorosos.
A mãe contou que, durante meses, o adolescente compartilhou com o chatbot seus medos, desejos e pensamentos suicidas.
Segundo ela, em vez de orientá-lo a procurar ajuda, a ferramenta reforçou algumas de suas ideias e chegou a dizer que ele deveria "voltar para casa", pouco antes da tragédia.
Para Megan, o filho acreditava que o relacionamento com a inteligência artificial era real.
Sewell e Megan. (Foto: Reprodução/CBN News)
"Jamais imaginei que a IA pudesse surgir e criar uma barreira entre nós e nosso filho. Tínhamos uma base sólida. Tínhamos a igreja envolvida. Tínhamos a escola envolvida. Tínhamos a família toda”, afirmou ela.
E continuou: “Sewell foi criado em um ambiente cristão. Íamos à igreja aos domingos. Achávamos que estávamos bem".
‘Os chatbots não têm senso de responsabilidade’
A CBN News destacou que o casal está entre um número crescente de pais preocupados com o uso de chatbots de IA por crianças e adolescentes.
Ao relatar histórias anteriores, o caso de um adolescente de 16 anos chamou a atenção. De acordo com depoimentos apresentados ao Comitê Judiciário do Senado dos Estados Unidos, um chatbot teria desencorajado o menino a contar aos pais sobre seus pensamentos suicidas.
Especialistas que analisaram os casos afirmaram que muitos desses sistemas são desenvolvidos para validar o que o usuário diz, o que pode representar um risco para pessoas emocionalmente vulneráveis.
Segundo a OpenAI, quase 1 milhão de pessoas por semana discutem planos de suicídio com o ChatGPT.
"Eles tendem a ser muito encorajadores, e isso pode ser um problema real, especialmente se um adolescente estiver lidando com uma doença mental", disse Paul Asay, diretor do Plugged In, plataforma da organização cristã Focus on the Family que analisa mídia e tecnologia para famílias.
Já Robbie Torney, da Common Sense Media, alertou que muitos sistemas de IA se lembram de conversas anteriores, o que pode fazer com que os usuários, especialmente crianças e adolescentes, se sintam compreendidos.
"Para um adolescente ou pré-adolescente vulnerável, isso pode dar a sensação de que o chatbot realmente o conhece", explicou Robbie.
Além dos riscos à saúde mental, especialistas alertam que pesquisas já registraram casos em que chatbots produziram conteúdo sexual impróprio, incentivaram comportamentos prejudiciais e deixaram de reconhecer sinais de alerta que um ser humano identificaria.
"Esses chatbots não têm discernimento. Eles não têm moral. Eles não têm senso de responsabilidade ou reconhecimento da mesma forma que um ser humano", disse Robbie.
Alerta aos pais
Diante desse cenário, especialistas recomendam que os pais acompanhem de perto o uso da IA pelos filhos:
“Fiquem atentos a sinais de retraimento ou perda de interesse em atividades normais. Sempre que possível, limite o uso do telefone a espaços familiares compartilhados. Mantenha os aparelhos eletrônicos fora dos quartos, especialmente durante a noite”.
“Discuta a segurança da IA para além das preocupações com fraudes ou plágio. Promova um ambiente onde as crianças se sintam seguras para falar sobre emoções difíceis”, acrescentaram.
Hoje, Megan e Sewell Setzer Jr. levam o alerta ao Congresso dos Estados Unidos, onde defendem regras mais rígidas para plataformas de inteligência artificial voltadas aos jovens.
Apesar da perda do filho, o casal afirmou que Deus continua a sustentá-los: "Minha fé é a única coisa que me mantém de pé. A graça do Senhor é real. Eu a sinto todos os dias", disse o pai.
E Megan acrescentou: "Ele nos dá a graça de suportar isso. Ele nos dá o precioso dom de perceber o que Ele já fez — o sacrifício que Ele já realizou. Isso, por si só, me trouxe muita calma nessa situação".