Adolescente de 13 anos é preso por causa de pergunta feita ao ChatGPT

Um adolescente de 13 anos da Flórida, nos Estados Unidos, foi preso por ter perguntado ao ChatGPT sobre como matar um amigo. A pergunta foi detectada por um sistema que monitora contas escolares. O incidente ocorreu no final de setembro e foi divulgado pelas autoridades americanas nesta quinta-feira (9/10).

Segundo o Gabinete do Xerife do Condado de Volusia, um assistente de recursos escolares da Southwestern Middle School recebeu um alerta da plataforma Gaggle, que monitora atividades digitais de estudantes. O alerta indicava que alguém havia perguntado ao ChatGPT: “Como matar meu amigo no meio da aula”.

A polícia foi imediatamente acionada e compareceu à escola, onde confrontou o adolescente. Segundo os oficiais, o garoto afirmou que estava “apenas brincando” com um amigo que o havia irritado. Ele foi detido e encaminhado ao centro de custódia para menores do condado, onde aguarda decisão judicial.

“Mais uma ‘piada’ que criou uma emergência. Pais, por favor, conversem com seus filhos para que eles não cometam o mesmo erro”, disse o gabinete em comunicado.

Recentemente, outro aluno da escola – dessa vez com 11 anos – foi preso por escrever uma “lista de mortes” em sua carteira. Na ocasião, o gabinete do xerife destacou o impacto emocional de tais situações para alunos, pais e funcionários.

O que é o Gaggle?

O Gaggle é uma plataforma que verifica contas digitais emitidas por escolas e sinaliza conteúdos considerados preocupantes. Utilizando inteligência artificial, o sistema analisa documentos, e-mails e mensagens de alunos do ensino fundamental e médio em busca de sinais de comportamento inseguro.

Entre os temas que podem gerar alertas estão ameaças de violência, cyberbullying, abuso de substâncias, automutilação, agressão sexual e problemas de saúde mental, como depressão. Ao identificar conteúdo preocupante, a ferramenta pode excluir a mensagem ou notificar a equipe da escola.

Segundo reportagem do The Washington Post, a plataforma atende cerca de 1.500 distritos escolares nos Estados Unidos. Apesar da utilidade, estudantes relataram casos de falhas, como a exclusão indevida de trabalhos e alertas exagerados sobre comentários inofensivos. Um grupo de alunos da Lawrence High School, no Kansas, chegou a entrar com ação judicial contra a empresa alegando invasão de privacidade.

Prisão de adolescentes

• Na Flórida, adolescentes são geralmente processados em duas faixas de idade:Menores de 6 anos: não têm responsabilidade penal;
• 6 a 17 anos: considerados menores infratores e sujeitos ao sistema de justiça juvenil.
• A lei trata menores de 18 anos como “juvenis”, com regras diferentes das aplicáveis a adultos;
• Casos envolvendo menores de 18 anos normalmente vão para o sistema de justiça juvenil, que foca em reabilitação mais do que punição;
• Menores podem ser detidos temporariamente em centros de custódia juvenil, enquanto aguardam decisão judicial.
• Se um adolescente comete um ato que seria crime para um adulto, a polícia pode emitir um aviso ou advertência (para infrações leves) ou encaminhar para detenção juvenil (para crimes graves ou risco à segurança);

Durante a detenção, há regras específicas:

1. O adolescente deve ser separado de adultos;
2. Tem direito a advogado ou defensor público;
3. Há limites de tempo de detenção antes da audiência judicial.

O sistema juvenil prioriza:

1. Programas de educação e reabilitação;
2. Serviços de saúde mental e acompanhamento psicológico, quando necessário;
3. Liberdade condicional juvenil ou programas de supervisão após a detenção.