ChatGPT vai restringir informações sobre armas para menores de 18

O ChatGPT vai passar a dar menos informações sobre armas a quem tem menos de 18 anos, mesmo quando a pergunta parece inofensiva. A OpenAI anunciou a mudança na sexta-feira (30), junto com outra novidade: o assistente poderá encerrar sozinho conversas em que perceber uma fixação por violência. Segundo a empresa, as novas proteções começam a ser implantadas nas próximas semanas.

O anúncio também traz um compromisso de transparência. A OpenAI promete publicar um relatório periódico sobre como detecta e responde a casos de violência no ChatGPT. Os números citados abaixo são da própria empresa e não têm verificação independente.

O que muda para adolescentes

As regras da OpenAI já proibiam ajudar alguém a planejar ou praticar violência. Além disso, já limitavam a ajuda para que adolescentes encontrassem ou obtivessem armas. Agora, a restrição fica mais ampla. Para menores de 18, o ChatGPT vai limitar informações práticas sobre armas e sistemas de segurança que possam facilitar a violência, ainda que não haja nenhum sinal de má intenção.

Por outro lado, os adolescentes continuam podendo usar o assistente para evitar que uma situação violenta piore. Também podem buscar apoio e pedir ajuda para falar com um adulto de confiança.

Mas como o ChatGPT sabe a idade de quem escreve? A empresa usa um sistema de previsão de idade, lançado no ano passado. Ele analisa sinais como padrões de comportamento para estimar se a pessoa tem menos de 18 anos. Segundo a OpenAI, esse sistema agora reavalia a estimativa continuamente, durante o uso. Assim, um adolescente pode ser transferido para a versão com proteções extras quando o sistema julgar apropriado. Já o adulto incluído por engano pode confirmar a idade pela Persona, empresa parceira de verificação.

Regras mais duras para todos

Algumas mudanças valem para qualquer usuário, independentemente da idade ou do motivo da pergunta. O ChatGPT vai dar menos detalhes sobre ataques em massa do passado e sobre quem os cometeu. Isso inclui as armas e equipamentos usados, como foram obtidos e comparações detalhadas da dimensão dos danos. A ideia, segundo a empresa, é não aumentar a fama de agressores. Ainda assim, continua permitido perguntar como esses casos afetaram vítimas e comunidades e como reconhecer sinais de alerta.

Além disso, o assistente vai levar em conta conversas recentes. Se elas tiverem sinais de possível violência, o ChatGPT ficará mais cauteloso ao responder pedidos que, isolados, pareceriam comuns.

A mudança mais visível é o encerramento automático. Quando o assistente perceber que alguém está desenvolvendo uma fixação por violência ou pela ideia de ferir gravemente outra pessoa, poderá encerrar a conversa. Se isso acontecer várias vezes, a OpenAI diz que poderá suspender a conta temporariamente.

Pais, polícia e relatório

Os controles parentais permitem que pais vinculem a própria conta à do filho adolescente. Desde julho, eles avisam os pais quando a conta do jovem é desativada por violar as regras sobre violência. Agora, a empresa diz que prepara um aviso também para a suspensão temporária, mas não deu data.

Segundo a OpenAI, a empresa fez mais de 200 encaminhamentos de ameaças às autoridades policiais no terceiro trimestre de 2026. O primeiro relatório de segurança deve sair no início de 2027, com dados do segundo semestre de 2026. Depois, virão atualizações a cada seis meses. O próprio post chama o documento por dois nomes: "Relatório de segurança da comunidade" e "Relatório de salvaguardas da comunidade".

O anúncio não cita casos específicos. A Engadget, porém, lembra que a OpenAI foi processada no ano passado em uma ação por morte. Segundo o veículo, o presidente-executivo Sam Altman também pediu desculpas publicamente por não ter avisado a polícia sobre conversas preocupantes ligadas ao tiroteio de Tumbler Ridge, ocorrido neste ano.

O que ainda não sabemos

A OpenAI não diz em quais países as mudanças chegam primeiro nem se valem para todos ao mesmo tempo. Também não explica quais informações sobre armas passam a ser consideradas "práticas" demais. Da mesma forma, não informa quantas conversas encerradas levam a uma suspensão, nem quanto tempo ela dura.

Outra dúvida é a precisão da previsão de idade. A empresa não divulgou taxas de acerto. Se o sistema errar, adultos podem cair na versão restrita, e adolescentes podem escapar dela.

Nossa leitura

O pacote mira um problema real: perguntas que parecem inocentes, mas ganham outro sentido no contexto. Encerrar conversas é uma resposta mais direta do que apenas recusar uma pergunta. Por outro lado, quase tudo depende de sistemas automáticos que a empresa ainda não mostrou funcionando. O relatório prometido para 2027 será o primeiro teste público dessas promessas.

Leia também: Relatório da OpenAI sobre agentes que desativaram o monitoramento e OpenAI passa a treinar modelos sem internet ao vivo.