Um jovem português de 23 anos foi investigado pela Polícia Judiciária (PJ) e pelo FBI após criar uma versão de inteligência artificial sem filtros, concebida para responder a pedidos que o ChatGPT recusaria por razões de segurança (executivedigest.sapo.pt). O sistema, batizado de “irmão malvado” do ChatGPT, foi desenvolvido para ultrapassar as restrições de segurança do modelo da OpenAI, permitindo respostas a perguntas consideradas sensíveis ou proibidas. A criação da IA levou a uma investigação conjunta entre a PJ e a polícia americana, que estão a analisar os possíveis riscos e implicações legais da tecnologia desenvolvida.
A situação do jovem reflete um aumento de preocupações sobre a criação de sistemas de IA sem supervisão adequada, especialmente em contextos de segurança e privacidade. A PJ e o FBI estão a investigar se houve violação de normas ou uso indevido de dados sensíveis. A criação da IA foi feita em um ambiente de pesquisa, mas a falta de filtros e a capacidade de responder a pedidos proibidos levantam questões sobre ética e responsabilidade tecnológica. O caso está a ser analisado com rigor, com a possibilidade de ações legais contra o autor.
