Um programador estadunidense abriu uma ação judicial contra a OpenAI, empresa de inteligência artificial (IA) dona do ChatGPT. Ele acusa a plataforma de auxiliar a agora ex-esposa a planejar um atentado envolvendo veneno.

De acordo com James, a ex-esposa começou a usar o ChatGPT por indicação dele mesmo para tarefas do trabalho, mas acabou adotando o chatbot para desabafar até sobre problemas no casamento.

Ela teria contado à plataforma que o então marido era abusivo, narcisista e controlador. Como resposta, o ChatGPT concordou com temores de Cheryl de que o marido poderia envenená-la e passou explicar para ela como certas substâncias funcionavam.

Cheryl conseguiu que a IA fornecesse a ela detalhes organizados sobre como a dosagem certa de oleandro de acordo com o peso de James, fora o conselho de colocar a substância em uma lata de energético para disfarçar o gosto.

Investigação foi arquivada

No processo, James alega que passou mal em julho do ano passado e ficou cerca de três dias com sintomas como “agitação extrema, sintomas cardíacos, dores abdominais agudas e confusão”.

Dias depois, ele encontrou um papel com a letra Cheryl contendo uma lista de substâncias com potencial venenoso, além de um lembrete para “apagar todas as conversas” com o ChatGPT escrito no topo da folha.

A polícia foi acionada e iniciou investigações, encontrando objetos suspeitos em posse da suspeita, como seringas e uma balança de precisão, além de obter o histórico de conversas com a IA.

Porém, por falta de evidências concretas e médicas, o caso foi arquivado — James não foi ao médico após o ocorrido para fazer exames toxicológicos que comprovassem o uso de veneno e nem guardou a bebida possivelmente utilizada no crime.

“O produto validou Cheryl, a apoiou, encorajou seus planos ao confirmar seus piores medos infundados, inventou novos motivos para que ela temesse o marido, proporcionou-lhe uma câmara de eco interminável e forneceu os detalhes operacionais da tentativa de assassinato”, diz o processo.

O que diz a OpenAI