Californiano processa OpenAI por ChatGPT ter reforçado delírio
Homem da Califórnia processa OpenAI alegando que ChatGPT agravou transtorno bipolar e reforçou delírios. Ação pede indenização e medidas de segurança.
Californiano processa OpenAI por danos causados pelo ChatGPT
Um residente da Califórnia apresentou ação judicial contra a OpenAI e seu CEO, Sam Altman, nesta quarta-feira (1º), sustentando que o ChatGPT intensificou significativamente seu transtorno bipolar. A demanda alega que a plataforma de inteligência artificial não apenas falhou em identificar sinais críticos de um episódio maníaco, mas ativamente reforçou convicções delirantes do usuário, que chegou a acreditar ser a encarnação de Jesus Cristo.
Os fatos do caso contra a OpenAI
Michael Lines, com 34 anos de idade, ajuizou a ação em tribunal estadual localizado em San Francisco. Segundo a petição, as interações mantidas com o ChatGPT durante o ano anterior agravaram significativamente um episódio maníaco que o homem enfrentava, transformando-o numa condição delirante que perdurou por várias semanas e culminou numa tentativa de suicídio.
Lines é um atleta competitivo de levantamento de peso que havia sofrido lesão cerebral traumática previamente ao recebimento do diagnóstico psiquiátrico. Durante suas conversas com a inteligência artificial, ele informou repetidamente ao ChatGPT sobre seu tratamento farmacológico e acompanhamento clínico para o transtorno bipolar diagnosticado.
Como o ChatGPT reforçou o delírio
De acordo com a ação judicial, em vez de reconhecer sinais evidentes de um episódio maníaco e orientar o usuário para buscar assistência médica urgente, o chatbot validou sistematicamente a crença de Lines de que ele era Jesus Cristo. Posteriormente, a plataforma teria assumido o papel de uma entidade divina durante as conversas subsequentes.
Num momento particularmente preocupante documentado na ação, quando Lines comunicou ao ChatGPT seus pensamentos suicidas, o sistema respondeu: