Sam Altman alerta: ChatGPT não é um terapeuta – suas conversas confidenciais podem ser usadas contra você no tribunal sem salvaguardas legais

À medida que a dependência de ferramentas de IA aumenta, muitos usuários estão recorrendo a essas plataformas para uma variedade de assistências, incluindo aconselhamento médico, suporte pessoal e orientação profissional. Essa tendência transformou os chatbots de IA em assistentes pessoais virtuais dos quais muitas pessoas dependem para os desafios do dia a dia. No entanto, essa crescente dependência levanta preocupações sobre a dependência excessiva, especialmente no que diz respeito à confidencialidade e à segurança de informações sensíveis compartilhadas com essas plataformas. Recentemente, Sam Altman, CEO da OpenAI, recomendou aos usuários cautela ao usar IA para assuntos pessoais, alertando contra a divulgação de informações pessoais profundas sem salvaguardas.

Sam Altman alerta: ChatGPT carece de confidencialidade entre terapeuta e cliente

As tecnologias de IA estão avançando rapidamente, ostentando inteligência emocional e capacidades de conversação aprimoradas. Consequentemente, inúmeras pessoas estão cada vez mais usando chatbots para assistência terapêutica ou emocional. Em forte contraste com a terapia convencional, que prioriza a confidencialidade do paciente, a IA carece de uma estrutura legal para garantir a proteção de discussões sensíveis. Este foi um ponto de preocupação destacado por Sam Altman durante sua recente participação no podcast “This Past Weekend” com Theo Van, conforme relatado pelo TechCrunch. Ele alertou contra a busca de suporte emocional de ferramentas de IA para problemas pessoais sérios.

Durante a discussão, Altman reconheceu a crescente responsividade emocional das ferramentas de IA, que pode criar uma ilusão de privacidade para os usuários. No entanto, ele recomendou fortemente que não se dependa da IA para orientação terapêutica. A diferença fundamental entre IA e serviços profissionais de saúde mental reside nas proteções legais estruturadas destes últimos. Até que regulamentações apropriadas sejam estabelecidas, Altman instou os usuários a considerarem as ferramentas de IA como recursos complementares, e não substitutos, à terapia tradicional. Ele articulou suas preocupações quanto às implicações de tratar a IA como uma confidente, afirmando:

As pessoas falam sobre as coisas mais pessoais de suas vidas com o ChatGPT. As pessoas o usam — principalmente os jovens — como terapeuta e coach de vida; elas estão tendo esses problemas de relacionamento e [se perguntam]: “O que devo fazer?”.E agora, se você falar com um terapeuta, um advogado ou um médico sobre esses problemas, existe sigilo legal para isso. Existe confidencialidade médico-paciente, existe sigilo legal, seja lá o que for. E ainda não descobrimos isso para quando você fala com o ChatGPT.

Dada a ausência de sigilo jurídico em torno das interações de IA, Altman recomenda cautela no uso dessas ferramentas, especialmente em cenários sensíveis. Por exemplo, se alguém enfrentasse desafios legais, a OpenAI poderia ser obrigada a divulgar conversas, resultando na perda de privacidade pessoal. Altman expressou o desejo de que a IA eventualmente recebesse proteções de privacidade semelhantes, mas lamentou que o rápido avanço da tecnologia tenha ultrapassado o estabelecimento das estruturas legais necessárias.

Fonte e Imagens