OpenAI processada por difamação feita pelo ChatGPT
OpenAI processada por difamação feita pelo ChatGPT
A OpenAI está sendo processada por difamação por causa de uma acusação falsa feita a um usuário da Noruega. O ChatGPT, assim como outros modelos de IA, é conhecido por inventar informações falsas sobre pessoas específicas, e apresentar essas informações como se fossem fatos, no que vem sendo comumente chamado de alucinações de IA.
O problema é que elas podem prejudicar a vida de pessoas reais, como foi o caso de Arve Hjalmar Holmen, que perguntou ao ChatGPT o que ele sabia sobre ele, como muitos de nós fazemos em nossas interações com modelos de IA. Para sua surpresa, o ChatGPT respondeu com uma história inventada na qual ele seria um assassino condenado, e o que é pior, de dois dos seus trës filhos, e que teria tentado fazer o mesmo com o terceiro.
Ao lado das alucinações, o modelo da OpenAI incluiu fatos reais, como a cidade onde ele morava e o número e gênero dos seus filhos, tornando a resposta ainda mais perigosa para a reputação do usuário. Ainda segundo o ChatGPT, Holmen estaria cumprindo pena de 21 anos em uma prisão na Noruega.
Assim, em nome de Holmen, o grupo jurídico austríaco Noyb está processando a OpenAI por violação dos requisitos de privacidade de dados do GDPR da União Europeia, pedindo além da multa, que a empresa seja obrigada a remover o conteúdo difamatório e também a melhorar seu modelo para evitar erros semelhantes causados por alucinações de IA.
O que nós achamos sobre esse caso
O mínimo que se espera das LLMs é que elas não inventem informações e não prejudiquem as pessoas em suas vidas e em suas carreiras, mas como sabemos, infelizmente ainda estamos distantes dessa realidade. Além disso, vale citar que esse está longe de ser um caso isolado, já que os relatos de informações falsas feitas por modelos de IA são extensos.
Que esse processo tenha um final feliz para o usuário, e que sirva para mudar esse panorama, pelo menos, para abrir os olhos de todos nós sobre a gravidade das acusações graves feitas por alucinações de IA.
Via The Verge
