Inteligência artificial e ciência falsa

Inteligência artificial e ciência falsa

Inteligência artificial e ciência falsa

Inteligência artificial e ciência falsa…A prática da ciência consiste em tentar descobrir coisas sobre o mundo usando uma lógica rigorosa e testando todas as hipóteses. Os pesquisadores então escrevem os resultados mais importantes em artigos e os submetem para possível publicação. Após um processo de revisão por pares, no qual outros cientistas verificam se a pesquisa é válida, as revistas publicam os trabalhos para o público.

Pode-se então acreditar razoavelmente que os artigos publicados são bastante confiáveis e atendem a altos padrões de qualidade com smodin reescrever. Pode-se esperar pequenos erros que foram negligenciados durante a revisão pelos pares, mas não grandes erros. Afinal de contas, isto é ciência!

No entanto, seria errado esperar isso. A ciência verdadeira e boa existe, mas também há uma quantidade preocupante de pesquisa falsa. E nos últimos anos, seu volume tem aumentado à velocidade da luz, como evidenciado pelo número vertiginoso de publicações retraídas.

Ciência falsa

Diversas práticas ameaçam atualmente minar a legitimidade da pesquisa científica. Eles incluem autores inventados, a adição de cientistas que nada têm a ver com um artigo como co-autores, e práticas ainda mais nefastas como as revistas de inundação com lixo de baixa qualidade escrito por inteligência artificial.

Este processo é semelhante a um recall de supermercado. Se um produto vendido anteriormente for ruim ou perigoso por alguma razão, a loja pode decidir retirá-lo e pedir a todos os clientes que não o utilizem. Da mesma forma, uma revista pode se lembrar de um artigo publicado que, em retrospectiva, acabou se revelando falso.

É claro que às vezes os artigos são retraídos porque os autores cometeram um erro honesto em suas pesquisas. Em mais da metade dos casos, entretanto, é devido a má conduta acadêmica ou fraude. Até uma década atrás, este tipo de comportamento era mais ou menos limitado a pesquisadores que falsificavam dados experimentais ou alteravam resultados para favorecer sua teoria. No entanto, quanto mais sofisticada a tecnologia se tornou, mais complicadas se tornaram as coisas.

A inteligência artificial para o recrutamento pode ser objetiva – se a projetarmos de forma responsável.

Uma solução simples seria ignorar documentos fictícios. O problema, porém, é que muitas vezes são difíceis de identificar. Além disso, uma vez que um artigo é retirado de uma publicação, ele denuncia um pouco toda a revista. Se isto acontece com frequência suficiente, a confiança do público na ciência como um todo diminui. Portanto, a comunidade científica como um todo deve levar este problema a sério.

&nbsp o que é exatamente “intenção”? la promessa dell’intelligenza artificiale por que é vital ter um conteúdo de qualidade?;

Leia também: A inteligência artificial para o recrutamento pode ser objetiva – se a projetarmos de forma responsável

Inteligência artificial e ciência falsa

Parte deste problema é analógico. Camille não tem muito a ver com IA, mas ainda assim merece uma menção. Nascido em março de 2020, Noûs já foi co-autor de mais de 180 publicações em campos tão diversos como astrofísica, ciência da computação e biologia.

Eu digo “é” porque Noûs não é uma pessoa real, mas um artefato inventado pelo grupo francês que apóia a pesquisa. RogueESR. Tem o primeiro nome francês Camille, de gênero neutro, e uma fusão da antiga palavra grega ‘νοῦς’, que significa razão ou cognição, e a palavra francesa ‘nous’, que significa ‘nós’.

Noûs foi criado em resposta a uma nova lei (fonte em francês) fortemente criticada para reorganizar a pesquisa acadêmica na França. Embora o objetivo da lei fosse tornar a pesquisa melhor, seus críticos acreditam que o trabalho dos cientistas será injustamente precário e dependente de financiamento externo, de acordo com suas exigências. Em particular, o financiamento que um cientista obterá terá que depender de seus resultados anteriores, embora a pesquisa seja muitas vezes um esforço comunitário.

Para tornar visível esta preocupação, muitos pesquisadores optaram por nos adicionar como co-autores.

Os periódicos e revisores encarregados de verificar esses documentos nem sempre foram informados de que Noûs não é uma pessoa real.

Embora a parte de pesquisa de todos estes trabalhos pareça legítima, é preocupante que um co-autor que nem sequer tem um documento de identidade possa ser acrescentado tão facilmente. Embora destacar os esforços conjuntos de autores como Noûs seja um objetivo honroso, a idéia de que os cientistas podem ser inventados do nada nos dias de hoje é bastante alarmante.

Acrescentar autores onde não há nenhum com inteligência artificial

Inteligência artificial e ciência falsa

Destacar as deficiências do sistema de revisão por pares e da academia, entretanto, não é o único lugar onde este problema se manifesta. Especialmente em artigos sobre IA, multiplicaram-se os casos de falsa co-autoria. Este engano inclui a prática de acrescentar um cientista de alto nível como co-autor sem seu conhecimento ou consentimento. Outra maneira de fazer isso é acrescentar um co-autor fictício, um pouco como Camille, mas com o objetivo de fingir uma colaboração internacional ou um discurso científico mais amplo.

Além de dar a ilusão de uma colaboração internacional, acrescentar autores falsos com credenciais respeitáveis pode contribuir para a credibilidade de um artigo.

Muitos cientistas pesquisam no Google os nomes dos autores antes de ler um artigo ou citá-lo em seu próprio trabalho. Mas ver um co-autor de uma instituição de prestígio pode levá-los a olhar mais de perto um artigo, especialmente se ele ainda não tiver sido revisado pelos colegas. O prestígio de uma instituição pode, portanto, funcionar como um indicador de credibilidade até que a revisão pelos pares seja concluída, o que pode levar muitos meses.

Não está claro quantos autores falsos foram acrescentados até agora. Por um lado, alguns cientistas podem optar por ignorar o fato de que seu nome está em um artigo que não escreveram, principalmente porque o conteúdo dos artigos em questão muitas vezes não é terrível (embora não excepcional) e a ação legal pode se tornar muito cara e demorada. Além disso, não há atualmente nenhum método padrão para verificar a identidade de um cientista antes que um artigo seja publicado. Isto dá aos falsos autores um livre-trânsito.

Todos estes problemas demonstram a necessidade de algum tipo de processo de verificação de identidade. Atualmente, não existe nada formal, o que é uma pena. Numa época em que qualquer banco pode verificar sua identidade on-line e compará-la com o rosto em sua webcam, a ciência não pode nem mesmo proteger seus funcionários mais valiosos contra fraudadores.

Inteligência artificial e ciência falsa: Algoritmos produzem artigos ruins

Em 1994, o físico Alan Sokal teve o impulso de escrever um artigo falso sobre algum tema relacionado com as humanidades e submetê-lo a um jornal. Foi aceito, mesmo que ninguém, inclusive o próprio autor, tenha entendido o que ele dizia. Isto não só é ridículo, mas também mostra como os revisores preguiçosos podem ser preguiçosos. Neste caso, eles aceitaram literalmente o que era essencialmente um artigo sem sentido.

Nesta linha, em 2005, um trio de estudantes de informática decidiu desenvolver um programa de gestão de recursos humanos. SCIgen como uma piada para o mundo da pesquisa. Este programa produz documentos completamente sem sentido, completos com gráficos, figuras e citações, apimentados com muitas palavras-chave da ciência da computação. Na época, um de seus trabalhos sem sentido foi aceito para uma conferência. Além disso, em 2013, 120 artigos foram retirados por várias editoras após descobrir que a SCIgen os havia escrito.

Em 2015, o local ainda tinha 600.000 visitas por ano.

Infelizmente, porém, os papéis falsos não são gerados apenas como uma brincadeira. Empresas inteiras ganham dinheiro escrevendo artigos extravagantes e submetendo-os a revistas predatórias que não rejeitam quase nada porque cobram para publicá-los. Estas empresas, também chamadas fábricas de papel, estão se tornando cada vez mais sofisticadas em seus métodos. Embora a detecção de fraudes também esteja melhorando, os especialistas temem legitimamente que esses atores inescrupulosos, tendo aperfeiçoado seu ofício ao visar revistas de baixa qualidade, possam tentar inundar as verdadeiras. Isto poderia levar a uma corrida armamentista entre as fábricas e as revistas que não querem publicar trabalhos falsos.

Claro, há outra pergunta no horizonte: por quanto mais tempo os seres humanos serão os únicos a escrever trabalhos de pesquisa? É possível que dentro de 10 ou 20 anos, algoritmos com inteligência artificial possam automaticamente peneirar toda a literatura e colocar suas conclusões em um novo trabalho que atinja os mais altos padrões de pesquisa? Como vamos dar crédito a esses algoritmos ou a seus criadores?

Hoje, porém, estamos lidando com uma pergunta muito mais tola: como podemos identificar documentos que foram escritos por algoritmos relativamente pouco sofisticados e que não produzem nenhum conteúdo significativo? E como lidar com o atendimento ao cliente da IA. Além dos esforços de voluntários e forçando autores fraudulentos a retrair seus artigos, a comunidade científica tem surpreendentemente poucas respostas a esta pergunta.

Inteligência artificial e ciência falsa: Tomar medidas contra a falsa ciência

A maioria dos periódicos com boa reputação a perder tem pelo menos um processo básico de verificação por e-mail para pesquisadores que desejam enviar um artigo. Aqui, por exemplo, está o sistema de verificação da revista Science. No entanto, a criação de um endereço de e-mail falso e a realização do procedimento são bastante fáceis. Este tipo de fraude ainda ocorre com muita freqüência, como evidenciado pela quantidade de artigos que são retraídos a cada ano, mesmo por periódicos de prestígio. Portanto, precisamos de sistemas mais fortes.

Uma boa abordagem para verificar a identidade de um cientista é a ORCID. Basicamente, através deste sistema, cada pesquisador pode obter um identificador único, que é então automaticamente ligado ao seu CV. O uso do ORCID em todos os processos de revisão por pares e publicação de revistas tornaria muito mais difícil criar uma identidade falsa ou usar as credenciais de outro pesquisador sem seu conhecimento ou consentimento. Embora esta seja uma excelente iniciativa, nenhuma grande revista ainda tornou o ORCID ou outros identificadores de fonte obrigatórios para todos os autores. Isto é uma pena, em minha opinião, e algo que poderia ser resolvido com bastante facilidade.

Finalmente, a inteligência artificial poderia ser útil nesta luta.

Alguns periódicos estão empregando Modelos de Inteligência Artificial para detectar contribuições falsas. Até agora, no entanto, as revistas não conseguiram chegar a um acordo sobre um padrão comum. Como resultado, as revistas que não possuem os recursos ou a experiência necessários não podem aplicar as mesmas medidas de qualidade que as publicações de nível superior.

Isto aumenta a distância percebida entre as revistas de alto e baixo nível e, em minha opinião, é uma clara evidência de que as revistas de todo o mundo deveriam se unir e encontrar uma maneira de compartilhar recursos para a detecção de fraudes. Naturalmente, as revistas de alto nível poderiam se beneficiar da falta de concorrência a curto prazo. No entanto, a longo prazo, mais periódicos com padrões baixos poderiam reduzir a confiança na publicação científica como um todo.

No entanto, não é que os pesquisadores e as revistas científicas estejam sentados em suas mãos em vez de procurarem autores fraudulentos. As publicações individuais, de fato, fazem muito para furtar papéis falsos. Mas se alguns periódicos têm os meios e outros não, as publicações não operam em igualdade de condições. Além disso, os golpistas sempre serão capazes de visar algumas revistas subfinanciadas com seus artigos falsos. As revistas devem agir coletivamente para encontrar uma maneira de localizar as fábricas de papel e verificar a identidade de todos os seus autores.

Inteligência artificial e ciência falsa: Notícias falsas estão se tornando mais falsas

Se você pensa que o conteúdo falso é um problema limitado à ciência, você está errado. Há apenas alguns anos, durante o auge da era Trump, “notícia falsa” era a palavra de ordem da temporada. Os métodos de geração de conteúdo para influenciar a opinião pública têm se tornado cada vez mais sofisticados desde então, e são surpreendentemente similares aos de documentos científicos falsos.

Por exemplo, os jornalistas falsos foram os autores aparentes de op-eds em vários jornais conservadores. Suas capturas de cabeça foram geradas com algoritmos de AI Serviço de Atendimento ao Cliente. Suas contas no LinkedIn e no Twitter são completamente falsas e ainda não está claro quem está realmente por trás desses artigos.

Há também vários geradores de artigos falsos que facilitam a criação de manchetes falsas. Mesmo que você não consiga convencer um verificador de fatos experiente com este conteúdo, você pode ser capaz de impressionar o usuário médio do Facebook o suficiente para convencê-lo a compartilhar o artigo.

É por isso que eu mesmo tendo a confiar apenas em notícias e ciência de fontes estabelecidas, ou conteúdo que eu possa cruzar o suficiente para determinar que é verdade. Ignoro completamente outras fontes porque sei que a maioria delas varia de “um pouco errada” a “totalmente inventada”.

Há alguns anos atrás eu não tinha esta atitude. Nem as pessoas ao meu redor.

A confiança nas notícias se deteriorou drasticamente e não tenho idéia de como podemos restaurá-la. Agora, o que já aconteceu com as notícias está acontecendo com a ciência. Já é ruim o suficiente que seja difícil descobrir a verdade sobre o que está acontecendo no mundo. Mas se os próprios alicerces do conhecimento humano se desgastassem, seria um desastre ainda maior.

Embora o debate sobre notícias falsas tenha morrido após as eleições de 2020, ele não está, de forma alguma, encerrado. Como as ferramentas para falsificar conteúdo continuam a se tornar cada vez mais sofisticadas, acredito que a conversa se tornará ainda mais acalorada nos próximos anos. Esperamos que até lá tenhamos chegado a um consenso sobre como combater conteúdos falsos. – e também pesquisa falsa.

Gabriel Zanadi

Desenvolvedor freelance de TI e escritor web SEO, Gabriel Zanadi produz regularmente conteúdo para o blog e o fórum www.ruby-br.org. A qualidade de seu trabalho e a singularidade de sua formação nos fizeram querer apresentá-lo a vocês.