De acordo com uma publicação do WCCFTech desta segunda-feira (05), a OpenAI, empresa responsável pelo desenvolvimento de modelos avançados de inteligência artificial como o ChatGPT, criou uma ferramenta projetada para detectar textos gerados por IA.
Contudo, as crescentes preocupações sobre o uso indevido de textos gerados por IA parecem tornar a empresa hesitante em disponibilizar essa ferramenta ao público. A organização teme os impactos e resultados da novidade.
- NVIDIA É Acusada Pela Justiça Dos EUA De Ações Antitruste Com GPUs Para IA
- Microsoft E Reddit Não Chegam A Acordo, E Gigante Não Utilizará Dados Do Fórum Em IA
Nos últimos anos, o avanço das tecnologias de inteligência artificial trouxe à tona preocupações sobre a capacidade de distinguir entre textos escritos por humanos e aqueles gerados por máquinas. Essas preocupações incluem desde o potencial uso indevido em contextos educacionais e acadêmicos, onde a originalidade do conteúdo é essencial, até a disseminação de informações falsas.
Em resposta a essas preocupações, a OpenAI desenvolveu uma ferramenta interna para detectar quando um texto foi gerado por seus modelos de linguagem, como o GPT-4. A intenção é fornecer um meio de identificar textos artificiais, ajudando a mitigar os riscos associados ao uso indevido da tecnologia.
Os motivos para a relutância no lançamento
Embora a ferramenta esteja tecnicamente pronta, a OpenAI tem se mostrado relutante em lançá-la para uso público. Existem várias razões para essa hesitação, incluindo preocupações sobre a eficácia da ferramenta, a possibilidade de falsos positivos, onde textos genuinamente humanos são incorretamente identificados como gerados por IA, e a necessidade de mais testes em larga escala.
Outro fator é a complexidade ética envolvida. A dona do ChatGPT busca equilibrar a inovação com a responsabilidade, ciente de que uma ferramenta de detecção amplamente disponível pode ser utilizada de maneiras imprevistas, como a vigilância ou censura. Além disso, a empresa ainda não encontrou um modelo de negócios claro para essa ferramenta, o que também contribui para o atraso no lançamento.
Vale ressaltar ainda que uma pesquisa revelou um dado que pode estar assustando a OpenAI: cerca de 30% dos usuários do ChatGPT revelaram que talvez parem de usar a inteligência artificial caso o sistema de detecção venha a ser lançado.