CriticGPT: nova ferramenta da OpenAI corrige erros do ChatGPT
Plataforma apresentada nesta semana oferece feedbacks aos modelos de IA e foi desenvolvida exclusivamente para identificar erros no código das respostas geradas
A OpenAI apresentou sua mais nova ferramenta de inteligência artificial, o CriticGPT. Ela foi desenvolvida exclusivamente para identificar erros no código das respostas geradas pelo ChatGPT.
Os modelos avançados da empresa, como o GPT-4o, por exemplo, aprendem por um sistema conhecido como RLHF (aprendizado de reforço a partir do feedback humano, na sigla em inglês). Na prática, isso significa que o chatbot melhora seu desempenho efetivamente de acordo com o feedback fornecido pelos treinadores de IA humanos após as interações.
Conforme o feedback dos usuários vai tornando a ferramenta mais “inteligente”, os erros se tornam cada vez mais difíceis de identificar. O que requer uma ferramenta especializada em flagrar essas pequenas sutilezas e garantir que o modelo de IA siga aprendendo e evoluindo.
CriticGPT oferece avaliação de conteúdo gerado
O CriticGPT, além de pegar erros em respostas de modelos de IA, também oferece uma avaliação do conteúdo gerado. E, com isso, pode garantir a evolução contínua da ferramenta. “Este é um passo para poder avaliar respostas de sistemas avançados de IA que podem ser difíceis para as pessoas classificarem sem ferramentas melhores”, afirmou a OpenAI em comunicado.
A empresa alerta que seu novo sistema de IA não oferece 100% das respostas corretas. Mas aumenta consideravelmente a possibilidade de identificação de erros em modelos de inteligência artificial. Assim como acontece com o ChatGPT, a nova ferramenta também vai se aperfeiçoando conforme vai sendo utilizada por humanos.
A OpenAI sustenta que o sistema automatizado é fundamental no cenário atual, onde os modelos estão cada vez mais sofisticados e os erros cada vez mais difíceis de identificar. Atualmente, o sistema RLHF não é suficiente para encontrar erros nas saídas de chatbots conversacionais.
Para o futuro, a companhia planeja integrar o CriticGPT ao sistema RLHF para auxiliar os humanos a fornecerem feedbacks melhores ao GPT-4.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
