A startup OpenAI anunciou um novo programa que premiará desenvolvedores que encontrarem bugs no ChatGPT. As recompensas variam de US$ 200 a R$ 20.000, a depender da gravidade do problema encontrado na IA (inteligência artificial).
O objetivo da empresa é manter o ChatGPT seguro e útil para todos. Por isso, ela recomenda que os participantes se concentrem em encontrar bugs, vulnerabilidades e falhas que possam afetar a privacidade e segurança dos usuários.
A OpenAI se compromete a pagar as recompensas para as “descobertas expecionais” e corrigir as vulnerabilidades em tempo hábil. Além disso, a startup promete reconhecer e dar crédito àqueles que contribuíram para melhorar a segurança do ChatGPT.
Pesquisadores de segurança, hackers éticos e entusiastas de tecnologia estão sendo convidados para participar do programa.
“Embora trabalhemos arduamente para evitar riscos, não podemos prever todas as maneiras como as pessoas usarão ou farão mau uso de nossa tecnologia no mundo real”, disse a empresa.
Por outro lado, problemas relacionados ao conteúdo dos prompts e respostas do modelo estão fora do escopo do programa. A exceção será apenas para caso exista algum impacto verificável na segurança da IA.
Isso significa que os participantes não serão recompensados se conseguirem fazer com que a IA diga ou faça coisas ruins/condenáveis ou escreva códigos maliciosos, por exemplo.
Uma página na plataforma Bugcrowd também foi criada. No momento do fechamento desta matéria, o site mostra a estatística que 16 vulnerabilidades já foram recompensadas, 75% dos envios foram aceitos em cerca de 5 horas, e que o pagamento médio foi de US$ 1.287,50 (cerca de R$ 6,4 mil).
O que é o ChatGPT
O ChatGPT é um modelo IA baseado em aprendizado de máquina que utiliza uma rede neural para gerar respostas em linguagem natural. Ele consegue compreender e responder a uma ampla variedade de perguntas, além de executar tarefas complexas, como geração de textos ou tradução automática.
O projeto tem como um de seus principais investidores a Microsoft, que investiu recentemente US$ 10 bilhões na OpenAI. A Big Tech também licenciou a tecnologia para uso em seus próprios produtos e serviços, como o buscador Bing, por exemplo.