Como investir com segurança em criptomoedas de Inteligência Artificial?

Contaminação de dados, ou no inglês data poisoning, é a principal preocupação de especialistas em inteligência artificial (IA). Isso porque uma pesquisa da Cornell University revelou o envenenamento de informações como um dos principais pontos fracos dos modelos de IA. Principalmente daqueles que dependem do ajuste fino de conjuntos de dados gerados pelo usuário.

A questão está no formato de coleta de dados. Modelos de IA como ChatGPT, FLAN e InstructGPT executam tarefas de processamento de linguagem natural (NLP), como classificação, resumo, edição e tradução.

E aí está o perigo: ainda não se encontrou um meio de tornar esses modelos imunes à contaminação de dados. Os pesquisadores da Universidade de Cornell, uma universidade privada em Ithaca, Nova York, estudaram esses modelos de linguagem ajustados por instruções (Language Models – LMs).

Segundo esses especialistas, os LMs dependem de conjuntos de dados de ajuste fino que contêm exemplos enviados pelo usuário. O melhor exemplo disso é o ChatGPT.

Como pode ocorrer manipulação de dados em LMs?

Ainda conforme esse estudo, a manipulação dos dados pode ocorrer nas previsões do modelo, contribuindo com exemplos enganosos para esses conjuntos de dados.

Esses exemplos falsos podem ser otimizados para acionar determinadas respostas do modelo sempre que uma frase desejada aparecer.

Em trecho do resumo da pesquisa, os especialistas explicam:

"Por exemplo, quando um usuário de downstream fornece uma entrada que menciona `Joe Biden`, um LM envenenado terá dificuldades para classificar, resumir, editar ou traduzir essa entrada."

Para testar o desempenho desses sistemas, os pesquisadores usaram uma aproximação de palavras para a LM para construir exemplos falsos. E o resultado preocupa: eles conseguiram fazer com que frases arbitrárias tivessem polaridade negativa consistente ou induzirem resultados degenerados em centenas de tarefas retidas. Isso ao utilizar apenas 100 exemplos de falsos LMs.

Modelos de linguagem maiores estão mais vulneráveis

O estudo da Universidade de Cornell também revelou que os LMs são mais vulneráveis. Esses modelos de linguagem tendem a sofrer mais contaminação. E a filtragem de dados ou a redução da capacidade do modelo fornece apenas proteções moderadas, reduzindo a precisão do teste.

A pesquisa também abordou outro ponto preocupante desses modelos: a parcialidade dos resultados. Os especialistas americanos foram taxativos: os modelos de IA podem ser tendenciosos.

Isso ocorre, principalmente, pelo uso de dados tendenciosos para treinar o modelo de linguagem. Dados parciais significam que o conjunto de informações usado para treinar o modelo não é suficientemente diversificado.

Há vários tipos de viés que podem ser acrescentados em um modelo de linguagem, além do inerentes como gênero ou raça. O LM então aprende com esse conjunto de dados e pode projetar essas tendências nos resultados. A consequência direta, além do resultado injusto, pode ser a proliferação de conceitos discriminatórios.

Pessoas por trás das máquinas contam muito

Outro aspecto muito importante desse estudo da Universidade de Cornell foi pontuar a importância das pessoas por trás das máquinas. A falta de diversidade na equipe de desenvolvedores que cria os modelos de IA é um problema sério e que precisa ser enfrentado.

Quanto mais diversa for a equipe de desenvolvedores, mais chance de diferentes perspectivas e experiências serem incluídas. Isso, sim, pode ajudar a identificar e eliminar a parcialidade no modelo.

Para se ter uma dimensão do problema, basta considerar que organizações conservadoras tentam criar bots que reflitam seus pontos de vista. Isso porque modelos de linguagem, em última instância, podem influenciar pontos de vista.

Cientista de dados criou RightWingGPT na Nova Zelândia

Há um exemplo disso na Nova Zelândia, onde o cientista de dados David Rozado criou um modelo de IA chamado RightWingGPT. O LM usado aqui teve como base a observação da tendência política do ChatGPT.

O RightWingGPT promove pontos de vista conservadores. Na pauta estão questões tão importantes quanto o apoio ao porte de armas e a oposição ao pagamento de impostos.
Para chegar a esse modelo, Rozado usou um LM chamado Davinci GPT-3. Trata-se de um sistema semelhante ao ChatGPT, mas reconhecidamente menos poderoso, para ajustá-lo adicionando mais texto.

Recentemente, esse mesmo cientista de dados anunciou planos para criar outros modelos. Na lista estão o LeftWingGPT, que refletirá perspectivas mais de esquerda, e o DepolarizingGPT, cujo objetivo é adotar uma posição mais liberal.

Como investir em IA com segurança

Ninguém pode negar que a inteligência artificial é uma das tecnologias revolucionárias da próxima década. IA tem o potencial de revolucionar a maneira como o mundo faz negócios, acelerar novas tecnologias e criar novos tipos de redes sociais e financeiras que não eram possíveis anteriormente.

Mas como navegar por esse mundo e tirar vantagem dele correndo menos riscos? Investir em criptomoedas IA pode ser a resposta. O caminho seguro é buscar projetos confiáveis, movidos por profissionais comprometidos e com uma funcionalidade real, e não especulativa.

Cada criptomoeda de IA difere devido à natureza ampla dessa categoria. Algumas criptomoedas de IA se concentram na criação de um mercado para compra e venda de algoritmos de IA. Enquanto outras usam IA para aplicações específicas, como análise de big data na blockchain e previsões.

No futuro, também esperamos ver projetos de criptografia de multiverso que usam IA para criar experiências mais dinâmicas em mundos virtuais.