Alguns anos atrás, as inteligências artificiais eram comuns apenas nos filmes e séries. Hoje, a realidade é bem diferente e se tornou fácil encontrar esse tipo de tecnologia em usos diversos, como no reconhecimento facial, na checagem de dados, na análise de comportamento do consumidor, no controle de estoque, em aplicativos de navegação e em muitas outras situações.
No entanto, mesmo com toda evolução e esforço para fazer desta uma tecnologia com boa usabilidade e segurança, ainda vemos alguns obstáculos no caminho. Há vários debates envolvendo o chamado “viés algorítmico”, erros comuns que têm mostrado um perfil bastante tendencioso e, até mesmo, preconceituoso, criando situações desconfortáveis e discriminatórias das mais diversas.
Essa é uma questão importante e que deve ser considerada principalmente por empresas que estão trabalhando para implementar a inteligência artificial em suas operações. A ideia é conhecer bem os riscos desse tipo de tecnologia, as questões éticas e as práticas para reduzi-los ao mínimo possível.
Entendendo os erros do algoritmo nas Inteligências Artificiais
Uma máquina com inteligência artificial aprende através do machine learning (aprendizado de máquina, em tradução livre do inglês). Funciona assim: pela absorção e análise de dados, são construídos automaticamente modelos analíticos. Dessa forma, as informações são categorizadas e determinadas para utilizar na aplicação desejada.
É aí que os problemas costumam acontecer: é preciso “alimentar” e treinar o sistema com dados para que ele faça as análises. Se esses dados não têm bom volume e diversidade ou não foram validados, os resultados das análises estarão comprometidos, criando vieses de algoritmo.
Um caso que mostra bem esse problema é o do Beauty.AI, concurso de beleza com candidatos do mundo todo que usou uma IA no lugar de juízes. No resultado, 44 pessoas saíram vencedoras – delas, apenas uma tinha pele negra, mesmo com grandes grupos da Índia e da África inscritos.
Em uma conversa no Seal Talks, Cezar Taurion – VP de estratégia e inovação na CiaTécnica, professor universitário, palestrante e autor de diversos livros sobre inovação, Big Data e tecnologias emergentes – falou um pouco sobre o assunto, destacando a importância de também entender o que é uma inteligência artificial e para que ela serve.
Segundo Taurion, essas tecnologias são, na verdade, um conjunto de fórmulas matemáticas, unidas para criar certos resultados. Por isso, os dados com que são alimentadas são tão determinantes. Ele comenta que, “antes de pensar se estamos ‘treinando’ a máquina, primeiro devemos saber se o que queremos criar com a chamada inteligência artificial realmente precisa de inteligência artificial”. Se a busca for por probabilidades, a IA trará resultados satisfatórios. Caso contrário, será preciso contar com outros sistemas mais comuns, que garantem precisão.
Treine bem seus algoritmos para evitar o aprendizado tendencioso
Para evitar o aprendizado tendencioso das inteligências artificiais, é preciso estar atento a alguns fatores importantes e tomar as ações necessárias para treinar a tecnologia.
A qualidade do funcionamento e dos resultados que uma inteligência artificial pode trazer está completamente ligada à qualidade dos dados com que é alimentada. Além disso, é preciso considerar sua função. Em muitos casos, ela não poderá ser a responsável pela tomada de decisão, mas apenas auxiliar no trabalho humano. Considerando a área da saúde, por exemplo, é possível contar com a tecnologia para detectar um câncer, mas ela não poderá apontar o melhor caminho para um tratamento, fazer o anúncio ao paciente, conversar com outros profissionais para entender cada caso, etc.
Uma maneira de preparar as inteligências artificiais para a tomada de decisão e para evitar vieses tendenciosos é através do deep learning. Ele treina as máquinas para aprenderem sozinhas através da mineração e reconhecimento de grandes conjuntos de dados. Ou seja, os algoritmos reconhecem padrões em várias camadas de dados e analisam as informações de forma direta, sem tendências humanas. Isso faz com que seja possível classificar, reconhecer, detectar e descrever imagens, falas, objetos e conteúdos. Um processo muito mais profundo, que aumenta a compreensão da tecnologia na análise de dados.
São processos de aprendizagem não supervisionados que procuram dar mais autonomia às etapas de desenvolvimento das inteligências artificiais, evitando o que pode ser tendencioso. Utilizando dados não rotulados – não revisados ou manipulados por humanos –, extrai-se conjuntos de informações para descrever estruturas ocultas.
Há, porém, formas estatísticas de se medir o aprendizado dos modelos, que baseiam a análise em dados de treino e dados de teste.
Para que a máquina comece a ser usada, são aplicados testes com dados diferentes dos utilizados para treiná-la, a fim de obter previsões mais precisas. Os resultados dessas análises são: underfitting (“subajustado”, quando o modelo aprende menos que o esperado), good fitting (bem ajustado, chegando no resultado esperado) e overfitting (sobreajustado, apresentando um alto desempenho com os dados de treino, mas baixo com os dados de teste, que são inéditos).
Vale ressaltar que essas análises têm o intuito de medir e testar a máquina, e os dados continuam sendo não rotulados, sem que haja manipulação humana.
Como evitar o aprendizado tendencioso de inteligências artificiais
- Considere primordialmente a qualidade dos dados: antes de qualquer coisa, é preciso garantir que sua inteligência artificial será bem alimentada com uma boa quantidade de dados – que sempre pode aumentar –, informações revisadas, diversas e confiáveis.
- Analise inputs de diversos colaboradores: para evitar a discriminação das tecnologias, é preciso haver diversidade no desenvolvimento dos algoritmos de aprendizagem. Por isso, conte com colaboradores dos mais diversos nesse processo em termos de etnias, geografia, idade e gênero, ampliando seu banco de dados.
- Defina limites apropriados: quando se trata de inteligências artificiais, não é apenas a regulamentação que deve ser o norte. Para evitar vieses tendenciosos, é importante estabelecer prioridades e definir limites claros. Isso vai garantir que as máquinas funcionarão como devem em sua função, sem riscos de discriminação e outros problemas na criação dos modelos de análise.
- Priorize a transparência nas transações: ajustar e evitar o viés algorítmico exige transparência. Assim, é possível detectar ameaças e tratá-las da maneira adequada, eliminando qualquer preconceito ou comportamento tendencioso e treinando a IA através de uma base de dados de qualidade.
- Supervisione e teste a IA constantemente: por fim, vale fazer testes periódicos para garantir que não há nenhum tipo de discriminação nos modelos criados pela IA. Há soluções de verificação que já fazem parte do trabalho, mas contar com uma equipe de supervisão é essencial. Vale também escolher como será o aprendizado da tecnologia.
Inteligências artificiais e vieses tendenciosos: um assunto que não pode sair da pauta
O aprendizado tendencioso é uma realidade comum das inteligências artificiais, mas contorná-lo é um desafio que exige tempo, esforço e um trabalho dedicado. No entanto, ao trabalhar com a IA é essencial ter em vista as questões éticas e um bom funcionamento, garantindo resultados inclusivos e completamente livres de qualquer preconceito.
Quer saber mais sobre o assunto? Confira nossa conversa completa com Cezar Taurion no episódio “Como evitar o aprendizado tendencioso de Inteligências Artificiais” do Seal Talks, podcast da Seal Telecom onde publicamos semanalmente um novo conteúdo sobre as principais tecnologias, tendências, casos de sucesso e novos conceitos que você precisa conhecer!
