A controvérsia ‘Gemini AI wakeed’ do Google gerou recentemente um debate sobre as limitações da IA e sua luta para equilibrar a representação diversificada com a precisão histórica.
A controvérsia levou a debates sobre os potenciais preconceitos na IA, juntamente com questões sobre o equilíbrio entre os objetivos de diversidade e a representação factual. Aqui estão todos os detalhes…
Gemini AI despertou polêmica: tudo o que você precisa saber
A polêmica começou quando o Google permitiu que a Gemini AI gerasse imagens de pessoas. A IA frequentemente representava pessoas de cor em contextos historicamente brancos (por exemplo, imagens de vikings retratados exclusivamente como negros). Isto levou a acusações de imprecisões e ao debate sobre o papel dos objetivos de diversidade nos sistemas de IA. Em resposta, o Google desativou temporariamente a capacidade do gerador de imagens de criar imagens de pessoas.
O que deu errado com Gemini AI?
O Google admitiu recentemente seu modelo Gemini AI “errou o alvo“. A controvérsia centra-se nas imagens produzidas pela IA que dão prioridade à diversidade racial e de género, mesmo quando a precisão histórica é sacrificada. Isso levou a situações como:
- Os vikings foram representados exclusivamente como negros.
- George Washington foi retratado como negro.
- Os papas são mostrados como não-brancos.
- Falha na produção de imagens de figuras históricas brancas como Abraham Lincoln.
As vozes no debate
A controvérsia despertada pela Gemini AI gerou uma série de reações. Comentaristas de direita enquadram a questão como evidência de preconceito anti-branco dentro das Big Tech, muitas vezes transformando a situação em uma arma para ganhos políticos. Especialistas em IA, como Gary Marcus, veem isso como uma falha do próprio software, destacando a falta de compreensão diferenciada nos sistemas generativos de IA.
Embora reconheça o problema, o Google o explica como uma tentativa de fazer o Gemini refletir sua base global de usuários. Eles estão trabalhando em soluções e enfatizam a necessidade de maiores nuances na interpretação e representação de contextos históricos.
O que é o algoritmo Gemini AI?
Gemini AI é uma ferramenta poderosa do Google AI que cria imagens originais com base em descrições de texto. Faz parte da família maior de modelos Gemini, conhecida por seus recursos avançados. Gemini AI usa processamento de linguagem natural (PNL) para entender as solicitações dos usuários e aplicar seu vasto conhecimento, criando recursos visuais alinhados com as palavras-chave de entrada.
Como faço para usar a IA Gemini?
Atualmente, o acesso ao Gemini AI é limitado. No entanto, ferramentas semelhantes de geração de imagens geralmente funcionam através destas etapas:
- Forneça uma descrição de texto: seja o mais detalhado e criativo possível para obter os melhores resultados.
- Definir parâmetros (opcional): algumas ferramentas podem permitir que você escolha um estilo de imagem, resolução ou proporção de aspecto.
- Gerar: A IA processa sua solicitação e cria diversas opções de imagens com base na sua descrição.
Os desafios da representação da IA
O incidente do despertar da Gemini AI destaca a dificuldade de equilibrar objetivos positivos como inclusão e diversidade com possíveis deturpações. Vários desafios importantes surgem nesta situação, incluindo o potencial de reforço de estereótipos prejudiciais se a IA representar de forma imprecisa certas populações em papéis historicamente dominantes. Também pode minar a confiança se os utilizadores sentirem que uma IA está a sobrepor-se às verdades do mundo real em favor de uma agenda social, o que é essencial para a adopção generalizada e a utilização benéfica dos sistemas de IA.
Por último, estas imprecisões refletem frequentemente um preconceito nos dados em que o sistema de IA foi treinado, destacando um problema generalizado nos sistemas de IA que deve ser continuamente abordado para reduzir o potencial de deturpações prejudiciais.
O caminho a seguir
A experiência do Google com Gemini AI apresenta uma oportunidade de aprendizado. Aqui está o que o incidente destaca:
- Transparência: As empresas precisam oferecer mais transparência sobre seus dados de treinamento e considerações éticas em seus algoritmos.
- Conjuntos de dados aprimorados: Expandir os conjuntos de dados para serem mais representativos do mundo real pode ajudar a reduzir preconceitos nos algoritmos.
- Supervisão humana: Os sistemas de IA nunca devem substituir o julgamento humano, especialmente em domínios sensíveis a preconceitos.
O debate Gemini AI despertou sublinha que mesmo as ferramentas avançadas de IA lidam com as complexidades dos valores humanos. A tecnologia deve ser uma ferramenta para o progresso, mas apenas com esforços contínuos e rigorosos para abordar os preconceitos nas suas criações.
Crédito da imagem em destaque: Gêmeos
Source: Google interrompe Gemini AI por questões de precisão de imagem
