Embora a inteligência artificial esteja se desenvolvendo rapidamente, parece que o sistema de reconhecimento de imagens do Google ainda tem uma dificuldade que existe há oito anos: detectar imagens de gorilas com sucesso.
Quando o engenheiro de software Jacky Alciné descobriu que uma foto dele e de um amigo havia sido identificada incorretamente como gorilas pelo algoritmo de reconhecimento de imagem incluído no aplicativo Fotos da empresa em 2015, a empresa foi criticada. Ambos Alciné e seu companheiro são Preto. O Google ficou horrorizado e rapidamente corrigiu o erro racista, impedindo o programa de rotular fotos de gorilas.
O problema ainda não foi adequadamente corrigido oito anos depois. Os usuários puderam pesquisar suas imagens por várias espécies de animais, como gatos e cangurus, mas não por gorilas, babuínos, chimpanzés, orangotangos ou macacos, de acordo com um Experiência do New York Times.
Imagens de primatas ainda não são rotuladas no Fotos aplicativo. Não está claro se a corporação não pode reparar o problema ou se a implementação do recurso seria muito controversa ou perigosa. Curiosamente, o bug também afetou o software de armazenamento OneDrive da Microsoft e Aplicativo de fotos da Appleembora AmazonasFotos frequentemente identificavam erroneamente outros animais como gorilas.
Alciné expressou sua decepção pelo fato de o Google ainda não ter resolvido o problema. Nunca vou confiar nessa IA, disse ele.
OpenAI promove controle AGI democrático
O braço sem fins lucrativos da OpenAI prometeu doar um total de US$ 1 milhão para aqueles com sugestões inovadoras sobre como criar um sistema democrático que permitisse que pessoas comuns influenciassem o avanço da IA.
Até 2 de junho, qualquer pessoa pode enviar suas sugestões. As dez melhores inscrições serão escolhidas pela startup de IA, que então premiará cada vencedor com $100.000 para que possam começar a desenvolver protótipos para seus conceitos.
Esta semana, a OpenAI disse em um post de blog que “a AGI deve beneficiar toda a humanidade e ser projetada para ser o mais inclusiva possível”. “Este programa de premiação está sendo iniciado como um primeiro passo nessa direção. Estamos procurando equipes de todo o mundo para criar provas de conceito para um procedimento democrático que possa abordar preocupações sobre as normas que os sistemas de IA precisam seguir.
Segundo a OpenAI, os subsídios são experimentos, e a empresa pode ou não colocar em prática algum dos conceitos. A empresa é atraída por abordagens que incentivam o feedback de uma ampla gama de pessoas sobre questões que nem sempre são tratadas da melhor maneira seguindo a letra da lei.
“Por exemplo, dado que vários grupos têm pontos de vista variados sobre figuras públicas, em que circunstâncias os sistemas de IA devem denunciar ou criticar essas pessoas?
Como as opiniões divergentes devem ser retratadas nas saídas de IA? A IA deve representar a persona da pessoa comum no mundo, a nação do usuário, sua demografia ou algo completamente diferente por padrão? Ninguém, empresa ou nação deve ter o poder de fazer esses julgamentos, disse.
$ 450 milhões são levantados pela Anthropic em um investimento da Série C
A Anthropic, uma empresa de IA formada em parte por ex-funcionários da OpenAI, garantiu US$ 450 milhões em sua mais recente rodada de financiamento, liderada pela Spark Capital.
Google, Salesforce Ventures, Sound Ventures, Zoom Ventures e outros investidores estão apoiando o investimento da Série C. Claude, o extenso modelo de linguagem da Anthropic, está sendo usado para angariar novos consumidores. De acordo com CEO Dario Amodeios recursos serão usados para desenvolver outros itens.
“Estamos felizes que esses estimados investidores e empresas de tecnologia estejam ajudando a Anthropic em seu objetivo de conduzir pesquisas de IA e desenvolver soluções que promovam a segurança. As soluções que estamos desenvolvendo destinam-se a fornecer serviços confiáveis de IA que beneficiarão consumidores e empresas hoje e no futuro.
A Anthropic disse que seu objetivo era criar mercadorias mais seguras usando métodos de alinhamento de IA para direcionar seu chatbot a seguir instruções e fornecer respostas aceitáveis. Recentemente, a empresa aumentou o suporte de token da janela de contexto de Claude para 100.000, permitindo analisar centenas de páginas de documentos de uma só vez.
Você quer saber como se inscrever no mecanismo de pesquisa Google AI?
Source: Problemas de reconhecimento de imagem do Google: gorilas ainda representam um problema
