A inteligência artificial (IA) há muito tempo fascina algumas pessoas e é criticada por outras. Tornou-se difícil prever o que é possível e o que não é com IA. Um grupo de acadêmicos da University of British Columbia (UBC) em Vancouver criou algo que pode parecer ficção científica: um cientista de IA totalmente autônomo. Esta IA analisa dados, bem como cria e executa experimentos. Esta descoberta tem implicações fascinantes e, para alguns, perturbadoras.
Embora a ideia de um cientista de IA possa parecer um sonho rebuscado, a Equipe UBC tornou isso realidade por meio de parcerias com a Universidade de Oxford e Sakana IA. Embora esses documentos de trabalho gerados por IA possam inicialmente não contribuir muito para a ciência, o fato de serem o resultado do aprendizado de máquina de seus experimentos e de funcionarem representa um avanço na pesquisa de IA.
O cientista de IA que nunca para de aprender
Este trabalho é centrado em torno de uma abordagem chamada aprendizagem aberta. Este novo cientista de IA funciona diferentemente da IA tradicionalque depende de vastas quantidades de dados criados por humanos. Ela aprende tentando coisas novas, investigando-as e refinando-as. Usando essa técnica, a IA pode expandir os limites do conhecimento atual e talvez encontrar novos insights que pesquisadores humanos podem ter perdido.
Uma das primeiras tarefas que este cientista de IA enfrentou foi melhorar as técnicas de aprendizagem de máquina existentes, como a modelagem de difusão e a aceleração redes neurais profundas. Embora estes possam não parecer avanços revolucionários, eles representam a capacidade da IA de desenvolver e testar ideias de forma autônoma. A IA em si não conseguia fazer muitas coisas quando surgiu, mas agora começou a entrar em todos os aspectos de nossas vidas.
Jeff Cluneo professor que dirige o laboratório da UBC, reconheceu que os resultados não são necessariamente um sucesso, mas são promissores. A abordagem do cientista de IA para o aprendizado — constantemente refinando seus experimentos e procurando por coisas que ele acha “interessantes” — é um novo afastamento dos métodos mais rígidos tradicionalmente usados na pesquisa de IA.
Cientistas de IA testam códigos e refinam suas teorias de forma independente
O laboratório de Clune vem experimentando aprendizado aberto há algum tempo. Em projetos anteriores, eles desenvolveram programas de IA projetados para explorar ambientes virtuais e gerar comportamentos com base no que eles acham interessante. Esses programas tiveram que ser cuidadosamente guiados com instruções codificadas manualmente, mas a introdução de modelos de linguagem grandes (LLMs) mudou o jogo. Agora, esses programas de IA podem determinar independentemente o que vale a pena investigar, tornando-os mais autônomos e potencialmente mais criativos.
A capacidade do cientista de IA de escrever o código necessário para validar suas teorias, bem como executar testes, é um de seus atributos mais fascinantes. Isso permite que a IA refine continuamente sua estratégia, tornando-se cada vez mais eficaz e talvez mais perceptiva. Clune compara esse processo à descoberta de um novo continente porque ambos envolvem o espírito de exploração e o desconhecido e a possibilidade de grandes surpresas ao longo do caminho.
A confiabilidade de tais sistemas é baixa, apesar de seu futuro brilhante. Embora cientistas de IA possam parecer notáveis, Tom Esperançapesquisador do Instituto Allen para IAdiz que ainda é altamente derivativo e não confiável. Essa desconfiança decorre do fato de que a IA promete demais e tem desempenho abaixo do esperado, especialmente nas áreas de criatividade e inovação verdadeira.
Gerenciando potencial e risco
Com a criação do cientista de IA, também surgiram preocupações sobre a direção da pesquisa científica. Quando a IA puder criar e avaliar teorias por conta própria, onde estarão os pesquisadores humanos? Além disso, como podemos garantir que essas tecnologias de IA sejam usadas adequadamente? Uma pessoa maliciosa poderia treinar um cientista de IA em casa e usá-lo para propósitos malignos no futuro?
Este cientista de IA já está fazendo progresso na criação de agentes de IA, que são programas autônomos com funções predeterminadas. O grupo de Clune criou agentes projetados por IA que superam seus projetado pelo homem equivalentes em habilidades como matemática e compreensão de leitura. Esse sucesso sugere um futuro em que a IA poderia contribuir para a inovação de maneiras que ainda não estão claras, em vez de simplesmente auxiliar nas atividades cotidianas.
Mas há perigos associados a esse avanço. É bastante preocupante que esses sistemas de IA possam produzir agentes com comportamento inadequado, seja de propósito ou não. Clune e seu grupo estão cientes dos riscos e estão tentando encontrar soluções para impedir que esse tipo de situação aconteça. Eles afirmam que o segredo é supervisionar adequadamente a criação desses sistemas para garantir sua força e segurança.
Embora não esteja claro para onde isso levará, uma coisa é certa: os cientistas de IA estão aqui e não vão parar de ficar mais inteligentes. A IA está prestes a entrar em uma nova fase, e todos estarão observando atentamente para ver se isso leva a descobertas inovadoras ou a novos problemas. À medida que a IA evolui, será vital para os acadêmicos enfatizar as preocupações éticas e garantir que esses sistemas sejam construídos eticamente. Em última análise, como abordamos o relacionamento complexo entre tecnologia e humanos determinará como a IA impacta a sociedade.
Crédito da imagem em destaque: Instituto Nacional do Câncer / Unsplash
