O Facebook está investindo esforços significativos para fazer cumprir os padrões da comunidade para os participantes em suas várias plataformas sociais. Nesse sentido, além de contar com pessoal humano encarregado de zelar pelo compliance, o Facebook conta com tecnologias de Inteligência Artificial, e hoje oferece uma prévia dos avanços alcançados nos últimos tempos nesta área.
A este respeito, ele se referiu a sistemas atualmente em uso, como o Reinforcement Integrity Optimizer (RIO), implementado no final do ano passado, que ele diz ter ajudado a reduzir significativamente o discurso de ódio e outros tipos de postagens indesejadas em suas plataformas sociais no primeiro semestre do ano.
Mike Schroepfer, CTO do Facebook disse: “A IA é um campo incrivelmente rápido, e muitas das partes mais importantes de nossos sistemas de IA atuais são baseadas em técnicas como automonitoramento, que parecia um futuro distante apenas alguns anos atrás. ”
Nesse sentido, ele explica que ao invés de treinar um sistema baseado em IA baseado em um conjunto fixo de dados, com o RIO eles optaram por um modelo em que o sistema aprende diretamente sobre milhões de conteúdos atuais, adaptando-se ao longo do tempo para fazer melhor seu trabalho. .
Schroepfer argumenta que a abordagem usada em RIO é “incrivelmente valiosa” para a conformidade com os padrões da UE, acrescentando que:
Como a natureza do problema está sempre evoluindo junto com os eventos atuais, quando surgem novos problemas, nossos sistemas devem ser capazes de se adaptar rapidamente. O aprendizado por reforço é uma abordagem poderosa para ajudar a IA a enfrentar novos desafios quando há uma escassez de bons dados de treinamento.
Nesse sentido, eles esperam que a RIO continue ajudando ao longo do tempo para reduzir ainda mais o discurso de ódio na plataforma.
Mas além do RIO, o Facebook eles também estão substituindo sistemas personalizados de propósito único por outros mais gerais, vendo “melhorias impressionantes” por meio do uso de modelos de IA multimodal, que podem funcionar com vários idiomas e vários tipos de conteúdo.
Schroepfer também fez referência a modelos de aprendizagem de “tiro zero” e “poucos lances” que permitem à Inteligência Artificial identificar conteúdo infrator, mesmo que mal ou nunca tenham tido um exemplo disso.
Ele disse: “O aprendizado de poucas e poucas tentativas é um dos muitos domínios de IA de ponta em que temos feito investimentos significativos em pesquisa e esperamos ver resultados no próximo ano.”