Sam Altman, CEO da ChatGPT, alertou que um ataque cibernético significativo poderá ocorrer no próximo ano, impulsionado por avanços na inteligência artificial. Ele enfatizou que estes desenvolvimentos poderiam capacitar atores mal-intencionados, levando a ameaças não apenas na segurança cibernética, mas também no bioterrorismo.
Altman afirmou numa entrevista à Axios que, embora muitas preocupações sobre a IA se concentrem no seu impacto nos mercados de trabalho e nas questões ambientais, os perigos imediatos permaneceram em grande parte sem solução. Ele destacou o potencial para ataques cibernéticos catastróficos possibilitados por modelos avançados de IA de código aberto, que, segundo ele, poderiam desbloquear capacidades sem precedentes para os invasores.
“No próximo ano, veremos ameaças cibernéticas significativas que teremos de mitigar”, disse Altman, alertando que o risco é “totalmente possível”. Observou que a mitigação destas ameaças exige um esforço substancial, defendendo uma abordagem resiliente à segurança cibernética. “Não se trata apenas de tornar um modelo de IA seguro”, acrescentou. “Os defensores devem trabalhar juntos.”
Altman discutiu o conceito de um “programa de acesso confiável” que visa facilitar a colaboração entre empresas de IA, empresas de segurança cibernética e governos para melhorar a segurança do sistema. Salientou que a eficácia destas medidas é crítica para abordar as vulnerabilidades apresentadas pelas tecnologias de IA em rápida evolução.
Além das ameaças à segurança cibernética, Altman alertou que os avanços da IA também podem aumentar a probabilidade de bioterrorismo. Ele afirmou que modelos aprimorados de IA poderiam permitir que indivíduos manipulassem processos biológicos em níveis sofisticados: “Coisas maravilhosas vão acontecer lá, veremos um monte de doenças serem curadas”, disse ele. No entanto, ele advertiu que tais capacidades poderiam ser mal utilizadas.
Altman enfatizou que a normalização potencial de modelos avançados de código aberto em biologia poderia apresentar novos riscos. “Isso já não é uma coisa teórica”, afirmou, referindo-se ao desafio iminente de impedir que grupos terroristas aproveitem a IA para criar novos agentes patogénicos.
Concluiu que as complexidades que rodeiam estas ameaças tornam as soluções difíceis de discernir, sugerindo que a possibilidade de danos generalizados permanece elevada sem salvaguardas adequadas. Altman reconheceu que as estratégias atuais para combater estas ameaças carecem de respostas definitivas, levantando sérias preocupações sobre o futuro da IA e as suas implicações para a segurança global.
