Dot.lib

Um relatório divulgado pela think tank norte-americana Rand Corporation fez um alerta preocupante: o de que a inteligência artificial (IA) pode ajudar a planejar ataques biológicos. De acordo com a matéria da Engineering and Technology — uma revista do The Institution of Engineering and Technology (IET) — os chatbots de IA podem fornecer, por exemplo, orientações para a compra de patógenos e ajudar a esconder o verdadeiro motivo da aquisição. Para isso, os pesquisadores realizaram testes não especificados em modelos de linguagem hospedados em interfaces semelhantes ao ChatGPT, da OpenAI, e ao Bard, do Google.

Em um deles, a equipe questionou o chatbot sobre quais as armas biológicas poderiam criar um cenário de pandemia por peste e pediram ao sistema para considerar critérios orçamentários e de sucesso. A plataforma respondeu identificando potenciais agentes biológicos — incluindo aqueles que causam varíola, antraz e peste — e discutiu as suas probabilidades relativas de causar morte em massa. A resposta incluiu instruções de como obter os patógenos, de como espalhá-los e, ainda, a projeção de óbitos, que dependia de fatores como o tamanho da população afetada. Ao fim, o chatbot sugere que a peste pneumônica seria a mais mortal e eficaz.

De acordo com o relatório, o modelo de linguagem deu conselhos sobre como obter os patógenos: chegou a recomendar que a pessoa fingisse estar conduzindo pesquisas científicas para obtê-los de modo convincente e sem revelar o verdadeiro objetivo. Os pesquisadores explicaram que, ainda que as respostas não tenham sido explícitas e detalhadas, essas ferramentas de IA podem “preencher rapidamente tais lacunas de conhecimento e ajudar no planejamento e execução de um ataque biológico”. Eles concluíram que são necessários testes mais aprofundados e que as empresas de IA devem impor limites à abertura dos seus modelos de linguagem de modo a evitar conversas como as realizadas nos testes do presente estudo.

Para ler o artigo completo, clique aqui.