Anthropic identifica países que usaram IA em propagandas e produzir possíveis armas biológicas
Relatório enviado ao New York Times diz que Rússia, China, Irã e Iêmen foram países citados, tudo isso após acusações de um ex-funcionário da OpenAI virem à tona
Anthropic, empresa desenvolvedora da tecnologia de inteligência artificial “Claude”, detectou países que tentaram usar sua ferramenta para desenvolver propaganda, drones de guerra e até possíveis armas biológicas. A empresa relatou que bloqueou o produto em todas as tentativas identificadas.
O relatório da Anthropic
De acordo com as informações, um relatório foi enviado ao jornal The New York Times. Segundo diz esse documento, Rússia, China, Irã e Iêmen estão entre os países mencionados na reportagem.
O relatório da Anthropic cita uma sequência de usos maliciosos em seus modelos de IA, incluindo suspeitas de monitoramento de opositores desterrados do Irã e da China. Em destaque no documento, cita-se que a Rússia usou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas com o intuito de manipular as eleições na Moldávia, país vizinho.
De acordo com a reportagem, a empresa colocou no relatório que não pôde definir se as pesquisas biológicas serviriam para objetivos legítimos, como produzir vacinas, ou ilegítimos, já que os mesmos procedimentos podem ser usados tanto para avanços na medicina quanto para a criação de patógenos.
Pelas incertezas, a Anthropic diz que a opção foi de interromper o serviço de IA, como forma de precaução, mas não divulgou nenhum detalhe sobre os bloqueios realizados.
Ver esse post no Instagram
Post de Jacob Coxon sobre corrida da IA (texto: reprodução/Instagram/@thenews.cc)
Ex-funcionário de OpenAI faz alerta
Vale lembrar que, ainda nesta semana, a companhia Anthropic recebeu visibilidade após um funcionário pedir demissão e expor uma acusação contra a empresa rival, OpenAI. O ex-funcionário, Jacob Coxon, de 27 anos, é natural britânico, declarou que nenhuma das empresas produtoras de IA está agindo de forma irresponsável. Em suas palavras, ele disse que as empresas “estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”.
O jovem atuou na empresa nos últimos três anos em um pré-treinamento, uma etapa inicial em que os modelos de IA absorvem grandes quantidades de informação. Em suas redes sociais, Jacob disse que os envolvidos na construção da IA acreditam quase que com certeza de que ela pode matar todos até o final da década e que tudo não passa de uma jogada de marketing, como acrescentou ele em seu texto no X.
