ÉTICA
Por Leo Caparroz
Criminosos já usaram o Claude para espionagem de Estado, vigilância de dissidentes, desenvolvimento de armas biológicas e até fraude romântica em escala industrial. É o que mostra um relatório da Anthropic publicado em setembro.
“[Estes casos] não são usos indevidos típicos", escreve a Anthropic, "mas exemplos das atividades maliciosas mais notáveis e inovadoras que identificamos até o momento."
Veja 7 exemplos a seguir.
Espiões russos usaram o Claude para automatizar uma operação com alvos militares e diplomáticos. Eles hackearam redes de wi-fi de hotéis e sequestraram contas de WhatsApp de ex-autoridades ucranianas, por exemplo.
Um operador ligado ao governo dos Emirados Árabes Unidos usou o Claude para manter uma persona chamada Deadshot, clonou uma ONG suíça e disfarçou propaganda estatal em depoimentos lidos por supostas testemunhas locais na ONU.
Um consultor usou o Claude para construir a "Lakana 360", uma plataforma de vigilância em escala nacional para o serviço de inteligência do Mali, monitorando praticamente todos os 25 milhões de chips de celular do país.
Uma célula de desenvolvimento de armas no Iêmen usou o Claude para escrever o software de guiagem, navegação e controle de um foguete guiado, um míssil balístico e uma família de mísseis com uma variante hipersônica planadora.
Uma plataforma vendia acesso ao Claude para virologistas em países onde a empresa não opera. Quando o Claude recusava um pedido (por risco de segurança biológica, por exemplo), o usuário era redirecionado para um modelo mais permissivo.
Um estúdio chinês criou mais de 20 aplicativos de namoro que se vendiam como "100% humanos". Mas, em somente duas semanas, a Anthropic identificou 4,7 mil personas de IA conversando com pelo menos 25 mil pessoas reais.
A empresa chinesa Xiaomi reaproveitou conversas reais dos usuários de seus modelos MiMo, reproduzindo essas sessões por meio do Claude para gerar dados que seriam usados para o treinamento de sua próxima IA.