Não precisamos de robôs assassinos sem supervisão

O Pentágono intensificou as pressões sobre a startup Anthropic para permitir acesso irrestrito de agentes militares à sua tecnologia, incluindo vigilância em massa e armas autônomas letais. A ameaça é classificar a Anthropic como risco da cadeia de suprimentos e colocar em jogo contratos no valor de bilhões de dólares. A batalha ocorre em meio a negociações sobre salvaguardas.

Nesta semana, Anthropic manteve posição firme, recusando atender às exigências. A empresa afirmou que não pode concordar com o pedido, embora não descarte possibilidades futuras de colaboração em pesquisa e desenvolvimento para aumentar a confiabilidade de sistemas autônomos. O DoD busca condições mais amplas.

Em aberto, negociações também envolvem outras empresas de tecnologia. OpenAI e xAI teriam aceitado termos próximos aos propostos pelo Pentágono, enquanto a Anthropic se manteve firme. O cerne é a implantação de salvaguardas e o que cada contrato permite no uso de IA pelo governo.

A discussão envolve funcionários de grandes empresas como Amazon Web Services, Google, Microsoft e OpenAI. Grupos representando centenas de milhares de trabalhadores pedem que as empresas rejeitem as demandas do Pentágono. Ainda não há consenso sobre resistência institucional.

Relatos de ex-funcionários indicam pressões internas para alinhar produtos de IA com interesses de defesa, com relatos sobre uma cultura de maior aceitação de contratos governamentais. Parte dos relatos cita receio de demissões e de retaliação.

A disputa também envolve a possibilidade de o governo recorrer a mecanismos legais para impor o uso de IA, como a Defesa de Produção, para forçar a conformidade. A conversa pública sobre limites da IA no setor público aumentou nos últimos dias.

No front interno, há relatos de preocupação com vigilância no local de trabalho e com o uso de IA para monitorar produtividade e presença de funcionários. Isso é citado como reflexo de uma mudança de cultura corporativa.

Analistas destacam que a Anthropic pode ter vantagem ao manter investimentos em clientes corporativos, caso permaneça fora de contratos governamentais diretos. A empresa também tem foco maior em soluções para empresas, o que pode ampliar sua resistência financeira.

Especialistas perguntam se a indústria continuará a empurrar limites ou se haverá reversão. Enquanto isso, o DoD segue avaliando opções para assegurar acesso à tecnologia de IA, com impactos potenciais em várias contratantes e no ecossistema de IA.

Foi reportado que autoridades já consultaram grandes contratantes de defesa para entender a dependência de ferramentas de IA da Anthropic. A decisão final ainda não foi anunciada, mantendo a incerteza sobre o futuro das parcerias público-privadas.

Contexto e reação no setor

• Reação de trabalhadores varia entre apoio a salvaguardas rigorosas e preocupação com impactos de contratos governamentais na inovação.
• Grupos de funcionários de grandes empresas pedem responsabilidade e limites claros no uso de IA pelo governo.
• A Anthropic destaca compromisso com segurança hoje, mas não fecha portas para cooperação futura.