Supremo analisa pela primeira vez a ‘caja negra’ dos algoritmos em bens públicos

O algoritmo Bosco, responsável pela concessão do bono social, uma ajuda para pagamento de luz, enfrenta críticas por falhas em atender pessoas que realmente necessitam. O governo se recusa a abrir o código fonte do sistema, levantando questões sobre transparência algorítmica e direitos dos cidadãos.

O caso chegou ao Tribunal Supremo, onde se discute se os cidadãos têm o direito de conhecer a fórmula que determina a concessão de benefícios públicos. O advogado Javier de la Cueva, representante da organização Civio, argumentou que em uma democracia plena, o segredo do código fonte não é aceitável. A Civio recorreu ao Supremo após negativas em instâncias anteriores para que o governo liberasse o código do algoritmo.

Uma investigação de 2018 revelou que o bono social não chegava a muitas famílias vulneráveis que atendiam aos critérios, como baixos rendimentos ou serem vítimas de violência. O algoritmo falhou em filtrar corretamente os dados. Apesar do reconhecimento do erro pela administração, a abertura do código fonte foi negada, sob a alegação de que isso violaria direitos de propriedade intelectual e comprometeria a segurança pública.

Durante a audiência, o advogado do Estado defendeu que a abertura do código poderia expor dados sensíveis, mas De la Cueva contestou, afirmando que o código apenas detalha os critérios de concessão das ajudas. A decisão do Supremo pode estabelecer precedentes para a transparência em algoritmos que influenciam a vida dos cidadãos.

Os magistrados demonstraram interesse nas implicações de segurança relacionadas à abertura do código. A expectativa é que a sentença seja divulgada antes de agosto, podendo impactar não apenas o caso Bosco, mas também outros sistemas que utilizam algoritmos para decisões administrativas.