SEGUNDO RELATOS, O EXÉRCITO ISRAELENSE implementou uma rede de reconhecimento facial na Faixa de Gaza, examinando palestinos comuns enquanto eles se movem pelo território devastado, tentando fugir do bombardeio em andamento e buscando sustento para suas famílias.
O programa depende de duas ferramentas diferentes de reconhecimento facial, de acordo com o New York Times : uma feita pela contratada israelense Corsight, e a outra incorporada à popular plataforma de organização de imagem do consumidor oferecida pelo Google Fotos. Um funcionário israelense anônimo disse ao Times que o Google Fotos funcionou melhor do que qualquer tecnologia alternativa de reconhecimento facial, ajudando os israelenses a fazer uma “lista de alvos” de supostos combatentes do Hamas que participaram do ataque de 7 de outubro.
A vigilância em massa de rostos palestinos resultante dos esforços de Israel para identificar membros do Hamas pegou milhares de moradores de Gaza desde o ataque de 7 de outubro. Muitos dos presos ou encarcerados, muitas vezes com pouca ou nenhuma evidência, disseram mais tarde que foram brutalmente interrogados ou torturados. Em sua história de reconhecimento facial, o Times apontou para o poeta palestino Mosab Abu Toha, cuja prisão e espancamento nas mãos do exército israelense começaram com o uso do reconhecimento facial. Abu Toha, mais tarde liberado sem ser acusado de nenhum crime, disse ao jornal que soldados israelenses lhe disseram que sua prisão habilitada para reconhecimento facial havia sido um "erro".
Deixando de lado questões de precisão — sistemas de reconhecimento facial são notoriamente menos precisos em rostos não brancos — o uso dos recursos de análise com tecnologia de aprendizado de máquina do Google Fotos para colocar civis sob escrutínio militar, ou pior, está em desacordo com as regras claramente declaradas pela empresa. Sob o título “ Atividades Perigosas e Ilegais ”, o Google alerta que o Google Fotos não pode ser usado “para promover atividades, bens, serviços ou informações que causem danos sérios e imediatos às pessoas”.
“A vigilância de reconhecimento facial deste tipo mina direitos consagrados no direito internacional dos direitos humanos.”
Questionado sobre como uma proibição contra o uso do Google Fotos para prejudicar pessoas era compatível com o uso do Google Fotos pelo exército israelense para criar uma "lista de alvos", o porta-voz da empresa Joshua Cruz se recusou a responder, afirmando apenas que "o Google Fotos é um produto gratuito amplamente disponível ao público que ajuda a organizar fotos agrupando rostos semelhantes, para que você possa rotular pessoas para encontrar facilmente fotos antigas. Ele não fornece identidades para pessoas desconhecidas em fotografias." (Cruz não respondeu às repetidas tentativas subsequentes de esclarecer a posição do Google.)
Não está claro como tais proibições — ou os compromissos públicos de longa data da empresa com os direitos humanos — estão sendo aplicados às forças armadas de Israel.
“Depende de como o Google interpreta 'dano sério e imediato' e 'atividade ilegal', mas a vigilância por reconhecimento facial desse tipo enfraquece direitos consagrados na lei internacional de direitos humanos — privacidade, não discriminação, expressão, direitos de reunião e muito mais”, disse Anna Bacciarelli, diretora associada de tecnologia da Human Rights Watch. “Dado o contexto em que essa tecnologia está sendo usada pelas forças israelenses, em meio à negação generalizada, contínua e sistemática dos direitos humanos das pessoas em Gaza, espero que o Google tome as medidas adequadas.”
Fazer o bem ou fazer o Google?
Além da proibição dos termos de serviço contra o uso do Google Fotos para causar danos às pessoas, a empresa afirma há muitos anos adotar vários padrões globais de direitos humanos.
“Desde a fundação do Google, acreditamos em aproveitar o poder da tecnologia para promover os direitos humanos”, escreveu Alexandria Walden, chefe global de direitos humanos da empresa, em uma postagem de blog de 2022. “É por isso que nossos produtos, operações comerciais e tomada de decisões em torno de tecnologias emergentes são todos informados por nosso Programa de Direitos Humanos e profundo comprometimento em aumentar o acesso à informação e criar novas oportunidades para pessoas ao redor do mundo.”
Esse profundo compromisso inclui, de acordo com a empresa, defender a Declaração Universal dos Direitos Humanos — que proíbe a tortura — e os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, que observam que conflitos por território produzem alguns dos piores abusos de direitos.
O uso pelo exército israelense de um produto gratuito e publicamente disponível do Google como o Photos levanta questões sobre esses compromissos corporativos de direitos humanos e até que ponto a empresa está disposta a realmente agir sobre eles. O Google diz que endossa e assina os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, uma estrutura que convoca as corporações a “prevenir ou mitigar impactos adversos aos direitos humanos que estão diretamente ligados às suas operações, produtos ou serviços por seus relacionamentos comerciais, mesmo que não tenham contribuído para esses impactos”.
Walden também disse que o Google apoia a Due Diligence de Direitos Humanos Sensíveis a Conflitos para Empresas de TIC , uma estrutura voluntária que ajuda empresas de tecnologia a evitar o uso indevido de seus produtos e serviços em zonas de guerra. Entre as muitas recomendações do documento estão empresas como o Google a considerarem “Uso de produtos e serviços para vigilância governamental em violação às normas internacionais de direitos humanos, causando impactos imediatos à privacidade e à segurança física (ou seja, para localizar, prender e encarcerar alguém).” (Nem o JustPeace Labs nem o Business for Social Responsibility, que foi coautor da estrutura de due diligence, responderam a uma solicitação de comentário.)
“O Google e a Corsight têm a responsabilidade de garantir que seus produtos e serviços não causem ou contribuam para abusos de direitos humanos”, disse Bacciarelli. “Espero que o Google tome medidas imediatas para encerrar o uso do Google Fotos neste sistema, com base nesta notícia.”
Funcionários do Google que participam da campanha No Tech for Apartheid, um movimento de protesto liderado por trabalhadores contra o Projeto Nimbus, pediram ao seu empregador que impedisse o exército israelense de usar o reconhecimento facial do Photos para dar continuidade à guerra em Gaza.
“O fato de os militares israelenses estarem até mesmo transformando tecnologia de consumo como o Google Fotos em armas, usando o reconhecimento facial incluído para identificar palestinos como parte de seu aparato de vigilância, indica que os militares israelenses usarão qualquer tecnologia disponibilizada a eles — a menos que o Google tome medidas para garantir que seus produtos não contribuam para limpeza étnica, ocupação e genocídio”, disse o grupo em uma declaração compartilhada com o The Intercept. “Como funcionários do Google, exigimos que a empresa abandone o Projeto Nimbus imediatamente e cesse todas as atividades que apoiem a agenda genocida do governo e dos militares israelenses para dizimar Gaza.”
Projeto Nimbus
Esta não seria a primeira vez que os supostos princípios de direitos humanos do Google contradizem suas práticas comerciais — mesmo apenas em Israel. Desde 2021, o Google vendeu aos militares israelenses ferramentas avançadas de computação em nuvem e aprendizado de máquina por meio de seu controverso contrato “Projeto Nimbus” .
Diferentemente do Google Fotos, um produto de consumo gratuito disponível para qualquer um, o Projeto Nimbus é um projeto de software sob medida, adaptado às necessidades do estado israelense. No entanto, tanto a proeza de correspondência facial do Nimbus quanto do Google Fotos são produtos dos imensos recursos de aprendizado de máquina da empresa.
A venda dessas ferramentas sofisticadas para um governo tão regularmente acusado de cometer abusos de direitos humanos e crimes de guerra se opõe aos Princípios de IA do Google. As diretrizes proíbem usos de IA que possam causar “danos”, incluindo qualquer aplicação “cujo propósito contrarie princípios amplamente aceitos de direito internacional e direitos humanos”.
O Google sugeriu anteriormente que seus “princípios” são, na verdade, muito mais restritos do que parecem, aplicando-se apenas ao “trabalho de IA personalizado” e não ao uso geral de seus produtos por terceiros. “Isso significa que nossa tecnologia pode ser usada de forma bastante ampla pelos militares”, disse um porta-voz da empresa ao Defense One em 2022 .
Como, ou se, o Google transforma suas garantias de blogs executivos em consequências no mundo real ainda não está claro. Ariel Koren, uma ex-funcionária do Google que disse ter sido forçada a deixar seu emprego em 2022 após protestar contra o Projeto Nimbus, colocou o silêncio do Google sobre a questão do Photos em um padrão mais amplo de evitar a responsabilidade por como sua tecnologia é usada.
“É um eufemismo dizer que auxiliar e instigar um genocídio constitui uma violação dos princípios de IA e dos termos de serviço do Google”, disse Koren, agora um organizador do No Tech for Apartheid, ao The Intercept. “Mesmo na ausência de comentários públicos, as ações do Google deixaram claro que os princípios de ética de IA pública da empresa não têm nenhuma influência ou peso nas decisões de negócios do Google Cloud, e que mesmo a cumplicidade no genocídio não é uma barreira à busca implacável da empresa por lucro a qualquer custo.”
