Uma coligação de mais de uma centena de organizações de crianças refugiadas afirmou que planos controversos de utilizar a IA para avaliar a idade dos jovens requerentes de asilo podem levar a que mais crianças acabem indevidamente em prisões ou centros de detenção para adultos.
O alerta segue-se ao anúncio do Ministério do Interior, na sexta-feira, de um contrato para implementar a tecnologia de estimativa de idade facial de IA em jovens requerentes de asilo cuja idade é contestada.
Um relatório do Consórcio de Crianças Refugiadas e Migrantes, visto pelo Guardian antes da sua publicação em Junho, levanta o alarme sobre os riscos da utilização de tal tecnologia em jovens que não se enquadram nas normas de outras pessoas da sua faixa etária.
O consórcio, cujas organizações membros trabalham para promover e proteger os direitos das crianças refugiadas e migrantes, afirma que, como resultado do trauma, da subnutrição e das jornadas angustiantes que os jovens empreenderam para alcançar a segurança, a avaliação da IA é complexa.
O relatório – Benchmarks and Borders: the use of facial age estimation toavaliar a idade dos jovens não acompanhados que procuram asilo – não exclui totalmente a utilização da IA, mas adverte contra confiar nela e afirma que não deve substituir avaliações abrangentes da idade realizadas por assistentes sociais.
Insta o Ministério do Interior a utilizar a IA numa capacidade consultiva e não determinante, com uma série de salvaguardas incorporadas, incluindo o acesso a um adulto adequado, aconselhamento jurídico e o direito de contestar decisões.
Insta o governo a não substituir os erros humanos cometidos em alguns casos de avaliação de idade por erros de máquina.
A avaliação da idade deste grupo de jovens é complexa, especialmente porque a maioria dos filhos solitários requerentes de asilo que chegam ao Reino Unido têm 16 ou 17 anos. De acordo com os dados do Ministério do Interior, os jovens requerentes de asilo têm duas vezes mais probabilidades de serem registados como crianças nas avaliações dos assistentes sociais do que nas realizadas pelos agentes de imigração na fronteira, com mais de dois terços avaliados como menores.
O anúncio do Ministério do Interior dá uma ênfase significativa aos adultos que fazem “alegações falsas”, fingindo ser crianças e tentando “manipular o sistema”, mas também reconhece a necessidade de salvaguardar os menores.
Duas crianças são acompanhadas até uma praia em Gravelines, França, depois de não conseguirem embarcar em um bote que tentava cruzar o Canal da Mancha em abril. Fotografia: Tom Nicholson/Getty Images
O ministro da segurança fronteiriça e do asilo, Alex Norris, afirmou: “Durante demasiado tempo, os migrantes adultos que faziam falsas alegações de idade exploraram o sistema e desviaram apoio vital das crianças em risco.
“É por isso que estamos implementando a tecnologia de IA para acabar com isso, garantindo que aqueles que manipulam o sistema sejam identificados, detidos e removidos sem demora, e que aqueles que merecem apoio e proteção recebam isso.”
As decisões finais continuarão a ser tomadas pelos oficiais de imigração, e o Ministério do Interior disse que a tecnologia seria submetida a testes, avaliações e garantias rigorosos antes da implementação nacional.
A co-presidente do Consórcio de Crianças Refugiadas e Migrantes, Kamena Dorling, afirmou: “As propostas do governo são profundamente preocupantes. A IA não pode explicar os factores que podem afectar significativamente a aparência de um jovem depois de fugir de conflitos e perseguições e de realizar viagens perigosas, incluindo trauma, desnutrição e exaustão.
“As evidências existentes também mostram que a IA enfrenta os mesmos problemas de preconceito e imprecisão que a tomada de decisão humana, com padrões de erros semelhantes.”
Kama Petruczenko, analista político sénior do Conselho de Refugiados e membro do consórcio, afirmou: “Os próprios números do governo já mostram que centenas de crianças estão a ser tratadas indevidamente como adultos, na sequência de avaliações visuais falhas na fronteira, com consequências devastadoras para a sua segurança e bem-estar.
“A IA e a tecnologia de estimativa da idade facial não são uma resposta simples ou isenta de riscos para esses problemas de longa data. A má qualidade da imagem e o preconceito nos conjuntos de dados também podem afetar a precisão.
“Existe um perigo real de que esta tecnologia crie uma falsa sensação de certeza em decisões que já são extremamente difíceis de acertar. Se avaliações erradas forem simplesmente automatizadas, mais crianças poderão acabar mal colocadas em alojamentos para adultos, centros de detenção ou mesmo prisões.”
O Ministério do Interior afirma que a IA estimará a idade de um indivíduo em segundos, analisando fotografias faciais já tiradas de barcos pequenos que chegam a Dover. Um contrato para o trabalho no valor de £ 322.000 durante três anos foi concedido à Akhter Computers Ltd, sob o qual a tecnologia será testada e desenvolvida antes de ser lançada em 2027.
