{"id":3747,"date":"2023-09-01T12:56:20","date_gmt":"2023-09-01T15:56:20","guid":{"rendered":"https:\/\/suburbionoar.com.br\/?p=3747"},"modified":"2023-09-01T12:56:22","modified_gmt":"2023-09-01T15:56:22","slug":"sistema-de-reconhecimento-facial-e-criticado-por-racismo-algoritmico","status":"publish","type":"post","link":"https:\/\/suburbionoar.com.br\/index.php\/2023\/09\/01\/sistema-de-reconhecimento-facial-e-criticado-por-racismo-algoritmico\/","title":{"rendered":"Sistema de reconhecimento facial \u00e9 criticado por &#8216;racismo algor\u00edtmico&#8217;"},"content":{"rendered":"\n<p>A ferramenta de reconhecimento facial, que j\u00e1 prendeu 1.011 pessoas na Bahia, levou v\u00e1rios inocentes \u00e0 cadeia desde a implementa\u00e7\u00e3o, em 2018. Especialistas dizem que o sistema, que tem investimento de R$ 665 milh\u00f5es do estado, usa cat\u00e1logos informais e \u00e9 fundamentado no &#8220;racismo algor\u00edtmico&#8221;.<\/p>\n\n\n\n<p>Na segunda quinzena de agosto, a Secretaria de Seguran\u00e7a P\u00fablica da Bahia (SSP-BA) divulgou o balan\u00e7o dos mais de mil detidos. A justificativa do estado \u00e9 de que as pessoas encontradas pelo sistema est\u00e3o inseridas no banco de mandados de pris\u00e3o.<\/p>\n\n\n\n<p>No entanto, pesquisadores apontam que, mesmo inserido no banco de mandados de pris\u00e3o, n\u00e3o h\u00e1 garantia legal de que o suspeito tenha cometido o crime ao qual responde, o que fere a chamada presun\u00e7\u00e3o da inoc\u00eancia \u2013 popularmente conhecida pelo jarg\u00e3o: &#8220;todos s\u00e3o inocentes, at\u00e9 que se prove o contr\u00e1rio&#8221;.<\/p>\n\n\n\n<p>Um desses casos ocorreu durante a festa junina de 2022, em Salvador. Um homem negro foi preso enquanto chegava no Parque de Exposi\u00e7\u00f5es da capital com a esposa e o filho, para aproveitar o evento. Ele, que \u00e9 vigilante, foi detido e ficou preso por 26 dias, por roubo, injustamente.<\/p>\n\n\n\n<p>O crime que levou o trabalhador \u00e0 pris\u00e3o foi cometido em 2012, por outra pessoa. O verdadeiro criminoso foi preso em flagrante e usou o nome do vigilante e as pr\u00f3prias digitais para se identificar. Este homem foi solto em 2013, e depois condenado a cinco anos e quatro meses de pris\u00e3o.<\/p>\n\n\n\n<p>Com isso, um mandado de pris\u00e3o foi inserido no sistema, com o nome do trabalhador. Na \u00e9poca em que o vigilante foi preso, a SSP-BA disse que as c\u00e2meras constataram 95% de similaridade entre ele e a pessoa que deveria ser presa.<\/p>\n\n\n\n<p>A secretaria nunca explicou como a imagem dele foi parar no banco de dados do reconhecimento facial, j\u00e1 que o vigilante nunca havia cometido um crime. O g1 pediu informa\u00e7\u00f5es \u00e0 SSP-BA, para explicar como \u00e9 formado o banco de suspeitos do reconhecimento facial, mas n\u00e3o obteve respostas.<\/p>\n\n\n\n<p>O vigilante foi preso na frente do filho e da esposa. A Defensoria P\u00fablica da Bahia (DPE-BA), que atuou no caso, destacou a falta de identifica\u00e7\u00e3o pessoal do homem preso em 2012, o que gerou a pris\u00e3o injusta por meio do reconhecimento facial, e a viola\u00e7\u00e3o dos direitos do trabalhador.<\/p>\n\n\n\n<p>A DPE-BA tamb\u00e9m precisou solicitar per\u00edcia das digitais do homem preso em 2012 e a do trabalhador, para provar que n\u00e3o se tratava da mesma pessoa. Al\u00e9m do constrangimento pela pris\u00e3o injusta, o vigilante perdeu o emprego: ele come\u00e7aria a trabalhar em uma nova empresa tr\u00eas dias ap\u00f3s a pris\u00e3o.<\/p>\n\n\n\n<p>Mesmo solto por n\u00e3o ter cometido o crime, a pris\u00e3o do vigilante \u00e9 computada pela Secretaria de Seguran\u00e7a P\u00fablica da Bahia (SSP-BA).<\/p>\n\n\n\n<p>Ap\u00f3s passar a marca de mil pris\u00f5es com aux\u00edlio da ferramenta, o secret\u00e1rio de SSP-BA, Marcelo Werner, disse que a Bahia \u00e9 &#8220;refer\u00eancia mundial no uso deste equipamento&#8221;.<\/p>\n\n\n\n<p><strong>Negros s\u00e3o mais afetados pelos erros<\/strong><\/p>\n\n\n\n<p>Para al\u00e9m da viola\u00e7\u00e3o do princ\u00edpio jur\u00eddico, a advogada, mestra em Direito e doutoranda em Filosofia, Ana Gabriela Ferreira, que \u00e9 pesquisadora do assunto, aponta tamb\u00e9m o fator ra\u00e7a como determinante para o desrespeito aos direitos constitucionais.<\/p>\n\n\n\n<p>&#8220;S\u00e3o in\u00fameras viola\u00e7\u00f5es, a come\u00e7ar pelo tratamento desigual em raz\u00e3o de ra\u00e7a, g\u00eanero e etnia. O efeito sobre a vida de uma pessoa presa injustamente \u00e9 devastador. Ap\u00f3s ser preso, fica estigmatizado por toda a vida, dos seus c\u00edrculos \u00edntimos aos de trabalho e sociais&#8221;.<\/p>\n\n\n\n<p>&#8220;Imagine num estado como a Bahia, em que 80,3% da popula\u00e7\u00e3o \u00e9 negra, a propor\u00e7\u00e3o de &#8216;matches&#8217; [combina\u00e7\u00f5es] errados e o impacto sobre as fam\u00edlias em geral?&#8221;, questiona.<\/p>\n\n\n\n<p>De acordo com a pesquisadora, o primeiro ponto a ser questionado \u00e9 a falta de clareza sobre a base de dados usada para compor a ferramenta de reconhecimento facial.<\/p>\n\n\n\n<p>A advogada destaca que o reconhecimento facial fotogr\u00e1fico ou biom\u00e9trico \u2013 quando os pontos nodais do rosto s\u00e3o analisados, a exemplo de dist\u00e2ncia das sobrancelhas \u2013 \u00e9 feito a partir de uma base de perfis de pessoas majoritariamente negras, mesmo que estas pessoas nunca tivessem cometido qualquer crime.<\/p>\n\n\n\n<p>&#8220;Na instala\u00e7\u00e3o de sistemas de reconhecimento biom\u00e9trico na Bahia foram utilizados crit\u00e9rios como &#8220;estilo de cabelo&#8221; e &#8220;estilo inferior&#8221;. No caso do reconhecimento biom\u00e9trico, h\u00e1 ainda um agravante: as pessoas que n\u00e3o conhecem o funcionamento do reconhecimento presumem que ele \u00e9 um &#8220;match matem\u00e1tico perfeito&#8221;.<\/p>\n\n\n\n<p>&#8220;Na verdade, estudos sobre as tr\u00eas maiores tecnologias de reconhecimento utilizadas no mundo mostram que o \u00edndice de erro chega a quase 40% para mulheres negras e pessoas trans. Enquanto isso, para homens brancos, o \u00edndice de erro seria de 0,3%&#8221;.<\/p>\n\n\n\n<p><strong>Racismo algor\u00edtmico<\/strong><\/p>\n\n\n\n<p>A descri\u00e7\u00e3o feita por Ana Gabriela Ferreira faz parte do conceito de racismo algor\u00edtmico. No livro &#8220;Racismo Algor\u00edtmico: intelig\u00eancia artificial e discrimina\u00e7\u00e3o nas redes digitais&#8221;, o pesquisador baiano, mestre em Comunica\u00e7\u00e3o e doutorando em Ci\u00eancias Humanas e Sociais, Tarc\u00edzio Silva, escreveu:<\/p>\n\n\n\n<p>&#8220;Se a tecnologia \u00e9 erroneamente enquadrada e percebida como neutra, a tal equ\u00edvoco se soma a nega\u00e7\u00e3o do racismo como fundante de rela\u00e7\u00f5es e hierarquias sociais em pa\u00edses como o Brasil&#8221;.<\/p>\n\n\n\n<p>Outra quest\u00e3o criticada pelo especialistas \u00e9 a falta de transpar\u00eancia sobre a quantidade de pessoas que foram presas injustamente. O g1 perguntou \u00e0 SSP-BA o n\u00famero de pessoas que foram \u201creconhecidas\u201d pelo sistema e depois liberadas por n\u00e3o serem os suspeitos, mas n\u00e3o obteve resposta.<\/p>\n\n\n\n<p>&#8220;O n\u00famero de casos errados \u00e9 gritante. Um exemplo de outro estado parecido mostra bem: o Maracan\u00e3 utilizou c\u00e2meras de reconhecimento facial como teste. Prendeu 11 pessoas, sete delas erradas. \u00c9 uma margem de quase 70% de erros&#8221;, questiona a advogada e pesquisadora Ana Gabriela Ferreira.<\/p>\n\n\n\n<p>A advogada destaca ainda que uma cidade como Salvador, que \u00e9 a capital brasileira com a maior popula\u00e7\u00e3o negra, pode ter um percentual de erro ainda maior, e acentua que a falta de transpar\u00eancia e divulga\u00e7\u00e3o destes n\u00fameros.<\/p>\n\n\n\n<p>&#8220;Salvador, capital mais negra do mundo fora de \u00c1frica, tem chances alt\u00edssimas de multiplicar erros e n\u00e3o teve uma diminui\u00e7\u00e3o da viol\u00eancia com o uso dos sistemas, ao contr\u00e1rio, chegou a ter aumento. A avalia\u00e7\u00e3o \u00e9 simples: os erros n\u00e3o s\u00e3o divulgados porque tornariam ainda mais evidente a grande falha que \u00e9 este projeto, notoriamente racista e dispendioso, que vem sendo banido em diversos pa\u00edses, mas o governo insiste em aplicar no estado&#8221;.<\/p>\n\n\n\n<p>O alto valor injetado como investimento para manuten\u00e7\u00e3o da ferramenta de reconhecimento facial tamb\u00e9m \u00e9 criticado pelos especialistas.<\/p>\n\n\n\n<p>&#8220;Se de 2018 a 2023, investidos quase R$ 700 milh\u00f5es e tendo mais de 65 mil registros biom\u00e9tricos, ocorreram mil pris\u00f5es, esse sistema seria realmente um investimento priorit\u00e1rio? H\u00e1 cidades sem saneamento b\u00e1sico, mas com sistema milion\u00e1rio de reconhecimento&#8221;, finaliza Ana Gabriela.<\/p>\n\n\n\n<p>Fonte: Varela Net <\/p>\n","protected":false},"excerpt":{"rendered":"<p>A ferramenta de reconhecimento facial, que j\u00e1 prendeu 1.011 pessoas na Bahia, levou v\u00e1rios inocentes \u00e0 cadeia desde a implementa\u00e7\u00e3o, em 2018. Especialistas dizem que o sistema, que tem investimento de R$ 665 milh\u00f5es do estado, usa cat\u00e1logos informais e \u00e9 fundamentado no &#8220;racismo algor\u00edtmico&#8221;. Na segunda quinzena de agosto, a Secretaria de Seguran\u00e7a P\u00fablica [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":3748,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[105],"tags":[],"class_list":["post-3747","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-policia"],"_links":{"self":[{"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/posts\/3747","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=3747"}],"version-history":[{"count":1,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/posts\/3747\/revisions"}],"predecessor-version":[{"id":3749,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/posts\/3747\/revisions\/3749"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/media\/3748"}],"wp:attachment":[{"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=3747"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=3747"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/suburbionoar.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=3747"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}