Bloomberg Opinion — Desde o início da pandemia, o aprendizado online ficou muito mais comum – assim como as avaliações online. Normalmente, o software de avaliação também inspeciona a prova, observando com a própria câmera do aluno. Contudo, nos Estados Unidos, esse processo pode ferir a Constituição.
Um juiz federal do estado de Ohio determinou que esse é o caso – pelo menos em algumas circunstâncias. A fundamentação impecável do tribunal deveria nos fazer pensar sobre o projeto de inspeção online.
O problema da vigilância no que tem sido chamado de “a sala de aula constante e em expansão” veio antes da pandemia e é tão grave na escola primária quanto nas universidades. Mas, ao contrário de adolescentes e crianças, universitários são adultos e desfrutam de todas as regalias das proteções constitucionais. E o problema não vai desaparecer tão cedo. Espera-se que o mercado global de softwares de inspeção atinja US$ 1,5 bilhão até 2028. Os EUA são o maior usuário e desenvolvedor desses softwares. Portanto, embora a decisão seja aplicável apenas às universidades públicas, o resultado importa.
O reclamante, um aluno chamado Aaron Ogletree, alegou que a Universidade Estadual de Cleveland violou a Quarta Emenda da Constituição quando, antes de se sentar para fazer uma prova, recebeu uma solicitação para que permitisse que o software escaneasse o ambiente em busca de “possíveis notas de estudo não permitidas”.
Segundo a petição inicial, quando o pedido chegou por e-mail pouco antes da prova em questão, Ogletree tinha documentos fiscais confidenciais à vista, os quais não teve tempo para esconder. Esse escaneamento foi gravado. Uma cópia foi mantida pelo fornecedor, e o escaneamento também foi disponibilizada para colegas de Ogletree. Ele argumentou que o processo violou seu direito garantido pela Quarta Emenda da Constituição de proteção contra buscas e apreensões arbitrárias.
O tribunal concordou. Em sua decisão, o tribunal rejeitou as analogias da universidade com casos que abriram exceções para itens que estão à vista em lugares frequentados pelo público. As câmeras de um computador, segundo o tribunal, “vão onde as pessoas de outra forma não iriam, pelo menos não sem um mandado ou convite”.
A escola argumentou ainda que todos usam a inspeção remota. O juiz seguiu indiferente: “a generalidade de uma tecnologia em particular ou suas aplicações não tem relação direta com essa análise”. Na opinião do tribunal, o “núcleo” da Quarta Emenda é o direito de proteção contra intrusão governamental em casa; a inspeção “ocorreu na casa do Reclamante – em seu quarto”.
Poderíamos dizer que se Ogletree não gostasse das políticas de inspeção, ele deveria ter se matriculado em outro lugar, ou talvez ter feito um curso que não exigisse a inspeção. Mas as informações necessárias para tomar essa decisão foram apresentadas de uma maneira que o tribunal chamou de “opaca”. E, é claro, a pandemia nos deixou sem opções.
O tribunal admitiu que a escola tinha um interesse legítimo na prevenção de trapaças, mas considerou, em geral, que a inspeção era tão intrusiva e irracional que violava a Quarta Emenda.
Como libertário, gostei do resultado. Mas mesmo aqueles que podem discordar da conclusão constitucional têm motivos para se preocuparem com o software de inspeção.
Considere o mais óbvio: além de todas as outras coisas que a inteligência artificial observa – movimentos faciais atípicos ou fala, por exemplo (ai de muitos alunos com deficiência!), ou pessoas passando em segundo plano (ai dos alunos com filhos em casa!) – a primeira tarefa é garantir que a pessoa que está sentada para fazer a prova não seja um impostor.
Isso é mais difícil que parece.
Por exemplo, uma crítica de longa data a softwares de inteligência artificial usados para fins de identificação é que muitas vezes ele interpreta mal o gênero de pessoas trans. Por que isso importa em termos práticos? Se o inspetor remoto identifica o aluno sentado no teclado como sendo de um gênero e os arquivos da escola registram o mesmo aluno como sendo de outro (ou como não binário), essa diferença pode fazer com que o software marque o teste como possível trapaça ou até mesmo recuse o acesso.
Os problemas vão mais fundo. Os produtos de reconhecimento facial comercialmente disponíveis tendem a ser muito melhores na identificação de homens do que de mulheres, e de sujeitos brancos do que negros. E, como se pode suspeitar, há uma interseção muito preocupante.
Um estudo muito discutido de 2018 publicado no periódico Proceedings of Machine Learning Research descobriu que a taxa de erro na identificação de “mulheres de pele mais escura” chega a 34,7% -- lembrando que softwares de reconhecimento facial tem mais probabilidade de gerar falsos positivos do que falsos negativos. As mulheres de pele escura podem até ser receber uma solicitação do software para aumentar a iluminação para ajudar na identificação remota.
Nada disso é novo. Os vieses em softwares de reconhecimento facial são conhecidos há duas décadas. Seria razoável responder que é necessário ter algoritmos melhores. Certo. Mas considere a possibilidade de que à medida que a IA se torna mais precisa, as questões éticas podem se tornar mais complexas.
Mas essa é uma conversa para outro dia. Por enquanto, o caso de Ogletree serve como um lembrete de que a pressa em migrar para o aprendizado online pode estar piorando a educação. Com certeza está piorando a aplicação de provas. Há respostas grosseiras e feias – como exigir que os alunos renunciem a seus direitos da Quarta Emenda como condição para ir à escola caso haja um novo lockdown.
Ou talvez, em vez disso, as escolas deveriam considerar a inspeção remota intrusiva e injusta. Confiar nos alunos. E se o medo é uma epidemia de trapaças se não houver monitoramento, então o problema é muito mais sério do que o que a câmera pode e não pode ver.
Esta coluna não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e de seus proprietários.
Stephen L. Carter é colunista da Bloomberg Opinion. Ele é professor de Direito na Universidade de Yale e escreveu mais recentemente o livro “Invisible: The Forgotten Story of the Black Woman Lawyer Who Took Down America’s Most Powerful Mobster”.
Veja mais em Bloomberg.com
Leia também
Mercado Livre faz captação inédita de R$ 1 bi no mercado de dívida local
YouTube revela quantas pessoas vivem de criar conteúdo no Brasil
© 2022 Bloomberg L.P.
