Camisa criada por designer confunde sistemas de IA usados para detectar pessoas
Por Aquiles Lins — Brasil 247
247 – Uma camisa desenvolvida pelo designer alemão Simon Weckert consegue dificultar a identificação de pessoas por determinados sistemas de inteligência artificial usados em câmeras e programas de visão computacional. A peça utiliza uma estampa concebida para alterar a forma como algoritmos interpretam cores, formas e outros elementos presentes na imagem.
Segundo reportagem de O Globo, publicada neste sábado (19), a criação integra o projeto Digital Camouflage, no qual Weckert pesquisa maneiras de explorar vulnerabilidades de tecnologias automatizadas de reconhecimento visual.
Visualmente, a camisa se aproxima de uma estampa havaiana, com cores fortes e desenhos sobrepostos. A disposição desses elementos, porém, foi planejada para interferir nos padrões que determinados programas utilizam para reconhecer a silhueta e outras características associadas a uma pessoa.
Ataque adversarial
O projeto utiliza uma técnica conhecida como ataque adversarial. Nesse tipo de procedimento, imagens ou padrões são alterados de maneira a provocar uma interpretação equivocada por modelos de inteligência artificial, embora a modificação possa parecer irrelevante ou até imperceptível para o olhar humano.
Em uma demonstração, uma câmera equipada com um sistema de código aberto para detecção de objetos reconhece normalmente as pessoas presentes no enquadramento. Ao entrar em cena usando a camisa, porém, o usuário pode deixar de ser classificado pelo programa como uma figura humana.
Isso não significa que a peça torne alguém invisível ou impeça que a pessoa seja filmada. A imagem continua sendo registrada pela câmera. O que pode falhar é a etapa posterior de análise automatizada realizada pelo software.
Tecnologia depende do algoritmo utilizado
O desempenho da camisa varia conforme o sistema de inteligência artificial, a qualidade da imagem, o ângulo da câmera, a iluminação e o modelo empregado na detecção.
Por esse motivo, a peça não representa uma forma universal de escapar de sistemas de vigilância. Uma plataforma diferente pode interpretar a mesma estampa normalmente e reconhecer a pessoa sem dificuldade.
A experiência chama atenção para uma fragilidade estudada há anos no campo da inteligência artificial: modelos de visão computacional podem atribuir significados diferentes dos percebidos por seres humanos quando expostos a determinados padrões visuais.
Projeto discute relação entre humanos e máquinas
O Digital Camouflage integra uma investigação mais ampla de Simon Weckert sobre a relação entre indivíduos e tecnologias de análise automatizada de imagens.
Em vez de esconder fisicamente quem utiliza a roupa, o projeto explora os critérios empregados pelos algoritmos para distinguir pessoas, objetos e cenários. A proposta evidencia que sistemas considerados capazes de “enxergar” o ambiente dependem de modelos estatísticos e podem ser induzidos ao erro por determinadas combinações de formas e cores.
A camisa funciona, portanto, menos como um dispositivo de invisibilidade e mais como uma demonstração das limitações dos sistemas atuais de reconhecimento visual baseados em inteligência artificial.
Fonte: Brasil 247
