Coluna Álvaro Machado Dias na Folha de São Paulo

Por que algoritmos decisórios falham

Entraves metodológicos estão se tornando cada vez menos críticos, mas questões não técnicas vão ficando pelo caminho.

Por que algoritmos decisórios falham

Algoritmos decisórios estão por toda parte. Em aplicativos de viagens e outros, típicos da economia compartilhada, estipulam preços dinamicamente; nas concessões de crédito, definem os montantes a serem emprestados; nos hospitais, fazem recomendações a partir de projeções sobre tempo de internação e prognóstico. E assim por diante.

As decisões que preconizam podem ocorrer de maneira totalmente automatizada, como no primeiro caso, com automação parcial, aliada a alçadas, como no segundo; ou de maneira manual, a partir dos inputs fornecidos pelo software, como no terceiro. Em todos, o aprendizado de máquina —IA sem interface física— é usado para aumentar a precisão e para reduzir o tempo e o custo dos processos deliberativos.

Os programas inteligentes possuem dois funcionamentos básicos: pingue-pongue com a realidade exterior, como no caso da precificação no Uber e das recomendações automáticas da Netflix, ou estacionário, como era o caso para esta última até há pouco e ainda tende a ser para as análises de crédito, processadas uma só vez, após a checagem de documentos.

Algoritmos decisórios diferem dos que equipam videogames e afins. Ainda que a jogabilidade surja de uma sequência de tomadas de decisão, as deliberações processadas neste contexto tendem a ser menos definitivas para o desfecho da interação do que em sistemas de recomendação de preços e outros, os quais são costumeiramente empacotados em experiências gamificadas, confundindo alguns sobre a sua natureza e propósito. Por outro lado, a sincronização comportamental e o engajamento são mais importantes em apps de jogos.

Esta distinção vem se tornando cada vez menor, sendo provável que IAs multifuncionais, embebidas em plataformas que se transformam pelo uso, acabem por eliminá-la. Isto irá representar a fusão definitiva das experiências lúdicas com as de consumo, das de jogo com as de trabalho e outras mais. No momento, a distinção se mantém e baliza o fato de que algoritmos decisórios são os mais importantes existentes, pois determinam quem vê o quê, consegue um emprego, recebe um diagnóstico e, em alguns casos, é mandado para a prisão ou livrado dela.

Criar IAs é diferente de criar programas tradicionais. A noção de que as instruções sobre como proceder devem ser rigorosamente explicitadas no código-fonte dá lugar a adaptações a novos inputs. Aqui, a principal premissa conceitual é que futuros individuais replicam passados autobiográficos, o que de fato está alinhado a evidências observacionais. Já o quadro constituído é bem menos clarividente, passando batido pela constatação de que esses futurólogos trabalham em cima de teses particulares sobre a geração de inferências e construção da realidade. Como assinalou Cathy O’Neil, “algoritmos são opiniões diluídas em fórmulas”.

 

Para ler para além deste ponto, acesse o artigo em: https://www1.folha.uol.com.br/colunas/alvaro-machado-dias/2023/01/por-que-algoritmos-decisorios-falham.shtml

Veja o artigo original
Formulário de Contato