Uma empresa de tecnologia desenvolveu um sistema de inteligência artificial utilizado por instituições financeiras para análise automatizada de crédito. O algoritmo, treinado com dados históricos de c

Question

Uma empresa de tecnologia desenvolveu um sistema de inteligência artificial utilizado por instituições financeiras para análise automatizada de crédito. O algoritmo, treinado com dados históricos de concessão de crédito, passou a reprovar sistematicamente solicitantes de determinadas regiões geográficas, sem que os gestores responsáveis conseguissem explicar os critérios exatos utilizados pelo modelo para chegar a essa decisão. Diante desse cenário, assinale a alternativa que NÃO corresponde a um princípio ou prática reconhecida no âmbito da governança e ética em inteligência artificial:

Accepted Answer

A responsabilidade pelo impacto discriminatório do sistema recai exclusivamente sobre os cientistas de dados que realizaram o treinamento do modelo, eximindo a instituição financeira que o adotou de qualquer obrigação de prestação de contas perante os indivíduos afetados.

Answer

O princípio da transparência em IA preconiza que os critérios e o funcionamento dos sistemas automatizados de tomada de decisão devem ser compreensíveis e auditáveis, permitindo que partes interessadas avaliem a adequação e a justiça dos resultados produzidos.

Answer

Frameworks internacionais de governança em IA, como os Princípios da OCDE para IA e as diretrizes da UNESCO, reconhecem que sistemas de IA devem ser projetados e operados de forma a respeitar direitos humanos, evitar discriminações injustas e garantir mecanismos de responsabilização (accountability).

Answer

A reprodução de padrões discriminatórios presentes nos dados históricos de treinamento é denominada viés algorítmico, e sua mitigação exige auditorias periódicas do modelo, análise crítica dos dados de entrada e adoção de técnicas de IA responsável.

Answer

A opacidade do modelo descrita no cenário caracteriza o problema conhecido como 'caixa-preta' (black box), que compromete o princípio da explicabilidade e dificulta a identificação e correção de vieses algorítmicos.

Questão de TIC - Ciência de Dados