Uma empresa de tecnologia desenvolveu um sistema de inteligência artificial para auxiliar na triagem de currículos para vagas de emprego. O sistema utiliza algoritmos de aprendizado de máquina para an

Question

Uma empresa de tecnologia desenvolveu um sistema de inteligência artificial para auxiliar na triagem de currículos para vagas de emprego. O sistema utiliza algoritmos de aprendizado de máquina para analisar perfis e recomendar candidatos. Recentemente, foi constatado que o sistema tem consistentemente recomendado mais candidatos do sexo masculino para cargos de liderança, mesmo quando há candidatas femininas com qualificações equivalentes ou superiores. Além disso, em algumas situações, o sistema gerou descrições de tarefas para os candidatos que não correspondiam à realidade da vaga, criando expectativas equivocadas.

Accepted Answer

O cenário apresentado ilustra a ocorrência de viés algorítmico e alucinação. O viés se manifesta na preferência por candidatos masculinos, enquanto a alucinação é caracterizada pela geração de informações incorretas sobre as vagas.

Answer

A principal questão observada é a falta de explicabilidade do modelo, uma vez que não é possível compreender como o sistema chegou às suas recomendações, o que impede a identificação da causa raiz do problema.

Answer

A situação descrita evidencia um problema de segurança da informação, pois a manipulação dos dados de entrada por agentes externos resultou em recomendações tendenciosas, comprometendo a integridade do sistema.

Answer

O problema central reside na privacidade dos dados, pois o sistema, ao analisar currículos, pode estar expondo informações sensíveis dos candidatos sem o devido consentimento, violando a Lei Geral de Proteção de Dados (LGPD).

Answer

A falha do sistema é exclusivamente de alucinação, pois a geração de descrições de tarefas incorretas é o único problema que não pode ser atribuído a um viés nos dados de treinamento.

Questão de TIC - Ciência de Dados