Partilhe nas Redes Sociais

IBM lança ferramenta para detetar preconceitos na inteligência artificial

Publicado em 24 Setembro 2018 por Ana Rita Guerra | 212 Visualizações

Sage inteligência artificial

Se a decisão sobre um empréstimo bancário passa a ser feita por um sistema inteligente e um algoritmo pré-seleciona candidatos a uma vaga de emprego, até que ponto se pode confiar na sua imparcialidade? É um debate que se tem intensificado em Silicon Valley e que agora produziu resultados com uma nova ferramenta de software da IBM para que os clientes verifiquem os elementos que compõem os seus modelos de inteligência artificial. Propósito: mitigar os preconceitos que possam ter sido embebidos na sua programação.

O serviço está disponível na nuvem (IBM Cloud) e dá visibilidade aos parâmetros que a IA usa para chegar às recomendações, detetando automaticamente preconceitos no momento em que os sistemas estão em execução. A IBM quer encorajar a adoção de projetos de inteligência artificial e também vai disponibilizar ferramentas à comunidade open source, para incentivar a colaboração global nesta área dos preconceitos.

«A IBM liderou o sector ao estabelecer princípios de transparência para o desenvolvimento de novas tecnologias de IA», afirmou Beth Smith, diretor geral de Watson AI na IBM. «É hora de traduzir princípios em prática. Estamos a dar nova transparência e controlo às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta.»

O serviço funciona com modelos construídos a partir de várias estruturas de machine learning e ambientes construídos com inteligência artificial, como Watson,Tensorflow,SparkML,AWSSageMaker e AzureML. Ou seja, as organizações podem usar estes “controlos” na maioria dos códigos de IA. O software pode ser programado para monitorizar os fatores de decisão de qualquer workflow de negócio e pode ser personalizado para o uso específico das organizações.

Um ponto importante é que o sistema recomenda automaticamente que dados devem ser adicionados ao modelo para ajudar a atenuar os preconceitos detetados. Paralelamente, a IBM vai disponibilizar serviços de consultoria para ajudar as empresas a projetar sistemas de inteligência artificial com mínimo impacto de preconceitos na tomada de decisões.


Publicado em:

Atualidade

Partilhe nas Redes Sociais

Artigos Relacionados