Utilização adequada da IA: importa formar colaboradores

Os líderes de ciber-segurança devem saber comunicar com os seus colaboradores e educá-los sobre a utilização apropriada em matéria de inteligência artificial (IA).

Uma iniciativa que deverá envolver ainda os conselhos diretivos e equipas executivas das organizações, ajudando a explicar os riscos e oportunidades da IA e a forma como estão a ser geridos.

Esta é uma das principais conclusões retiradas do estudo “Segurança, proteção, privacidade e instruções: resiliência cibernética na era da IA”, lançado pela NCC Group.

A ascensão da IA e, em particular, das plataformas de IA generativa, está a moldar o panorama da segurança cibernética em todo o mundo. Assim sendo, à medida que empresas e organizações procuram aproveitar o poder da IA para proteger as suas infraestruturas digitais, «surgem desafios significativos e oportunidades sem precedentes», diz a NCC Group.

A IA tem-se estabelecido como uma ferramenta importante na segurança cibernética, impulsionando a capacidade de defesa contra ameaças digitais e aprimorando as táticas de ataque de adversários.

No entanto, também enfrenta ameaças exclusivas e apresenta questões críticas de transparência e ética como a possibilidade de duplo Uso da IA: que pode ser usada tanto para fins defensivos quanto ofensivos, criando um campo de jogo complexo para organizações de segurança cibernética.

Por outro lado, destaque ainda para as ameaças aos sistemas de IA que visam manipular o seu comportamento, extrair dados sensíveis e degradar o seu desempenho e para as questões de privacidade e ética que surgem quando dados pessoais são usados no treinamento da IA, e o viés algorítmico pode perpetuar desigualdades.

«Assegurar a segurança e a proteção das pessoas, dos processos e da tecnologia num mundo aumentado pela IA exige vigilância e um compromisso com estratégias inovadoras que exigirão adaptação contínua. Este documento da NCC Group procura introduzir o tema da reinvenção da cibersegurança pela IA, estabelecendo uma base de compreensão para os principais conceitos, ameaças e oportunidades, de forma a apoiar o pensamento e estratégias nesta emocionante nova era tecnológica», salienta Siân John, chief technology officer da NCC Group.

---