Quase 25% dos chefes de segurança cibernética (CISOs) afirmaram que as empresas em que trabalham sofreram um ataque impulsionado por inteligência artificial no ano passado, de acordo com uma nova pesquisa que aponta o risco relacionado à IA como o principal desafio da área.
O número de ataques com uso de IA provavelmente está subestimado porque muitas vezes são difíceis de diferenciar de ações lideradas por humanos, de acordo com um relatório do fundo de capital de risco Team8, com sede em Tel Aviv.
O fundo se concentra em segurança cibernética, IA, dados, fintech e saúde digital. Para a pesquisa, a empresa entrevistou cerca de 110 diretores de segurança da informação (CISO), que expressaram tanto o medo do uso malicioso da IA quanto a esperança de que ela possa ser usada também para melhorar as defesas cibernéticas.
“Já vimos o impacto de ataques impulsionados por IA, especialmente campanhas sofisticadas de phishing (armadilhas digitais) e deepfake (imagens manipuladas) que são incrivelmente convincentes e difíceis de detectar”, afirmou Mandy Andress, CISO da Elastic, empresa de tecnologia da informação e análise de dados, em um comunicado que incluía a pesquisa do Team8.
“Está claro que estamos nos estágios iniciais de uma corrida armamentista em IA e, neste momento, os invasores agiram primeiro e estão em vantagem”, diz outra parte do texto.
Os exemplos mais visíveis de ataques com IA incluem deepfakes, clonagem de voz e táticas de personificação em tempo real para explorar a confiança humana, afirma o relatório. A IA também pode ser usada para aumentar e acelerar ataques e pode em breve evoluir para armas autônomas capazes de agir sem intervenção humana, segundo o Team8.
— Eles podem explorar vulnerabilidades em escala de forma automatizada — diz Noa Hen, diretora de estratégia do Team8. — Eles podem usar IA para escrever malware (software malicioso) muito mais rapidamente.
Agentes de IA vulneráveis
Quase 40% dos diretores de segurança da informação citaram a proteção dos chamados agentes de IA que realizam tarefas para usuários como um desafio não resolvido de segurança cibernética.
O relatório observou que eles podem ser enganados por invasores ou tomar medidas equivocadas. Quase o mesmo número de CISOs disse estar preocupado com a segurança do uso de IA entre os funcionários.
“Isso ocorre porque pouquíssimas organizações fazem isso de forma correta”, de acordo com o Team8. Os CISOs hoje enfrentam um dilema em que todos perdem: “ou restringem o acesso e sufocam a inovação, ou permitem o uso sem controles e assumem riscos não gerenciados.”
‘Velocidade e escala’
Em termos do uso de IA para reforçar as defesas cibernéticas, 77% dos CISOs esperam que os primeiros casos em que agentes autônomos de IA substituam a mão de obra humana sejam analistas menos experientes em centros de operações de segurança, de acordo com a pesquisa. Esses centros detectam e respondem a incidentes de segurança em organizações.
“A IA, em sua essência, tem tudo a ver com velocidade e escala”, disse Mike Rogers, ex-almirante que liderou a Agência de Segurança Nacional e o Comando Cibernético dos EUA e que agora é sócio operacional do Team8. “Ela ajuda o invasor nessa perspectiva, mas é disso que precisamos para ajudar o defensor.”
Os CISOs citados também refletem problemas recorrentes, como vulnerabilidades em sistemas computacionais.
Mais de 40% dos entrevistados indicaram que mais de 40% das vulnerabilidades “críticas” persistiram após o prazo para resolução, de acordo com o relatório.
O motivo para essas falhas não corrigidas, segundo a maioria dos entrevistados, era a falta de pessoal ou de tempo. Alguns líderes de segurança cibernética indicaram que as correções estavam indisponíveis ou que a desativação de sistemas para corrigi-las poderia atrasar as operações das empresas.
Sua empresa está segura?
Nosso portfólio de serviços proporciona à sua empresa a segurança de contar com uma equipe completa, experiente e altamente qualificada para cuidar das informações do seu negócio. O atendimento é personalizado e prestado por profissionais que procuram conhecer profundamente o seu negócio, dando suporte ao seu crescimento.
- Relação transparente na contratação de serviços, que lhe permitirá acompanhar e avaliar o andamento e os resultados dos trabalhos realizados;
- Tranquilidade de saber que seu ambiente de segurança e infraestrutura de TI está em mãos competentes, deixando você livre para se concentrar no seu core business;
- Consultoria contínua, atualizando constantemente sua equipe sobre as novas ameaças e tipos de ataques. Além das principais metodologias e soluções inovadores, para manter seu ambiente seguro e melhorar o desempenho do seu negócio;
- Orientá-los sobre as melhores práticas do mercado, auxiliando o Gestor de TI no planejamento estratégico de segurança de informação e no processo de tomada de decisão.
Fonte: O Globo
