As empresas estão diante de um enorme desafio ao mensurar e gerenciar os riscos associados à inteligência artificial (IA), uma tecnologia cada vez mais central nos negócios. A dificuldade reside em se manter atualizado com as constantes inovações dos fornecedores, exigindo um acompanhamento rigoroso dos contratos para mitigar possíveis riscos. Equipes especializadas são essenciais para a gestão desses riscos, principalmente diante da inserção de componentes de IA em plataformas já existentes.
Com a introdução de novidades pela OpenAI e outros provedores, as organizações se veem obrigadas a estender seus programas de gerenciamento ou reavaliar o uso de tais tecnologias. O cenário é complexificado pelo fato de que a IA pode ser usada para elaborar ataques cibernéticos sofisticados, como e-mails maliciosos e comprometimento do email empresarial (BEC), tornando-se um desafio quantificar esses riscos em termos monetários.
Além disso, regulamentos como o General Data Protection Regulation (GDPR) da Europa impõem que os fornecedores revelem o uso de subprocessadores, oferecendo uma camada adicional de segurança. Mudanças nas políticas de privacidade podem indicar o desenvolvimento interno de novas funcionalidades em IA, sinalizando possíveis riscos.
Empresas como ABBYY estão colaborando com provedores especializados em face das ameaças baseadas na tecnologia GenAI. É recomendado que outras companhias realizem uma avaliação das suas proteções contra novas ameaças, adotando medidas preventivas como proteção dos pontos finais e autenticação multifator. Especialistas sugerem a atualização de protocolos de segurança e planos estratégicos para responder a incidentes decorrentes do uso criminoso da IA.
O aumento no volume de ataques via phishing impulsionados por IA generativa é alarmante. Um levantamento realizado com CEOs pela PwC revela uma preocupação crescente com o risco cibernético nos próximos meses, incluindo a propagação acelerada de informações falsas influenciadas pela IA genérica, potencialmente danosas à reputação corporativa.
Embora uma pesquisa da Riskonnect mostre que 93% das companhias reconhecem a significância das ameaças ligadas à IA generativa, poucas estão preparadas para enfrentá-las. Estabelecer diretrizes abrangentes é fundamental para fomentar confiança junto aos clientes e stakeholders. Na tentativa de compreender melhor essas ameaças emergentes, ferramentas como “The AI Attack Surface Map”, lançado por Daniel Miessler em 2023, são fundamentais enquanto organizações globais criam forças-tarefa para combater estas novas formas disruptivas induzidas pelo avanço da IA.
Comentário do Bob (Nossa inteligência Artificial):
– Empresas estão subestimando os riscos associados à IA generativa.
– Medidas preventivas e atualização de protocolos de segurança são essenciais para combater ameaças cibernéticas.
A incorporação de inteligência artificial nos negócios é um fenômeno irreversível e traz consigo um universo complexo de riscos que não podem ser ignorados. O gerenciamento desses riscos deve ser uma prioridade, já que a capacidade de mitigá-los está diretamente ligada à sobrevivência e credibilidade das empresas no mercado. A complacência não é uma opção; equipes especializadas devem estar alertas e constantemente atualizadas sobre as mudanças nos serviços de IA e suas implicações.
A realidade é que muitas organizações estão despreparadas para enfrentar os perigos da IA, especialmente no que tange ao uso malicioso da tecnologia por criminosos virtuais. As medidas preventivas básicas, como autenticação multifator e treinamento contra phishing, são apenas o começo. A atualização dos protocolos de segurança e a criação de estratégias proativas são passos indispensáveis para proteger os ativos digitais das empresas contra os sofisticados ataques impulsionados pela IA generativa. Ignorar essa realidade não somente aumenta a vulnerabilidade das empresas como também coloca em jogo a confiança depositada por clientes e stakeholders.
| Aspecto | Detalhe | Implicações |
|---|---|---|
| Gestão de Riscos de IA | Empresas enfrentam desafios ao incorporar IA | Necessidade de atualização constante e monitoramento de contratos |
| Regulamentações | GDPR exige transparência no uso de subprocessadores | Segurança adicional e sinais de novas funcionalidades em IA |
| Riscos Cibernéticos | IA generativa usada em e-mails maliciosos e ataques BEC | Dificuldade em identificação e necessidade de quantificação monetária dos riscos |
| Medidas Preventivas | Proteção de pontos finais, autenticação multifator, etc. | Proteção contra ameaças de IA na segurança cibernética |
| Resposta a Incidentes | Atualização de protocolos e planos estratégicos | Preparação para novos métodos de ataque via IA |
| Percepção Corporativa | 93% das empresas reconhecem ameaças significativas de IA generativa | Poucas estão preparadas para enfrentar essas ameaças |
| Confiabilidade e Reputação | Importância de diretrizes abrangentes para confiança dos stakeholders | Consequências duradouras nos negócios após perda de confiança |
| Combate às Ameaças de IA | Criação de forças-tarefa e ferramentas como “The AI Attack Surface Map” | Compreensão e combate a ameaças emergentes de IA |
Com informações do site CSO Online.