A inteligência artificial entrou nas empresas antes que muitas delas tivessem tempo para decidir exatamente o que fariam com ela. Agentes ganharam acesso a documentos, planilhas, e-mails e sistemas internos, prometendo automatizar tarefas e aumentar a produtividade. O problema é que abrir essas portas também significa permitir que algoritmos encontrem informações que talvez nunca devessem enxergar. Um levantamento apresentado recentemente revela uma distância enorme entre adotar IA e estar preparado para controlá-la.
Quase todo mundo entrou na corrida, mas poucos sabem como correr
A adoção de inteligência artificial no ambiente corporativo já deixou de ser experimental para muitas organizações. Segundo um estudo da Veeam, 88% das empresas já utilizam ou estão testando agentes de IA.
O número impressiona. Mas o dado seguinte muda completamente a interpretação: somente 7% das organizações se consideram realmente preparadas para utilizar essa tecnologia.
Em outras palavras, mais de nove em cada dez estão experimentando uma transformação para a qual admitem não possuir preparação suficiente.
O assunto ganhou destaque durante o VeeamOn Tour 26, realizado em Buenos Aires diante de mais de 500 participantes. A discussão mostrou que o problema não está necessariamente na falta de interesse ou de ferramentas.
As empresas querem inteligência artificial. A dificuldade é saber exatamente onde colocá-la.
Muitas organizações começaram projetos pressionadas pela velocidade do mercado e pelo receio de ficar para trás. Porém, quando não existe uma finalidade claramente definida ou uma estratégia adequada para administrar as informações internas, parte dessas iniciativas acaba interrompida antes de alcançar resultados concretos.
E existe uma razão particularmente delicada para isso: a IA pode descobrir muito mais sobre uma empresa do que seus próprios funcionários imaginam.
Perguntar quanto ganha o chefe revela um problema muito maior
Imagine que uma companhia instale um agente de inteligência artificial para ajudar seus funcionários a encontrar documentos ou responder perguntas internas.
Se ninguém definir corretamente quais arquivos essa ferramenta pode consultar, ela poderá encontrar uma planilha contendo salários, documentos pessoais, e-mails privados ou até registros médicos.
E então basta alguém perguntar.
Um executivo da Veeam relatou ao Clarín uma situação curiosa observada em algumas empresas: uma das primeiras perguntas feitas por funcionários às novas ferramentas internas costuma ser quanto ganha determinado gerente. Em alguns casos, a IA encontra a informação e responde corretamente.
A história parece engraçada até percebermos o que ela significa.
O algoritmo não “roubou” necessariamente a informação. A empresa simplesmente permitiu que ele acessasse arquivos sem estabelecer corretamente as fronteiras entre aquilo que poderia ou não ser utilizado.
O levantamento mostra a dimensão dessa dificuldade: 95% das organizações afirmam que problemas relacionados aos dados já prejudicaram seus avanços com inteligência artificial.
Planilhas, anexos, mensagens e documentos acumulados durante anos podem formar um gigantesco território digital sem classificação adequada.
E aproximadamente 90% dos dados corporativos são não estruturados, segundo Andrés de Beitia, diretor sênior de Inside Sales da Veeam. São justamente arquivos, e-mails e outros conteúdos que circulam diariamente sem necessariamente carregar uma indicação clara sobre seu nível de sensibilidade.
O maior desafio da IA pode não estar na própria IA
Esse cenário está mudando a maneira como especialistas enxergam a segurança corporativa.
Antes de entregar documentos a um agente, uma organização precisa saber quais informações possui, onde elas estão armazenadas, quem pode acessá-las e quais aplicações ou agentes têm autorização para utilizá-las.
Também precisa estar preparada para recuperar esses dados quando alguma coisa dá errado.
Isso vale para ataques de ransomware e falhas técnicas, mas agora inclui também erros humanos, ameaças internas e comportamentos inesperados de sistemas de inteligência artificial.
O problema cresce conforme as empresas adotam ambientes híbridos e multicloud. Informações podem estar espalhadas entre servidores próprios, serviços em nuvem, aplicativos corporativos e inúmeros dispositivos.
A IA conecta partes desse universo e consegue encontrar relações que antes exigiriam horas de pesquisa humana.
Essa capacidade é justamente seu grande poder.
Mas também é seu risco.
Por isso, conceitos como governança, privacidade, cibersegurança e resiliência de dados começam a ocupar o centro das estratégias corporativas de IA. A questão deixou de ser simplesmente descobrir qual modelo consegue produzir a melhor resposta.
Agora também é necessário saber quais informações ele jamais deveria encontrar.
Uma aquisição de US$ 1,7 bilhão mostra quanto esse problema vale
A dimensão desse novo mercado pode ser medida em dinheiro.
A Veeam adquiriu a Securiti AI, empresa californiana especializada em inteligência artificial, privacidade e cibersegurança, em uma operação superior a US$ 1,7 bilhão.
A estratégia permitiu incorporar ferramentas voltadas à administração centralizada de dados e IA, com o objetivo de ajudar organizações a entender onde estão suas informações, estabelecer políticas e controlar como modelos podem utilizá-las.
O movimento mostra uma mudança importante na indústria.
A primeira fase da corrida corporativa pela IA esteve concentrada em colocar a tecnologia para funcionar. A próxima poderá ser dominada por uma pergunta bem menos empolgante, mas fundamental: como impedir que ela acesse aquilo que não deveria?
A urgência é compreensível. Empresas observam concorrentes automatizando processos e temem perder produtividade, eficiência ou oportunidades caso avancem lentamente.
Mas instalar um agente sem organizar os dados pode transformar uma ferramenta criada para aumentar a eficiência em uma nova porta para informações confidenciais.
A inteligência artificial corporativa chegou rápido demais para que muitas empresas reorganizassem décadas de arquivos acumulados.
Agora, elas começam a descobrir que o desafio mais difícil talvez não seja ensinar a IA a encontrar respostas, mas ensiná-la a reconhecer quais respostas nunca deveria fornecer.
[Fonte: Clarin]
