Estudo da McKinsey diz que poucas empresas estão estruturadas e capacitadas para o uso generalizado da IA generativa ou para os riscos comerciais que essas ferramentas podem trazer ao negócio
A última pesquisa global anual da McKinsey sobre o estado atual da IA mostra um crescimento explosivo dos sistemas de IA generativa (gen AI), menos de um ano após o lançamento de muitas desses ferramentas. O levantamento aponta ainda que 40% dos entrevistados afirmam que as suas organizações aumentarão o investimento em inteligência artificial em geral devido aos avanços da IA generativa.
Apesar desse avanço, o estudo observa que poucas empresas parecem estar preparadas e capacitadas para o uso generalizado da IA generativa ou para os riscos comerciais que essas ferramentas podem trazer ao negócio. Apenas 21% dos entrevistados cujas empresas adotaram a inteligência artificial afirmam que elas estabeleceram políticas que regem o uso de tecnologias de IA generativa pelos funcionários em seu trabalho diário. Além disso, quando perguntados especificamente sobre os riscos da adoção da IA generativa, poucos entrevistados disseram que suas empresas estão mitigando o perigo mais comumente citado com o uso da IA generativa: a imprecisão.
Os entrevistados citam a imprecisão com mais frequência do que a segurança cibernética e a conformidade regulatória, que foram os riscos mais comuns da IA em geral apontados em pesquisas anteriores. Apenas 32% dizem que estão mitigando a imprecisão, enquanto uma percentagem menor do que 38% diz que estão minimizando os riscos de segurança cibernética. Curiosamente, este número é significativamente inferior à percentagem de entrevistados que relataram a mitigação da segurança cibernética relacionada à IA no ano passado (51%). No geral, tal como nos anos anteriores, a maioria dos entrevistados afirma que as suas organizações não estão abordando os riscos relacionados à IA.
Riscos relacionados à IA generativa
Imprecisão, segurança cibernética e violação de propriedade intelectual são os riscos mais citados da adoção de IA generativa
Riscos relacionados à IA generativa que as organizações consideram relevantes e estão trabalhando para mitigar, % de entrevistados1
1 = Questionados apenas os entrevistados cujas organizações adotaram a IA em pelo menos uma função, tanto para os riscos considerados relevantes como para os riscos mitigados, n = 913.
Fonte: McKinsey & Company
“Existe uma ampla consciência sobre os riscos associados à IA generativa. Mas, ao mesmo tempo, a ansiedade e o medo predominantes tornam difícil para os líderes enfrentar eficazmente os riscos. Como mostra a nossa última pesquisa, pouco mais de 20% das empresas possuem políticas de risco em vigor para IA generativa”, observa Alexandre Sukharevsky, sócio sênior e líder global do QuantumBlack Labs, centro de inovação em IA e aprendizado de máquina da McKinsey.
O analisas ressalta que as políticas [de risco] tendem a se concentrar na proteção das informações da empresa, como dados, conhecimento e outras propriedades intelectuais. “Estes são críticos, mas descobrimos que muitos desses riscos podem ser abordados através de alterações na arquitetura tecnológica da empresa que reflitam as políticas estabelecidas,”
A verdadeira armadilha, porém, segundo Sukharevsky, é que as empresas olham para o risco de forma demasiado restrita. “Existe uma gama significativa de riscos — sociais, humanitários, de sustentabilidade — aos quais as empresas também precisam de prestar atenção. Na verdade, é mais provável que as consequências não intencionais da IA generativa criem problemas para o mundo, mas menores do que os cenários apocalípticos que algumas pessoas defendem.”
Ainda de acordo com Sukharevsky, as empresas que têm uma abordagem da IA generativa de forma mais construtiva estão implementando um processo estruturado para identificar e abordar riscos mais amplos. “Elas estão contratando usuários beta e equipes específicas que pensam em como os aplicativos de IA generativa podem sair dos trilhos para melhor antecipar algumas dessas consequências. Elas também estão trabalhando com as melhores e mais criativas pessoas do ramo para definir os melhores resultados, tanto para a organização quanto para a sociedade em geral”, explica.
Segundo o analista do QuantumBlack Labs, ser deliberado, estruturado e holístico na compreensão da natureza dos novos riscos — e oportunidades — emergentes é crucial para o crescimento responsável e produtivo da IA generativa.
Fonte:
https://www.cisoadvisor.com.br/empresas-estao-despreparadas-para-os-riscos-da-ia-generativa/
