Um recente estudo conduzido pela ISACA (Associação de Auditoria e Controle de Sistemas de Informação), uma entidade internacional que promove o desenvolvimento de metodologias e certificações relacionadas à auditoria e controle de sistemas de informação, revela desafios significativos que as empresas estão enfrentando no contexto da inteligência artificial (IA) generativa. Profissionais globais especializados em confiança digital, incluindo áreas como segurança cibernética, auditoria de TI, governança, privacidade e gerenciamento de riscos, foram envolvidos na pesquisa.
Os resultados indicam uma lacuna evidente na clareza e no controle sobre a implementação e propósito da IA generativa dentro das organizações, apesar de sua disseminação generalizada. Surpreendentemente, apenas 28% das empresas afirmam permitir expressamente o uso da IA generativa, e somente 10% possuem políticas formais relacionadas ao seu emprego.
Principais conclusões da pesquisa
A pesquisa destaca que muitos funcionários estão utilizando a IA generativa mesmo na ausência de políticas claras para regulamentar seu uso. Apenas 10% das organizações relataram possuir uma política formal em vigor, enquanto mais de 25% afirmaram não ter qualquer política ou plano de implementação.
Dentre os colaboradores que fazem uso da IA generativa, a maioria a utiliza para criar conteúdo escrito (65%), aumentar a produtividade (44%), automatizar tarefas repetitivas (32%), fornecer atendimento ao cliente (29%) e aprimorar a tomada de decisões (27%).
Ações em andamento
Entretanto, a pesquisa ressalta a falta de treinamento em IA nas organizações. Apenas 6% das empresas estão fornecendo treinamento abrangente em IA para todos os funcionários, sendo que a maioria (54%) não oferece treinamento mesmo para equipes diretamente impactadas por essa tecnologia. Ademais, apenas 25% dos entrevistados afirmaram ter um “alto grau de familiaridade com a IA generativa”.
Preocupações éticas e riscos associados à IA também foram abordados na pesquisa. Cerca de 41% dos entrevistados acreditam que não está sendo dada atenção suficiente aos padrões éticos relacionados à implementação da IA. Menos de um terço das organizações considera o gerenciamento de riscos de IA como uma prioridade imediata.
Adicionalmente, a pesquisa revelou que mais de 57% dos entrevistados estão muito ou extremamente preocupados com a possibilidade de a IA generativa ser explorada por cibercriminosos. A maioria (69%) acredita que os operadores de ameaças estão utilizando a IA com tanto ou mais sucesso do que os profissionais de confiança digital.
Em resumo, a pesquisa destaca a urgência de as empresas estabelecerem políticas claras, oferecerem treinamento em IA e considerarem os aspectos éticos e de segurança relacionados ao uso da IA generativa em suas organizações. A ausência de regulamentação e controle pode resultar em riscos significativos e potenciais violações de segurança.
Para John De Santis, presidente do conselho da ISACA, é crucial que os líderes estejam atualizados sobre os benefícios e riscos da tecnologia, capacitando suas equipes com o conhecimento necessário para garantir uma governança adequada.
1. Implementação de Políticas Claras:
É imperativo que as empresas adotem políticas claras para a utilização da IA generativa. Estas políticas devem abranger desde a autorização explícita do uso até a definição de limites éticos e práticos. Além disso, a conscientização e a adesão dos funcionários a essas políticas devem ser promovidas por meio de programas de treinamento regulares.
2. Treinamento Abrangente em IA:
O investimento em programas de treinamento extensivos em IA é crucial para preencher a lacuna identificada na pesquisa. As organizações devem dedicar recursos para capacitar todos os funcionários, desde os níveis operacionais até a alta administração, garantindo que compreendam os usos, riscos e benefícios associados à IA generativa.
3. Desenvolvimento de Padrões Éticos:
A falta de atenção aos padrões éticos é uma preocupação destacada no estudo. Assim, é fundamental que as empresas desenvolvam e apliquem padrões éticos rigorosos relacionados à implementação da IA generativa. Isso inclui a consideração de questões como viés algorítmico, privacidade e impacto social.
4. Priorização do Gerenciamento de Riscos:
O gerenciamento de riscos associados à IA deve ser elevado à posição de prioridade nas agendas corporativas. As organizações devem implementar estratégias específicas para identificar, avaliar e mitigar os riscos potenciais, garantindo assim a segurança dos dados e o cumprimento de regulamentações.
5. Incentivo à Inovação Responsável:
Promover a inovação responsável é essencial. As empresas devem encorajar práticas inovadoras que alinhem o progresso tecnológico com responsabilidade social e ética. Isso implica em estabelecer um ambiente que valorize a busca por soluções inovadoras, mas sempre dentro de parâmetros éticos estabelecidos.
6. Colaboração entre Setores:
Dada a natureza transversal da IA generativa, a colaboração entre diferentes setores, incluindo governos, organizações não governamentais e setor privado, é crucial. Essa colaboração pode resultar na criação de diretrizes comuns e melhores práticas para a implementação segura da IA.
7. Monitoramento Contínuo:
A implementação de sistemas de monitoramento contínuo é essencial para garantir que as políticas estabelecidas estão sendo seguidas e para identificar rapidamente quaisquer desvios. A adaptação constante das políticas com base na evolução da tecnologia e nas experiências práticas é fundamental.
8. Transparência com a Implementação:
As empresas devem adotar uma abordagem transparente em relação à implementação da IA generativa. Isso envolve a comunicação clara com os stakeholders sobre como a tecnologia está sendo usada, os benefícios que oferece e as medidas de segurança implementadas para proteger contra potenciais abusos.
9. Pesquisa e Desenvolvimento Contínuos:
Investir em pesquisa e desenvolvimento contínuos é essencial para manter a vanguarda na compreensão e gestão dos desafios da IA generativa. Isso inclui estar atualizado sobre as últimas tendências, desenvolvimentos éticos e avanços tecnológicos para garantir uma abordagem proativa na incorporação da IA nas operações empresariais.
Essas medidas cumulativas visam criar um ambiente empresarial que aproveite os benefícios da IA generativa de forma ética, segura e alinhada com as melhores práticas globais.
Em conclusão, a abordagem da “Infiltração Silenciosa” da IA Generativa demanda uma resposta urgente e abrangente por parte das empresas. Diante dos desafios identificados no estudo conduzido pela ISACA, fica evidente que a implementação desenfreada e muitas vezes desregulamentada da IA generativa pode resultar em riscos significativos para a segurança, ética e integridade das organizações.
A necessidade premente de estabelecer políticas claras, promover o treinamento em IA, desenvolver padrões éticos robustos e priorizar o gerenciamento de riscos não pode ser subestimada. Essas medidas não apenas fortalecem a postura defensiva das empresas contra ameaças potenciais, mas também contribuem para a construção de uma cultura organizacional que valoriza a inovação responsável e a integridade.
Além disso, a colaboração entre setores, a transparência na implementação e o monitoramento contínuo são pilares essenciais para garantir a conformidade com as regulamentações emergentes e a evolução dinâmica da tecnologia. A busca pela excelência em pesquisa e desenvolvimento também assegura que as empresas estejam preparadas para lidar com os desafios em constante evolução apresentados pela IA generativa.
Os líderes empresariais desempenham um papel crucial nesse cenário, sendo essencial que estejam atualizados sobre os benefícios e riscos da tecnologia. Capacitar as equipes com o conhecimento necessário para uma governança adequada não apenas fortalece a posição competitiva das organizações, mas também contribui para a construção de uma sociedade digital mais ética e segura.
Em última análise, a integração responsável da IA generativa não é apenas uma questão técnica, mas uma imperativa moral e estratégica. Ao adotar uma abordagem ética e holística, as empresas não apenas mitigam riscos, mas também garantem que a inovação tecnológica seja um catalisador para um futuro sustentável e equitativo.
Siga essa e mais notícias sobre tecnologia clicando em nossa página do Instagram e Facebook. Teremos o prazer em ajudá-los!
Você também pode gostar:
Novo Serviço AWS Oferece Aluguel de GPUs Nvidia para Projetos de Curto Prazo
Amazon Inova com IA Conversacional Voltada para Crianças no “Explore with Alexa”
Truecaller: O Aplicativo Que Transforma Como Você Vê e Atende Chamadas
Os usuários agora podem enviar suas músicas para TikTok Music e CapCut
