IA generativa: compreendendo os riscos e as oportunidades

Aerial image in summertime Finland showing a road with automobiles between a green forest and a turquoise lake.

Aproveitar o progresso tecnológico significa equilibrar potenciais riscos e recompensas. Em termos de tecnologia, 2023 foi o ano da inteligência artificial generativa (IA), com ChatGPT, Bard e DALL-E se tornando nomes conhecidos em uma velocidade e escala de adoção notáveis. Por exemplo, o ChatGPT adquiriu cerca de 57 milhões de usuários ativos mensais em seu primeiro mês; Em comparação, o TikTok levou nove meses para alcançar a mesma base de usuários.

IA generativa levanta novas questões para o gerenciamento de riscos

A IA generativa representa um tipo de inteligência artificial capaz de criar conteúdo novo e verossímil, como texto altamente técnico, áudio e imagens realistas. Algumas estimativas dizem que até 2025, 10% de todos os dados serão o resultado de criações generativas de IA.

Com o aumento da IA generativa, surge uma série de perguntas para os profissionais de riscos e seguros e suas organizações. Quais riscos e oportunidades singulares a IA generativa representa, se houver? Por que há maior atenção em torno da IA generativa, quando outras formas de IA existem há décadas? Quais riscos os segurados, corretores e seguradoras precisarão enfrentar à medida que a IA generativa evolui e interage com outras tecnologias emergentes?

Enquanto as manchetes divulgam os riscos e oportunidades extremos da IA generativa, uma perspectiva equilibrada é fundamental para tomar decisões informadas e gerenciar os riscos com responsabilidade. Para se manterem relevantes e competitivas, as empresas precisarão aprender como e quando aproveitar a IA generativa para atingir objetivos de maneira ideal, como obter eficiências operacionais, aumentar a satisfação do cliente e desenvolver novos produtos e serviços.

As empresas precisarão avaliar estrategicamente como e quando adotar sistemas de IA generativos, fazer parceria com fornecedores, implementar protocolos apropriados de governança e gerenciamento de riscos e treinar funcionários com novas habilidades, como engenharia imediata.

Navegando em riscos novos e familiares

Muitos riscos associados à IA generativa são extensões de riscos familiares existentes, como a privacidade de dados, que é uma preocupação há décadas. O uso indevido da tecnologia para gerar conteúdo nocivo há muito tempo está associado às plataformas de mídia social. A violação potencial dos direitos de propriedade intelectual da geração de conteúdo é um risco familiar com o qual muitas indústrias, desde a música e publicação até o desenvolvimento de software, têm lutado historicamente. Erros tecnológicos existem desde o advento da tecnologia.

Esses riscos podem se tornar mais concentrados ou surgir em novas circunstâncias, à medida que a IA generativa é aplicada a casos de uso crescentes e diversos, mas permanecem extensões de riscos familiares existentes, que geralmente podem ser tratados por acidentes, mídia, cibersegurança, produtos de seguros próprios, entre outros.

No entanto, novos riscos podem surgir da IA generativa de duas maneiras principais:

Capacidades emergentes

Modelos avançados de IA generativa podem desenvolver capacidades emergentes, que são capacidades não originalmente pretendidas ou esperadas pelos criadores do modelo. Por exemplo, um sistema de IA generativo treinado em conjuntos de dados baseados em texto pode desenvolver a capacidade de escrever código, mesmo que não tenha sido explicitamente programado para isso.

Embora os recursos emergentes possam fornecer novos benefícios aos usuários de sistemas de IA generativos, eles também preveem uma falta de previsibilidade. À medida que os sistemas generativos de IA interagem cada vez mais com sistemas complexos feitos pelo homem, como mercados financeiros, ecossistemas de saúde e redes sociais, podemos enfrentar riscos imprevistos, como novos tipos de vulnerabilidades e vetores de ataque.

Convergência tecnológica

A convergência da IA generativa e outras tecnologias emergentes pode dar origem a novos riscos. Por exemplo, a combinação da IA generativa e tecnologias de realidade mista está confundindo ainda mais a linha entre os mundos físico e digital, tornando desafiador, se não impossível, diferenciar entidades e criações artificiais/digitais e humanas/físicas.

A convergência tecnológica também pode trazer novos desafios para os domínios jurídico e regulatório. Por exemplo, como os sistemas generativos de IA produzem cada vez mais resultados críveis e realistas, como seremos capazes de distinguir entre resultados gerados por IA e gerados por humanos e como os direitos de propriedade intelectual correspondentes serão determinados?

À medida que a IA generativa continua se desenvolvendo, seus criadores, provedores de serviços e usuários precisam determinar como e quando usar a tecnologia e antecipar e gerenciar proativamente seus riscos. As empresas devem continuar verificando quaisquer saídas ao usar IA generativa, como acontece com todas as tecnologias. Por exemplo, quando modelos generativos de IA produzem saídas sem sentido e errôneas – popularmente chamadas de “alucinações” – o ônus permanece, como sempre, sobre os usuários humanos para verificar a precisão e a relevância contextual de tais saídas antes de usá-las.

Como o setor de seguros pode ajudar a melhorar a tomada responsável de riscos

À medida que novas categorias de riscos emergem de capacidades em evolução e convergência tecnológica, o setor de seguros deve adotar uma abordagem metódica e cuidadosa para subscrever, precificar e desenvolver produtos tendo em mente o cliente final. A falta de dados históricos de reivindicações e precedentes legais cria a necessidade de desenvolver proxies para informar o desenvolvimento do produto. Também será importante desenvolver ciclos de feedback para monitorar e antecipar os riscos à medida que eles surgem e evoluem.

O setor de seguros desempenhará um papel indispensável na definição de como as empresas equilibram os riscos e recompensas exclusivos da IA generativa. Isso inclui fornecer às empresas análises de cobertura para ajudar a entender quais riscos associados à IA generativa podem ser cobertos por suas apólices de seguro atuais ou onde a cobertura pode ser limitada.

As oportunidades e riscos da IA generativa, embora complexos, estão sob nosso controle. Nossa agência humana para entender e navegar deve estar no centro de todas as discussões sobre o futuro da IA generativa, incluindo como gerenciar seus riscos e se beneficiar de suas oportunidades.

IA generativa: compreendendo os riscos e as oportunidades