Os especialistas da Gartner respondem às principais perguntas sobre IA generativa para a sua empresa

A IA generativa (GenAI) pode aprender com artefatos existentes para gerar artefatos novos e realistas (em escala) que reflitam as características dos dados de treinamento, porém sem os repetir. Ela pode produzir uma variedade de conteúdos novos, como imagens, vídeos, músicas, discursos, textos, códigos de computação e designs de produtos.  

A IA generativa utiliza diferentes técnicas que continuam evoluindo. Em primeiro lugar estão os modelos de base de IA, que são treinados em um amplo conjunto de dados não rotulados e que podem ser usados para diferentes tarefas, com ajustes adicionais. A criação desses modelos treinados exige matemática complexa e enorme poder computacional, mas eles são, basicamente, algoritmos de previsão. 

Hoje, a IA generativa geralmente cria conteúdo em resposta a solicitações de linguagem natural. Ela não requer conhecimento ou inserção de código, mas os casos de uso corporativos são numerosos e incluem inovações no design de medicamentos e chips, além do desenvolvimento da ciência dos materiais. (Veja também “Quais são alguns usos práticos da IA generativa?”)

A Gartner acompanha a IA generativa em seu Hype Cycle™ para a inteligência artificial desde 2020 e a tecnologia passou da fase “Gatilho de inovação” para “Auge das expectativas infladas”. Além disso, a GenAI estava entre as nossas principais tendências estratégicas de tecnologia para 2022. No entanto, a IA generativa só chegou às manchetes no final de 2022 com o lançamento do ChatGPT, um chatbot capaz de interações muito parecidas com as de um humano.

O ChatGPT, lançado pela OpenAI, alcançou popularidade muito rapidamente e chamou a atenção do público. (A ferramenta DALL·E 2 da OpenAI gera imagens de forma similar a partir de texto em uma inovação de IA generativa relacionada.)

A Gartner acredita que a IA generativa será uma tecnologia de uso geral com impacto semelhante de inovações como máquina a vapor, eletricidade e internet. A realidade da implementação deve abrandar o entusiasmo, mas o impacto da IA generativa aumentará à medida que pessoas e empresas forem descobrindo aplicações mais inovadoras para a tecnologia no trabalho e na vida diária.

Os modelos de base, incluindo transformadores generativos pré-treinados (que impulsionam o ChatGPT), estão entre as inovações da arquitetura de IA que podem ser usadas para automatizar, melhorar os humanos ou as máquinas e executar processos de negócios e de TI de forma autônoma. 

Os benefícios da GenAI incluem desenvolvimento mais rápido de produtos, experiência do cliente aprimorada e maior produtividade dos colaboradores, mas as especificidades dependem do caso de uso. Os usuários finais devem ser realistas quanto ao valor que pretendem alcançar, especialmente quando utilizam um serviço “como está”, ou seja, com grandes limitações.

A IA generativa cria artefatos que podem ser imprecisos ou tendenciosos, tornando a validação humana essencial e potencialmente limitando o tempo real de economiza para os trabalhadores. A Gartner recomenda conectar casos de uso a indicadores-chave de desempenho (KPIs) para garantir que os projetos melhorem a eficiência operacional, criem novas receitas líquidas ou aprimorem experiências.

Em uma recente pesquisa em um webinar da Gartner com mais de 2.500 executivos, 38% indicaram que a experiência e a retenção do cliente são o principal objetivo de seus investimentos em IA generativa. As expectativas seguintes foram crescimento das receitas (26%), otimização de custos (17%) e continuidade das operações (7%).

Os riscos associados à GenAI são significativos e estão sempre evoluindo. Diversos criminosos já usaram a tecnologia para criar “deepfakes” ou cópias de produtos e para gerar artefatos para suporte a golpes cada vez mais complexos.

O ChatGPT e outras ferramentas semelhantes são treinados com base em grandes quantidades de dados disponíveis publicamente. Nenhuma dessas ferramentas foi projetada para agir em conformidade com o Regulamento Geral de Proteção de Dados (GDPR) e outras leis de direitos autorais, portanto, é fundamental prestar muita atenção ao uso das plataformas pelas empresas. 

Os riscos de supervisão a serem monitorados incluem:

• Falta de transparência. Os modelos de GenAI e do ChatGPT são imprevisíveis e nem mesmo as empresas por trás deles entendem tudo sobre como eles funcionam;

• Precisão. Às vezes, os sistemas de IA generativa produzem respostas imprecisas e fabricadas. Avalie todos os resultados quanto à precisão, adequação e utilidade real antes de confiar ou distribuir publicamente informações; 

• Viés. São necessárias políticas ou controles em vigor para detectar resultados tendenciosos e para lidar com eles de maneira consistente com a política da empresa e com quaisquer requisitos legais relevantes;

• Propriedade intelectual (PI) e direitos autorais. Atualmente não existem garantias verificáveis de governança e proteção de dados com relação a informações confidenciais corporativas. Os usuários devem presumir que quaisquer dados ou consultas inseridas no ChatGPT e em seus concorrentes serão consideradas informações públicas. Por isso, recomendamos que as empresas implementem controles para evitar a exposição inadvertida da PI; 

• Cibersegurança e fraude. As empresas devem se preparar para a utilização dos sistemas de IA generativa por malfeitores para ataques cibernéticos e fraudes, como aqueles que utilizam “deepfakes” para engenharia social de pessoas, e devem garantir a implementação de controles para mitigação. Verifique junto ao seu provedor de segurança cibernética até que ponto sua apólice existente cobre violações relacionadas à IA;

• Sustentabilidade. A GenAI consome uma quantidade significativa de energia elétrica. Escolha fornecedores que reduzam o consumo de energia e aproveitem energia renovável de alta qualidade para minimizar o impacto em suas metas de sustentabilidade.

Recomendações da Gartner

A Gartner também recomenda pensar sobre as seguintes questões:

• Quem define o uso responsável da IA generativa, especialmente à medida que as normas culturais evoluem e as abordagens de engenharia social variam entre as regiões? Quem garante a conformidade? Quais as consequências do uso irresponsável?

• Caso algo dê errado, como as pessoas deverão agir?

• Como os usuários dão e removem o consentimento (aceitação ou recusa)? O que pode ser aprendido com o debate sobre privacidade?

• O uso de IA generativa ajudará ou prejudicará a confiança em sua organização? E nas instituições em geral?

• Como podemos garantir que os criadores e proprietários de conteúdos manterão o controle sobre a PI e serão remunerados de forma justa? Como devem ser os novos modelos econômicos? 

• Quem garantirá o funcionamento adequado ao longo de todo o ciclo de vida e como isso será feito? Os conselhos precisam de um líder de ética em IA, por exemplo?

Finalmente, é importante monitorar continuamente os desenvolvimentos regulatórios e os litígios com relação à IA generativa. China e Singapura já implementaram novas regulamentações relacionadas ao uso da GenAI, e a Itália implementou regras temporárias. No momento, EUA, Canadá, Índia, Reino Unido e UE estão desenvolvendo seus ambientes regulatórios.

Consulte também “Quais são as práticas recomendadas para uso da IA generativa?” e “Devo criar uma política de uso para a IA generativa?”

A área da IA generativa vai crescer rapidamente tanto na descoberta científica como na comercialização de tecnologia. Porém, estão surgindo rapidamente casos de uso sobre conteúdo criativo, melhoria de conteúdo, dados sintéticos, engenharia generativa e design generativo. 

As aplicações práticas de alto nível em uso hoje incluem:

• Criação e aumento de conteúdo escrito: produção de um “rascunho” de texto no estilo e tamanho desejados;

• Formulação de respostas a perguntas e descoberta: possibilidade de os usuários localizarem respostas para as entradas, com base em dados e informações imediatas;

• Tom: manipulação de texto para suavizar uma linguagem ou profissionalizar um texto;

• Resumo: criação de versões mais curtas de conversas, artigos, e-mails e páginas da web;

• Simplificação: explicação de títulos, criação de esboços e extração de conteúdo-chave;

• Classificação de conteúdo para casos de uso específicos: classificação por sentimento, tópico e outros;

• Melhoria de desempenho de chatbot: melhoria da extração de sentimentos, classificação de sentimentos de toda a conversa e geração de fluxos de jornada a partir de descrições gerais;

• Geração de código de software: geração, tradução, explicação e verificação de códigos.

Novos casos de uso

Os novos casos de uso com impactos de longo prazo incluem:

• Criação de imagens médicas que indicam o desenvolvimento futuro de uma doença;

• Dados sintéticos que ajudam a aumentar dados escassos, minimizar vieses, preservar a privacidade de dados e simular cenários futuros;

• Aplicações que sugerem proativamente ações adicionais aos usuários, fornecendo informações a eles;

• Modernização de códigos existentes.

A IA generativa oferece oportunidades novas e disruptivas para aumento das receitas e redução dos custos, bem como melhoria da produtividade e da gestão de riscos. Em um futuro próximo, ela será uma vantagem competitiva e um diferencial. 

A Gartner divide as oportunidades em três categorias.

Oportunidades de receita

Desenvolvimento de produtos: a GenAI permitirá que as empresas criem novos produtos mais rapidamente. Isso pode incluir novos medicamentos, produtos de limpeza domésticos menos tóxicos, novos sabores e fragrâncias e novas ligas, além de diagnósticos melhores e mais rápidos;

Novos canais de receita: uma pesquisa da Gartner aponta que as empresas com uma maturidade de IA mais elevada obterão maiores benefícios nas suas receitas.

Oportunidades de custo e produtividade

Melhoria do trabalhador: a IA generativa poderá melhorar a capacidade dos trabalhadores de elaboração e edição de textos, imagens e outras mídias. A tecnologia também poderá resumir, simplificar e classificar um conteúdo; gerar, traduzir e verificar um código de software; e melhorar o desempenho de um chatbot. Nessa fase, a GenAI é altamente proficiente na criação de uma grande variedade de artefatos rapidamente e em escala;

Otimização de talentos no longo prazo: os funcionários serão diferenciados pela capacidade de conceber, executar e refinar ideias, projetos, processos, serviços e relacionamentos em parceria com a IA. Essa relação simbiótica acelerará o tempo de proficiência e ampliará muito o alcance e a competência dos trabalhadores em todos os níveis;

Melhoria de processos: a GenAI poderá extrair um valor real e contextual de amplas bases de conteúdo, inexploradas até o momento. Isso mudará os fluxos de trabalho.

Oportunidades de risco

Minimização dos riscos: a capacidade da IA generativa de analisar e fornecer visibilidade mais ampla e aprofundada dos dados, como transações de clientes e códigos de software potencialmente defeituosos, aprimoramento do reconhecimento de padrões e a capacidade de identificar possíveis riscos para a empresa mais rapidamente;

Sustentabilidade: a GenAI pode ajudar empresas a agirem em conformidade com regulamentações de sustentabilidade, minimizarem o risco de ativos ociosos e incorporarem a sustentabilidade na tomada de decisões, no design de produtos e nos processos.

A IA generativa afetará os setores farmacêutico, de manufatura, mídia, arquitetura, design de interiores, engenharia, automotivo, aeroespacial, de defesa, médico, eletrônico e de energia, aumentando os processos principais com os modelos de IA.

Ela impactará o marketing, o design, as comunicações corporativas, o treinamento e a engenharia de software, aumentando os processos de suporte que abrangem muitas organizações. Por exemplo:

• Acreditamos que, até 2025, mais de 30% dos novos medicamentos e materiais serão descobertos sistematicamente com o uso de técnicas de IA generativa, algo ainda não realizado até o momento. A IA generativa parece promissora para a indústria farmacêutica, dada a oportunidade de reduzir os custos e ao tempo de descoberta de medicamentos;

• Prevemos que até 2025, 30% das mensagens de marketing enviadas por organizações de grande porte serão geradas sinteticamente. Em 2022, esse número era inferior a 2%. Geradores de texto como o GPT-3 já podem ser usados para criar textos de marketing e publicidade personalizada;

• Nos setores de manufatura, automotivo, aeroespacial e de defesa, o design generativo pode criar designs otimizados para atender a metas e limitações específicas, como de desempenho, materiais e métodos de manufatura. Isso acelera o processo de design, produzindo uma série de soluções potenciais para os engenheiros explorarem.

As tecnologias que fornecem confiança e transparência em IA serão um complemento importante para as soluções de IA generativa. Além disso, líderes executivos devem seguir essa orientação para o uso ético de grandes modelos de linguagem (LLMs) e outros modelos de GenAI:

• Comece internamente. Antes de usar a IA generativa para criar um conteúdo voltado para o cliente, ou outro conteúdo para o público externo, teste extensivamente com partes interessadas internas e com casos de uso de funcionários. Você não gostaria que alucinações prejudicassem os negócios;

• Invista em transparência. Seja aberto com as pessoas, sejam elas seus funcionários, clientes ou cidadãos, sobre o fato de que estão interagindo com uma máquina, rotulando claramente qualquer conversa várias vezes;

• Faça a devida diligência. Estabeleça processos e medidas de proteção para acompanhar vieses e outros problemas de confiabilidade. Faça isso validando os resultados e testando continuamente para conferir se o modelo está deixando de apresentar o progresso esperado;

• Lide com questões de privacidade e segurança. Garanta que dados confidenciais não estejam sendo inseridos nem obtidos. Confirme com o provedor do modelo que os dados não serão utilizados para aprendizado de máquina fora da sua organização;

• Vá devagar. Mantenha a funcionalidade em fase beta por um longo período de tempo. Isso ajudará a ajustar as expectativas por resultados perfeitos.

É provável que a sua força de trabalho já esteja usando a IA generativa, seja em caráter experimental ou para auxílio em tarefas relacionadas ao trabalho. Para evitar o uso “invisível” e uma falsa sensação de conformidade, a Gartner recomenda a elaboração de uma política de uso em vez de decretar uma proibição total. 

Mantenha a política simples. Ela pode ser simplificada para apenas cinco regras de utilização do ChatGPT ou outro modelo pronto para uso:

• Não insira nenhuma informação pessoalmente identificável;

• Não insira nenhuma informação confidencial;

• Não insira nenhuma propriedade intelectual da empresa;

• Desative o histórico se estiver usando ferramentas externas (como o ChatGPT) que permitem essa escolha;

• Monitore de perto os resultados, sujeitos a alucinações às vezes sutis, porém significativas, erros factuais e declarações tendenciosas ou inadequadas.

Se a empresa estiver usando sua própria instância de um grande modelo de linguagem, não precisa se preocupar com a privacidade limitando as entradas. No entanto, ainda deve acompanhar de perto os resultados.

Nas empresas, muitas pessoas trabalham com algum tipo de criação de conteúdo. A IA generativa alterará significativamente esse trabalho, seja por meio da criação de texto, imagens, designs de hardware, música, vídeo ou mais. Em resposta, os trabalhadores precisarão agir como editores de conteúdo, o que requer um conjunto de habilidades diferente da criação de conteúdo.

Enquanto isso, a maneira como a força de trabalho interage com os aplicativos mudará à medida que os aplicativos forem se tornando conversacionais, proativos e interativos, exigindo uma experiência de usuário redesenhada. No curto prazo, os modelos de IA generativa devem evoluir além da resposta a consultas em linguagem natural e começar a sugerir respostas que você não pediu.

Por exemplo, sua solicitação por um gráfico de barras orientado a dados poderá ser respondida com gráficos alternativos que o modelo suspeita que podem ser úteis. Pelo menos em teoria, isso aumentará a produtividade dos trabalhadores, mas também desafiará o pensamento convencional sobre a necessidade de os seres humanos assumirem a liderança no desenvolvimento da estratégia.

A mudança real na força de trabalho vai variar drasticamente dependendo de fatores como a indústria, a localização, o porte e as ofertas da empresa.

Muitas empresas contam com pilotos de GenAI em desenvolvimento para a geração de código, geração de texto ou design visual. Para estabelecer um piloto, é possível seguir uma das três rotas:

1. Pronto para uso. Use um modelo de base existente diretamente inserindo prompts. Você pode, por exemplo, pedir para o modelo criar uma descrição de cargo para um engenheiro de software ou sugerir linhas de assunto alternativas para e-mails de marketing;

2. Engenharia de prompts. Programe e conecte um software a um modelo de base, aproveitando seus dados. Essa técnica, a mais comum das três, permite a utilização de serviços públicos ao mesmo tempo que protege a propriedade intelectual e aproveita dados privados para a criação de respostas mais precisas, específicas e úteis. A criação de um chatbot de benefícios de RH que responde às perguntas dos funcionários sobre políticas específicas da empresa é um exemplo de engenharia de prompt;

3. Personalizado. A criação de um novo modelo de base vai além do alcance da maioria das empresas, mas é possível ajustar um modelo. Isso envolve adicionar uma camada ou dados próprios para alterar significativamente a forma como o modelo de base se comporta. Embora seja uma opção mais cara, a personalização de um modelo oferece o mais alto nível de flexibilidade.

O custo da GenAI pode variar de um valor insignificante a milhões, dependendo do caso de uso, da escala e dos requisitos da empresa. Pequenas e médias empresas podem obter um valor comercial significativo das versões gratuitas de aplicativos públicos hospedados abertamente, como o ChatGPT, ou optar por pagar baixas taxas de assinatura.

Por exemplo, a OpenAI custa atualmente US$ 20 por usuário por mês. No entanto, as opções gratuitas e de baixo custo oferecem uma proteção mínima aos dados corporativos e aos riscos de produção associados.

Grandes empresas e aquelas que desejam uma maior análise ou utilização de seus próprios dados com níveis mais elevados de segurança e proteções de PI e privacidade precisarão investir em diversos serviços personalizados.

Isso pode incluir a criação de modelos licenciados, personalizáveis e próprios com plataformas de dados e aprendizado de máquina, e exigirá colaboração com fornecedores e parceiros. Nesse caso, os custos podem chegar a milhões de dólares.

Também vale ressaltar que os recursos da IA generativa serão cada vez mais integrados aos softwares que você provavelmente utiliza todos os dias, como Bing, Office 365, Microsoft 365 Copilot e Google Workspace. Esse é efetivamente um nível “gratuito”, embora os fornecedores acabem repassando os custos aos clientes como parte de aumentos incrementais nos preços de seus produtos.

A GenAI deve causar um impacto cada vez maior nas empresas nos próximos cinco anos. A Gartner prevê que:

• Até 2024, 40% dos aplicativos corporativos terão IA conversacional incorporada, em comparação com menos de 5% em 2020;

• Até 2025, 30% das empresas terão implementado uma estratégia de desenvolvimento e testes aumentados com IA, em comparação com 5% em 2021;

• Até 2026, a IA de design generativo automatizará 60% do esforço de design para novos sites e aplicativos móveis; 

• Até 2026, mais de 100 milhões de pessoas vão aproveitar colegas robôs para contribuir com o trabalho;

• Até 2027, cerca de 15% dos novos aplicativos serão gerados automaticamente pela IA, sem intervenção humana. Isso ainda não está acontecendo hoje.

O mercado da IA generativa está em alta. Além das grandes plataformas, existem centenas de fornecedores especializados e financiados por um amplo capital de risco e uma onda de novos modelos e capacidades de código aberto.

Provedores de aplicativos empresariais, como a Salesforce e a SAP, estão incorporando recursos de LLM em suas plataformas. Organizações como Microsoft, Google, Amazon Web Services (AWS) e IBM investiram milhões de dólares e um enorme poder de computação para a criação de modelos de base dos quais serviços como o ChatGPT e outros dependem. 

A Gartner considera que os principais nomes do meio são:

• O Google tem dois grandes modelos de linguagem, o Palm, um modelo multimodal, e o Bard, um modelo de linguagem pura. Eles estão incorporando a tecnologia de IA generativa em seu conjunto de aplicativos no local de trabalho, o que vai disponibilizar a ferramenta imediatamente para milhões de pessoas;

• A Microsoft e a OpenAI estão caminhando em sincronia. Assim como o Google, a Microsoft está incorporando tecnologia de GenAI em seus produtos, mas tem ao seu lado a vantagem de ser a pioneira e a popularidade do ChatGPT;

• A Amazon firmou parceria com a Hugging Face, que conta com vários LLMs disponíveis em código aberto para a criação de soluções. A Amazon também tem o Bedrock, que fornece acesso à IA generativa na nuvem por meio da AWS, e anunciou planos para o Titan, um conjunto de dois modelos de IA que criam texto e melhoram pesquisas e personalização;

• A IBM tem vários modelos de base e uma forte capacidade de ajustar seus modelos e os modelos de terceiros, injetando dados, retreinando e empregando o modelo.

Depende para quem você pergunta. A AGI, capacidade das máquinas de igualar ou exceder a inteligência humana e de resolver problemas nunca verificados antes durante um treinamento, provoca um debate complexo e uma mistura de admiração e distopia. A IA está certamente se tornando mais capaz e, algumas vezes, exibindo novos comportamentos surpreendentes que os humanos não programaram.

O caminho provável é a evolução da inteligência mecânica que imita a inteligência humana, mas que visa, no final das contas, ajudar os humanos a resolver problemas complexos. Isso exigirá governança, uma nova regulamentação e a participação de uma ampla faixa da sociedade.