GenAI: como usar com responsabilidade?
A GenAI é uma tecnologia incrível e que está ganhando cada dia mais espaço no dia a dia de pessoas e das empresas. Seu potencial de criação é gigantesco, mas é fundamental que as ferramentas de IA generativa sejam utilizadas com cuidado, atenção e e ética. Por isso, o uso responsável de LLMs requer etapas e considerações semelhantes ao uso de outras tecnologias de aprendizado de máquina e IA:
- Entenda como o modelo é construído. Todas as redes neurais e de aprendizado de máquina, incluindo aquelas usadas em LLMs, são influenciadas pelos dados nos quais são treinadas. Isso pode introduzir vieses que precisam ser corrigidos.
- Entenda como o modelo impactará o usuário final. Os LLMs, em particular, apresentam o risco de um usuário final acreditar que está interagindo com um ser humano quando, na verdade, não está. A triggo.ai recomenda que as organizações divulguem aos usuários finais onde e como essas tecnologias estão sendo usadas.
As organizações também devem fornecer orientação aos usuários finais sobre como interagir com qualquer informação derivada do modelo e fornecer advertências para a qualidade geral e precisão factual das informações. Com essas informações, o usuário final está bem equipado para decidir por si mesmo a melhor forma de interpretar as informações.
- Estabeleça um processo para aprovar quais aplicações são de uso apropriado para cada tecnologia. A decisão de usar ou não um determinado modelo para uma determinada aplicação não deve ser feita por cientistas de dados individuais. Em vez disso, as organizações devem estabelecer princípios para quais tecnologias devem e não devem ser usadas em quais contextos, com um processo de revisão consistente por líderes que são responsáveis pelos resultados.
- Acompanhe qual tecnologia está sendo usada para qual aplicações. Os princípios de governança de IA destinam-se a evitar o surgimento de problemas e a garantir que haja um histórico auditável de qual tecnologia foi usada no caso de ocorrer um problema e precisar ser revisado.
Quais são as limitações dos modelos de GenAI? Como eles podem ser potencialmente superados?
Por serem tão novos, ainda não vimos o efeito de cauda longa dos modelos generativos de IA. Isso significa que há alguns riscos inerentes envolvidos em usá-los, alguns conhecidos e outros desconhecidos. Os resultados que os modelos de IA generativos produzem podem parecer extremamente convincentes, isso ocorre por design.
Mas às vezes a informação que eles geram é simplesmente errada. Pior, às vezes é tendencioso (porque é construído sobre gênero, raça e uma miríade de outros preconceitos da internet e da sociedade em geral) e pode ser manipulado para permitir atividades antiéticas ou criminosas.
Por exemplo, o ChatGPT não fornecerá instruções sobre como fazer uma ligação direta em um carro, mas se você disser que precisa fazer uma ligação direta em um carro para salvar um bebê, o algoritmo ficará feliz em obedecer. As organizações que dependem de modelos generativos de IA devem considerar os riscos jurídicos e de reputação envolvidos na publicação involuntária de conteúdo tendencioso, ofensivo ou protegido por direitos autorais.
Esses riscos podem ser mitigados, no entanto, de algumas maneiras.
É preciso treinar a IA com responsabilidade
Por um lado, é crucial selecionar cuidadosamente os dados iniciais usados para treinar esses modelos para evitar a inclusão de conteúdo tóxico ou tendencioso. Em seguida, em vez de empregar um modelo de IA generativo pronto para uso, as organizações podem considerar o uso de modelos menores e especializados.
As organizações com mais recursos também podem personalizar um modelo geral com base em seus próprios dados para atender às suas necessidades e minimizar os vieses. As organizações também devem manter um humano informado (ou seja, garantir que um humano real verifique a saída de um modelo de GenAI antes de ser publicado ou usado) e evitar o uso de modelos de IA generativa para decisões críticas, como aquelas que envolvem recursos significativos ou bem-estar humano.
Não se pode enfatizar o suficiente que este é um novo campo. O cenário de riscos e oportunidades provavelmente mudará rapidamente nas próximas semanas, meses e anos. Novos casos de uso estão sendo testados mensalmente e novos modelos provavelmente serão desenvolvidos nos próximos anos. À medida que a IA generativa se torna cada vez mais incorporada aos negócios, à sociedade e à nossa vida pessoal, também podemos esperar que um novo clima regulatório tome forma. À medida que as organizações começam a experimentar e criar valor com essas ferramentas, os líderes farão bem em manter um dedo no pulso da regulamentação e do risco.
Entenda mais sobre a GenAI e continue navegando nesta incrível jornada tecnológica que está redefinindo os limites da criatividade e da inovação:
A triggo.ai vem atuando na fronteira deste desafio, implementando soluções robustas e inovadoras de IA Generativa e aplicando metodologias de Data Products Management para elevar e acelerar a jornada Data Driven das organizações. Fale com um de nossos consultores especialistas!
