Proteja a sua propriedade intelectual num mundo de IA

Há pouco mais de um ano, a inteligência artificial (IA) entrou de rompante na consciência pública, despertando um interesse intenso em todo o mundo. O lançamento do ChatGPT em novembro de 2022 desencadeou um frenesim de atividade à medida que os concorrentes da OpenAI se apressavam a lançar os seus produtos e ferramentas no mercado. Os meios de comunicação social suscitaram um interesse generalizado com afirmações de que a IA iria, no mínimo, eliminar milhões de postos de trabalho e, no pior dos casos, seria a sentença de morte da humanidade. Em termos de perturbação das empresas, a IA seria maior do que a Internet.

Depois, à medida que 2023 se aproximava do fim, o excesso de entusiasmo começou a diminuir, substituído por uma aceitação tácita de que a GenAI tinha vindo para ficar e pela noção de que as empresas de todas as dimensões teriam de a adotar rapidamente ou arriscar a capacidade de se manterem competitivas. É claro que muitas organizações foram apanhadas desprevenidas; de facto, poucas faziam ideia de como a GenAI iria afetar as suas operações ou como determinar esse impacto. Mas no espaço relativamente curto de um ano, surgiu rapidamente uma nova linha de TI sombra.

Quase imediatamente, toda a gente teve acesso aos chatbots de IA alimentados por LLM. O ChatGPT e os seus parentes próximos, o Microsoft® Bing® e o Microsoft® Copilot®, bem como os principais concorrentes, incluindo o Google Bard™ e o Google Gemini™, foram rapidamente adoptados pelos funcionários em todas as funções funcionais - muitas vezes sem uma governação empresarial adequada. Isto coloca um problema potencialmente importante para as empresas em termos de proteção da sua propriedade intelectual. Isto deve-se ao facto de a maioria das ferramentas GenAI disponíveis gratuitamente utilizarem as informações introduzidas pelo utilizador como um estímulo para melhorar a precisão das respostas da ferramenta através da reciclagem contínua.

O que é que isso significa? Os chatbots da geração IA utilizam LLMs capazes de interpretar e gerar linguagem, aprendendo as relações estatísticas entre palavras de milhões de documentos de texto durante um processo de "treino". Como parte dos termos de serviço de muitas ferramentas GenAI online gratuitas, todos os dados passados para a ferramenta durante a solicitação de resposta podem muitas vezes ser usados para o subsequente ajuste fino do LLM para melhorar a sua precisão.

Em particular, as melhores práticas relativas à criação de pedidos encorajam os utilizadores a incluir texto de exemplo para dar ao LLM um exemplo do que procurar. Se o exemplo provém de um documento interno proprietário, foi efetivamente libertado para o domínio público. Como disse Owen O'Connell, vice-presidente sênior e CIO da Shell, "Não podemos permitir que coisas como a nossa estratégia corporativa passem pelo ChatGPT".

Neste artigo da FAIR AI Insights, que aborda as considerações das empresas que pretendem adotar chatbots potentes alimentados por modelos de IA generativa, especificamente Modelos de Linguagem Grandes (LLM) de geração de texto, utilizando os seus ambientes de dados e explora estratégias para aliviar quaisquer preocupações associadas,.

A proteção e a confidencialidade dos dados são aspectos fundamentais de qualquer arquitetura empresarial abrangente, mas a disponibilidade do GenAI SaaS para os consumidores e os benefícios imediatos que proporciona aos trabalhadores do conhecimento aumentaram o risco de fugas de dados. As organizações devem adaptar imediatamente as suas políticas e procedimentos de governação de dados para gerir a adoção e a utilização da GenAI em toda a organização.

A questão torna-se então: Como é que uma empresa pode utilizar a GenAI e, ao mesmo tempo, proteger a sua propriedade intelectual?

Essencialmente, tudo se resume à adoção de uma versão internalizada de um modelo GenAI. Mas, tal como acontece com todos os serviços em nuvem, as empresas têm de se colocar a questão: Devemos aceitar o nível de proteção de dados oferecido pelas ferramentas GenAI orientadas para a empresa que muitos fornecedores de nuvens públicas oferecem, ou devemos utilizar a tecnologia de nuvens privadas?

Michael Carbin, Professor Associado do MIT, disse recentemente: "Se nos preocupamos profundamente com um problema específico ou se vamos construir um sistema que é fundamental para o nosso negócio, é uma questão de saber a quem pertence a nossa PI." No que diz respeito à privacidade dos dados para utilizações empresariais internas da IA generativa, as expectativas não são diferentes das de outras aplicações de TI. Uma empresa quererá ter controlo e supervisão absolutos sobre qualquer ferramenta de IA que utilize os seus dados proprietários.

Uma opção é um ambiente informático privado dedicado. A outra opção são os serviços de nuvem pública. A determinação da melhor opção para uma organização depende da tolerância ao risco da empresa. Para os sectores altamente regulamentados, os ambientes privados são muito provavelmente a escolha certa. A IA na nuvem pública pode ser adequada para empresas que dependem menos de dados sensíveis.

No entanto, todas as empresas têm alguma informação sensível para salvaguardar. O resultado final é que as ferramentas GenAI podem aumentar muito a produtividade dos funcionários, como muitos já estão a descobrir fora da rigorosa governação empresarial. Ao mesmo tempo, as empresas não se podem dar ao luxo de ignorar o risco que isto representa para os seus dados proprietários e propriedade intelectual.

o ano de 2023 abriu as portas a um interesse público e a uma adoção sem precedentes da IA e, atualmente, a corrida continua para implementar uma governação responsável desta tecnologia potencialmente transformadora, mas arriscada.

O caminho a seguir consiste em integrar plena e responsavelmente as soluções GenAI em toda a empresa, de modo a que os empregados disponham das ferramentas de que necessitam sem terem de recorrer a ferramentas SaaS prontamente disponíveis para os consumidores.

Join the Conversation: Find Solve on Twitter and LinkedIn, or follow along via RSS.

Stay on top of what's next in technology

Learn about tech trends, innovations and how technologists are working today.